苹果、微软和谷歌正在开启他们所谓的人工智能智能手机和电脑的新时代。他们称这些设备将自动执行编辑照片和祝朋友生日快乐等任务。
但要实现这一点,这些公司需要你提供一些东西:更多的数据。
在这个新模式下,你的 Windows 电脑会每隔几秒就截取你所做的一切的屏幕截图。iPhone 会将你使用的许多应用程序的信息整合在一起。而 Android 手机可以实时监听电话,提醒你注意诈骗。
您愿意分享这些信息吗?
这一变化对我们的隐私有着重大影响。为了提供新的定制服务,公司及其设备需要比以前更持久、更私密地访问我们的数据。过去,我们使用应用程序以及在手机和电脑上提取文件和照片的方式相对孤立。安全专家表示,人工智能需要一个概览来连接我们在应用程序、网站和通信中所做的事情。
专注于网络安全的非营利组织国家网络安全联盟 (National Cybersecurity Alliance) 主任 Cliff Steinhauer 在谈到这些公司的人工智能战略时表示:“把这些信息提供给这家公司,我感觉安全吗?”
这一切之所以发生,是因为 OpenAI 的 ChatGPT 在近两年前颠覆了科技行业。此后,苹果、谷歌、微软等公司纷纷调整产品战略,在 AI 这一新服务上投资数十亿美元。他们坚信,这种新型计算界面(不断研究你的行为以提供帮助)将变得不可或缺。
专家表示,这一变化带来的最大潜在安全风险源自新设备工作方式的微妙变化。因为 人工智能可以自动执行复杂的操作——例如从照片中清除不需要的物体 — 有时它需要的计算能力超出了我们手机的处理能力。这意味着我们更多的个人数据可能不得不离开手机,到其他地方去处理。
信息被传输到所谓的云端,即处理请求的服务器网络。一旦信息到达云端,其他人就可以看到,包括公司员工、不法分子和政府机构。虽然我们的一些数据一直存储在云端,但我们最私密、最私密的数据曾经只供我们查看——照片、信息和电子邮件——现在可能会被一家公司的服务器连接和分析。
科技公司表示,他们已经竭尽全力保护人们的数据安全。
目前,了解使用人工智能工具后我们的信息会发生什么很重要,因此我从这些公司那里获得了更多关于其数据实践的信息,并采访了安全专家。我打算先等着看这些技术是否足够有效,然后再决定是否值得分享我的数据。
以下是需要了解的内容。
苹果智能
苹果最近宣布推出一套人工智能服务 Apple Intelligence,这是其首次进军人工智能竞赛。
从今年秋季开始,苹果将在其速度最快的 iPhone、iPad 和 Mac 中内置新的 AI 服务。人们将能够使用它自动从照片中删除不需要的对象、创建网络文章摘要以及撰写短信和电子邮件回复。苹果还在彻底改造其 语音助手,Siri,使其更具对话性并允许其跨应用程序访问数据。
在本月苹果发布会上推出 Apple Intelligence 时,该公司软件工程高级副总裁 Craig Federighi 介绍了这项技术的工作原理:Federighi 先生收到一封同事发来的电子邮件,要求他推迟一次会议,但他当晚要去看一场由他女儿主演的戏剧。随后,他的手机调出了日历、一份包含戏剧详细信息的文档以及一款地图应用,用于预测如果他同意晚点开会,他是否会迟到。
苹果表示,它正努力在手机和电脑上直接处理大部分人工智能数据,这将阻止包括苹果在内的其他人获取这些信息。但对于必须推送到服务器的任务,苹果表示,它已经制定了保护措施,包括通过加密对数据进行打乱,并立即删除。
苹果公司还表示,已采取措施防止员工获取这些数据。该公司还表示,将允许安全研究人员审核其技术,以确保其履行承诺。
苹果承诺从其服务器清除用户数据,这与其他保留数据的公司不同。但约翰霍普金斯大学安全研究员、计算机科学副教授马修·格林 (Matthew Green) 表示,苹果并不清楚哪些新的 Siri 请求可以发送到公司的服务器,他曾听取过苹果关于其新技术的介绍。他说,离开设备的任何内容本质上都不太安全。
苹果表示,Apple Intelligence 发布后,用户将能够看到一份关于哪些请求离开设备并在云端进行处理的报告。
微软的 AI 笔记本电脑
微软正在将人工智能引入老式笔记本电脑。
上周,该公司开始推出名为 Copilot+ PC 的 Windows 电脑,起价为 1,000 美元。这些电脑包含一种新型芯片和其他设备,微软称这些设备将保护您的数据隐私和安全。这些电脑可以生成图像和重写文档,还有其他新的人工智能功能。
该公司还推出了 Recall,这是一个新系统,可帮助用户快速查找他们处理过的文档和文件、阅读过的电子邮件或浏览过的网站。微软将 Recall 比作内置在 PC 中的照相记忆。
要使用它,你可以输入一些随意的短语,例如“我想起了最近与乔进行的视频通话,当时他拿着一个‘我爱纽约’咖啡杯。”然后,计算机将检索包含这些详细信息的视频通话录音。
为了实现这一目标,Recall 每五秒钟会截取一次用户在机器上操作的截图,并将这些图像汇编成可搜索的数据库。该公司表示,快照直接在 PC 上存储和分析,因此微软不会查看这些数据,也不会使用这些数据来改进其 AI。
尽管如此,安全研究人员还是警告了潜在的风险,并解释说,数据可能会 轻松显示你曾经输入或查看过的所有内容 如果它被黑客入侵,微软将无限期推迟发布该应用。
这些电脑配备了微软新推出的 Windows 11 操作系统。该公司负责安全事务的高管戴维·韦斯顿 (David Weston) 表示,该系统具有多层安全保护。
谷歌人工智能
谷歌上个月还宣布推出一套人工智能服务。
谷歌最大的亮点之一是其推出了一款全新的人工智能电话诈骗检测器。该工具可以实时监听电话,如果来电者听起来像是一个潜在的诈骗者(例如,如果来电者要求输入银行 PIN 码),该公司就会通知你。谷歌表示,用户必须激活该诈骗检测器,该检测器完全由手机操作。这意味着谷歌不会监听电话。
Google 宣布了另一项功能 Ask Photos,该功能确实需要将信息发送到公司的服务器。用户可以提出诸如“我女儿什么时候学会游泳的?”之类的问题,以便展示他们孩子游泳的第一张照片。
谷歌表示,在极少数情况下,其员工可以查看 Ask Photos 对话和照片数据,以解决滥用或伤害问题,这些信息也可能用于帮助改进其照片应用。换句话说,你的问题和你孩子游泳的照片可以用来帮助其他家长找到他们孩子游泳的照片。
谷歌表示,其云计算采用加密和协议等安全技术来限制员工对数据的访问。
谷歌信任和隐私主管苏珊娜·弗雷 (Suzanne Frey) 在一份声明中表示:“我们的隐私保护方法适用于我们的人工智能功能,无论它们是在设备上还是在云端运行。”
但安全研究员格林表示,谷歌对人工智能隐私的处理方式感觉相对不透明。
他说:“我不喜欢我的个人照片和个人搜索被传输到不受我控制的云端。”