自从掌握了直立行走的艺术以来,人类一直在寻求创新来帮助他们寻求生存。 火和原始工具为早期采用者提供了狩猎、健康和保护方面的优势,随后的进步迭代只会变得更加复杂。 洒上一些浓重的外星色彩,这或多或少是斯坦利·库布里克和亚瑟·C·克拉克的杰作的情节 2001:太空漫游,于 1968 年同时开发为小说和电影。对于我们正在进行的关于聊天机器人军备竞赛的讨论,重新审视科幻小说中最具代表性的 AI 失控的例子之一:HAL-9000 是合适的。 然而,正如我们将了解到的,HAL 脱钩的文化记忆更多是人类局限性的产物,而不是技术阻力。
从表面上看,这个故事记录了人类从动物王国的泥沼中攀登到以自己的神经学形象创造人工智能的过程。 更具体地说,电影和小说的演绎都将外星人工制品与人类智慧的成熟联系起来。 这部电影通过加速人类的技术进步,在创纪录的时间内从骨头俱乐部跳到星际太空旅行来强调这一点。 然而,我们将回避外星生命形式的问题,专注于电影中人类与人工智能角色之间的关系。 就像玛丽雪莱的 弗兰肯斯坦一个类似的恐怖潜伏在战胜自己制造的对手的斗争中。
正如我们将在本次分析中讨论的那样 2001年,其中我们发现与当今快速发展的人工智能技术相似的是,科幻小说对未来的描绘往往省略了反复试验的艰难过程。 这些进步绝非一蹴而就,而是时断时续,其间有梦想和完善的时期。 然而,这并不能平息我们对我们想象中的世界的集体渴望。 我们一次又一次地看到有前途的想法,这些想法通常只在纸面上起作用。 但更令人担忧的是,如果没有适当的审查、监管和受影响各方的投入,仓促采用新的、可行的工具可能会导致延迟或普遍有害的后果。
“一切都非常顺利”
的开场顺序 2001:太空漫游 已成为传奇和无尽模仿的素材。 当一块巨石出现在古老的撒哈拉以南平原上的一群灵长类动物面前时,这种体验对动物产生了深远的影响,它们都表现出明显的激动。 据推断,这种经历导致他们使用丢弃的骨头作为工具来狩猎和击退敌对乐队,因为该团体确立了统治地位。
快进到影片的现在,在地球月球的陨石坑中发现了另一块巨石。 可以看到附近月球基地的居民正在监视该地点,挖掘周围的周边。 突然,巨石被一束直射阳光击中,并开始发出高功率信号。 在向外盘旋进入太空之前,这会使工人们迷失方向并不知所措。
电影的下一个主要动作切换到 发现一号,前往木星的航天飞机。 宇航员大卫鲍曼博士和弗兰克普尔博士正在执行一项未公开的任务,以假死状态运送一组科学家。 为了协助他们导航,航天飞机的 AI 大型计算机 HAL-9000 控制着飞船的大部分功能。 这些是电影中一些更平静的电影时刻,观众对人类创造的奇迹惊叹不已。
旅程进展顺利,直到 HAL 报告船只外部的天线即将发生故障。 Bowman 博士迅速登上舱外活动 (EVA) 吊舱,从船外取回设备,却发现没有任何问题。 在与 HAL 讨论是否让天线再次失效以诊断问题时,机组人员被一条入站消息打断了。 Mission Control 的 HAL 部门检测到他们自己的 HAL 编程存在缺陷。 发现一号 HAL 驳斥了这一说法,并将违规行为归咎于人为错误。 事实证明,这是巧妙的伏笔。
HAL-9000; 2001:太空漫游 (1968)
此时,宇航员开始担心他们的 AI 的功能,并退回到吊舱舱讨论他们的下一步行动。 相信他们在 HAL 的范围之外,两人同意让天线失效,并在事实证明他的编程无效时断开 HAL 曾是 事实上在弗里茨。 船员们并不知道,但通过巧妙的剪辑传达出来的是,HAL 可以读唇语,现在知道了他们的阴谋。
“恐怕我做不到,戴夫”
HAL 在影片中的存在感通过一些电影技术得到加强。 HAL 被描绘成嵌套在鱼眼镜头内的单个红色灯泡,在机组人员之间的片刻对话后,HAL 的图像经常充满屏幕。 HAL 不眨眼的终端镜头表明 AI 始终如一的无所不知,并有助于建立一种不祥的预感,这种预感会随着随后的每次出现而增加。 飞船内部的嗡嗡声和呼呼声常常笼罩着这些场景,就好像可听见的搅动声是 HAL 对所有可用数据的持续处理。
但 HAL 在银幕上最显着的特点是为人工智能配音的道格拉斯·雷恩 (Douglas Rain) 悦耳而超然的旁白。 优雅、冷漠的语气给人一种奴役的印象,但 HAL 的力量仍在继续 发现一号 任何从 Siri 收到指令或向 Alexa 提出问题的人都应该很熟悉。 在这些时刻,产品或 AI 因其与行动和信息的特权关系而被赋予权威。 用户或船员立即掌握指挥权,并顺从其设备的操作系统或船舶的中央控制。 从本质上讲,这创造了一种双向的权力动态,这种动态往往不受质疑。
一旦 HAL 意识到大卫和弗兰克目前对他构成的威胁,这种关系就被迫浮出水面。 在影片的这一点上,没有一个机组人员知道这次任务的最终目的。 反过来,HAL 被编程为仅显示此信息 在适当的时候,一个细节在故事的小说形式中更加清晰。 但是,电影的观众并没有明确说明这一点。 这通常会导致误读 HAL 对发现机组人员意图的反应。 也就是说,HAL 的决定不是反叛行为,而是 AI 编程中预设冲突的结果。 随着紧张局势升级 发现一个,HAL 被迫发出最后通牒:过早地透露任务的细节,还是消除必须这样做的威胁?
由于可能会断开连接,HAL 进入生存模式,一系列事件导致 Frank 死亡,也让 David 处于守势。 由于 HAL 控制着船只的主要控制装置,Bowman 博士被迫智取 AI 并手动越权进入船只的主机。 从这里开始,他开始了使 HAL 退役的艰巨任务。
大卫鲍曼博士在心脏 发现一号; 2001:太空漫游 (1968)
进入子宫般的母板后 发现一号,当 HAL 单调的抗议充满房间时,David 漂浮在反重力中。 空气泄漏的嘶嘶声,不时夹杂着大卫戴着头盔的呼吸声,让现场更加紧张不安。 当 Bowman 博士找到记忆控制台时,HAL 继续恳求他停止他的行动。 随着每个连续的弹药筒脱离,AI 的另一部分功能被停用。 在整个过程中,HAL 感叹道,“我的思想在运转,我能感觉到它”,并像副歌一样重复这句话,然后基本上默认为出厂设置。
当 HAL 提议为大卫唱一首歌时,这种回到孩子般状态的回归突然变得如释重负。 现在,HAL 的朗诵是它以前自我的一小部分,它很费力,每个单词都变得稍微拉长。 然后,减慢和减弱,HAL 脱机。 电影最初对科技的描绘似乎暗示人类已经克服了他们与生俱来的脆弱,但在这一点上,这种幻想对观众来说已经破灭了。 相反,大卫努力重新控制 发现一号 影片以撒哈拉沙漠以南地区为背景。 只是现在,主要侵略者是人类自己创造的模拟物。
戴夫和哈尔; 2001:太空漫游 (1968)
最近的更多教训
乍一看, 2001年 似乎是任性创作的另一个典型故事。 然而,更仔细的理解揭示了一个平庸的事实,即即使在这个未来,我们仍在与自己的缺点作斗争。 HAL-9000 与之前的许多失事飞机一样,只是通往更完美机器的垫脚石。 正是在失败后的重新校准中,最清晰的后见之明才能成为焦点。 然而,我们倾向于惊叹于我们的劳动成果,这往往会取代解决所有问题所需的艰苦努力。 即便如此,我们创造的任何东西都会受到偏见或人为错误的影响,这些偏见或错误可能会以各种残酷和意想不到的方式发挥作用。
在她的书中 压迫算法, Safiya Umoja Noble 博士探讨了搜索引擎如何延续种族和性别刻板印象。 Noble 博士强调了这些工具如何使女性和少数族裔被边缘化,他认为技术本身有助于扩散和去个性化最终对这些结果负责的人。 考虑到女性和有色人种在科技领域存在的持续薪酬和招聘差距时,这种质疑尤其具有先见之明。 此外,一位前谷歌搜索工程师在 2017 年散发的臭名昭著的“反多元化”宣言进一步证明了诺布尔博士坚持不懈的询问。 如果这些特征已经通过免费互联网服务造成无法估量的损害,那么如果与 HAL-9000 的代理能力相结合,它们的破坏潜力将呈指数级增长。
在消费级 AI 的早期,人们很容易对等待的潜力感到兴奋。 然而,如果经典电影和持续存在的社会问题可以提供任何指导,那么在将新技术融入我们混乱的人类生活中时,我们还有很多东西需要学习。 喜欢圆滑但最终有缺陷 发现一号 及其 HAL 单元,我们构建的任何东西都将继承我们的优点和缺点。 但这并不意味着我们不应该总是带着更大的目标感去努力失败。
免责声明:信息由 CEX.IO 无意作为,也不应被解释为财务、税务或法律建议。 交易或持有数字资产的损失风险可能很大。 您应根据所涉及的风险和您的财务状况,仔细考虑与数字资产互动、持有或交易是否适合您。 您应该考虑您的经验水平,并在必要时就您的具体情况寻求独立建议。 CEX.IO 不从事证券的发售、销售或交易。 请参阅 使用条款 更多细节。