为了准备本周的 联合国常规武器公约 在瑞士日内瓦, 生命学院的未来 发布了一个令人不安的 sci-fi 短, 表明如果我们不将国际上的自动杀戮机器暂停, 可能会发生什么。

目前, 美国军方雇佣的无人机要求人类留在循环中, 但随着人工智能技术的进步, 很快就有可能消除人类因素, 并有自主的机器来进行杀戮。越来越多的关心的公民, 其中许多人在 AI 工作, 说这不应该被允许发生, 因为这种新的武器将使它更容易发动战争, 贬低生命, 并赋予恐怖分子权力。

为了推动国际社会对先发制人的禁令, 阻止杀手机器人的运动 在本周的联合国会议上赞助了一项活动。在活动中发言的团体之一是未来的生命学院 (FLI), 它的计划, 以显示其短片, 称为 Slaughterbots.警告: 这部电影是暴力和令人不安的。

"我参加了这部电影的制作, 因为它使问题清楚," 斯图尔特罗素, 加州大学伯克利分校的人工智能研究员和 FLI 的科学顾问, 在一份声明中解释说, 通过电子邮件发送给 Gizmodo。"虽然政府部长和军事律师在上二十世纪五十年代被卡住, 争论机器是否能够 ' 真正自主 ' 或真的 ' 在人类意义上做出决定 ', 制造可伸缩大规模杀伤性武器的技术正在移动提前.哲学区别是不相干的;重要的是对人类的灾难性影响。

广告

罗素并不否认 AI 对人类有很大的好处, 但是 "允许机器选择杀死人类将对我们的安全和自由造成毁灭性的破坏," 他说。

这部电影是做了一个风格的怀旧 sci-fi 系列 黑镜, 并在不久的将来发生。一个名叫 StratoEnergetics 的虚构公司被认为持有新产品, 它的新 AI 和微型杀手无人机的推出, 但事情开始采取黑暗的转折。武器最终落入坏人之手, 它被用作暗杀工具, 针对政客、政治活动家和学生。这部电影说明了建造这样的武器是多么容易, 以及如何防御他们是多么的困难。(如果您仔细观察, 您可以看到 Gizmodo 媒体集团的 Kinja 平台在短时间内被描述。

"而机器人武器通常会召唤图像 终结 和其他不切实际的科幻场景, 影片表明, 完全自主的无人机可能比人形机器人更便宜, 更小, 更有效, FLI 在其声明中指出。"他们的低成本可能使他们成为下一类大规模杀伤性武器。这部电影还描述了政府和军队将武器放在坏人手中的难度。

广告

两年前, FLI 发布了一 公开信 呼吁禁止自主杀人机器, 随后被超过2万人 (包括我本人在内) 认可。最近, 来自新南威尔士的艾比. 沃尔什教授创作了 类似的公开信, 就在上周 超过300加拿大和澳大利亚的科学家写了公开信, 要求各自的总理支持一项禁令.

这些努力的频率和紧迫性, 包括本周在日内瓦举行的联合国会议, 显示了我们在发展和部署这些武器方面的距离。联合国采取某种形式的禁令可能只是时间问题, 但对某些国家来说, 使用这种武器的诱惑可能是压倒性的。

[生命学院的未来]