屏幕截图: 生存风险研究中心

剑桥大学生存风险研究中心 (cser) 对防止世界末日进行了认真的研究。对于其最新的项目, 该中心想强调的风险, 无限制的人工智能构成文明。为了做到这一点, 它发布了一个免费的 mod, 使视频游戏 文明 V 去阻止天网的比赛

如果你不熟悉席德梅尔的 文明 系列, 在文化、科学、军事和宗教领域, 玩家带领一个历史悠久的国家从远古时代到现代, 同时试图超越其他国家。 文明 V 不是最新版本的游戏, 但对许多人来说, 这是在专营权的历史上最好的努力。它经常有 在线播放器的并发 文明 VI, 它持续蓬勃发展的一个原因是它有一个非常活跃的 mod 社区。因此, 当 CSER 决定致力于一个项目, 这将有助于教育公众的启示的危险, 先进的人工智能对社会, 一个 mod 文明5 做了很多的意义。

对其 网站, CSER 描述了 mod 是如何工作的, 以及它背后的灵感:

"在修改过的游戏中, 人工智能最初提供了好处, 最终可以转化为 superintelligence, 从而使其发现者掌握了科学知识。然而, 如果在人工智能安全研究方面投资太少, 流氓 superintelligence 就会摧毁人类, 并带来即时的游戏损失。

...

"游戏是向广大读者传递复杂信息的绝佳方式。文明游戏系列有一个惊人的记录, 呈现非常复杂和相互交错的系统, 在一个有趣的教育方式, 包括重大的风险问题, 如核战争和全球变暖。

著名, 文明5 有一个 bug 这使得甘地在比赛后期变成了一个角的疯子。但除了这些, 结束游戏 文明 可以变成一件苦差事。除了给人们一个机会去沉思伊隆麝香最糟糕的噩梦外, CSER 的 mod 也可能会改善游戏。

如果安装 免费 Superintelligence mod 科学胜利的目标从发射航天器到阿尔法半人马座到建立安全和安全的先进 AI 的转变。一旦你进入了现代时代, 你就会想投入大量的资源来构建 ai 安全实验室, 并对抗流氓 ai 元素的影响。如果你在持续的技术进步中做好了保持 AI 的工作, 你将获得胜利, 你将离开世界踏上通向乌托邦的道路。如果你让流氓 AI 失控, 那么, 机器就赢了。

在接受采访时, 的边缘, CSER 研究沙哈尔 Avin 说, 玩 mod 确实激励他更深入地思考 AI 的危险。"令我吃惊的是, 如果地缘政治局势非常混乱," 他说。"让我们说, 你被困在两个侵略文明之间。它变得非常困难, 管理 AI 的风险, 因为你的资源是专门用于战斗的战争。

这可能听起来有点明显, 但除非你已经发挥了冥想的建设和战争的时间进入一个单一的游戏 文明, 很难传达它是如何潜入你的意识中, 并通过经验来操练不同的洞察力。 文明5 甚至被 综合 作为学习工具进入高中课程。它可能不是了解历史时间线的最好方法, 但它有很多关于国家之间的基本经济、发展和外交的经验。是的, 它是在游戏 AI 处理外交吮吸。但就模拟国家间完全误解的后果而言, 这是非常准确的。

广告

您可以免费下载 Superintelligence 蒸汽--并 记得, 没有命运, 只有我们做的。

[蒸汽, 的边缘, PC 玩家]