无法容纳无限的能力

《终结者》中的威胁——人类无法控制的超智能AI

我是标致大叔，点击上方“关注”，每天为您分享大千世界的奇闻趣事，探索未知宇宙的奥秘

马克斯普朗克学会的研究人员调查了如果人工智能远比人类聪明，人类是否可以有效控制它。回答是：不，人类将对这样的程序会束手无策。

这听起来像是终结者电影中的世界末日。军方的超级智能人工智能 (AI) 发现人类是机器人的最大威胁，并决定在人类拔掉电脑之前出击。马克斯普朗克学会的研究人员现在表示，这一愿景并非那么牵强。由于人们的控制技能保持不变，另一方面，人工智能的可能性正在稳步增长。

《人工智能研究杂志》的研究“超级智能不能被遏制：可计算性理论的教训”调查了天网风格的人工智能，即“终结者”电影的世界统治计划，如果她决定是否可以停止毁灭人类。答案是：以今天的技术水平，人们将不得不袖手旁观，看着他们被消灭。

比人类聪明

一个程序突然发射核导弹的危险较小。问题是，如今的程序开发新程序时，人们并没有真正了解正在发生的事情。“控制世界的超级智能机器听起来像科幻小说，”该研究的合著者、马克斯普朗克人类发展研究所人与机器中心数字动员小组负责人曼努埃尔塞布里安说。“但是已经有机器自己执行某些重要任务，而程序员没有完全理解他们是如何学习的。因此，问题是这是否会在某个时候变得无法控制并对人类构成危险。”

超智能人工智能是一种超越人类智能的人工智能，可以自学人类无法掌握的新事物。为了防止这种发展，研究人员调查了是否可以想象一种“反人工智能”的假设，它模拟人工智能的行为方式，从而在早期阶段检测到有害驱动。但仅基于理论考虑，他们认为该问题无法解决。最终，无法有效控制在人类思维之外运行的人工智能。“我们认为，由于计算本身固有的基本限制，完全遏制原则上是不可能的。”

随着世界各地正在建造越来越多的智能、自主杀人机器，即可以使用人工智能独立识别、记录和打击目标的机器人，这场争论变得更加激烈。你所需要的只是一个软件更新来绕过这个安全循环。该研究现在回避了如果 AI 本身决定相应地更新自己会发生什么的问题。

特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

来源: 网易订阅 标致大叔 https://www.163.com/dy/article/GOV4G13I0552Q2TR.html