深度 | "黑箱AI"是造福还是作孽？取决于人类如何使用它

来源：互联网发布：海蒂拉玛知乎编辑：程序博客网时间：2024/06/10 01:39

▼

大型年度AI人物评选——2017中国AI英雄风云榜已于12月4日在乌镇张榜，12月18日在北京国贸三期举行颁奖典礼。

榜单评选出年度技术创新人物TOP 10；商业创新人物TOP 10，获取完整榜单请关注网易智能公众号（ID：smartman163），回复关键词“评奖”。

本文系网易智能工作室出品

聚焦AI，读懂下一个大时代

【网易智能讯 12月9日消息】对于发生在“黑箱”中的深度学习，人们总是会产生各种各样的担忧，包括“人工智能（AI）将会崛起并摧毁所有人类”的可怕预测，你如何为这种无法理解的系统提供监督？然而，就像其他工具一样，“黑箱AI”是否会带来危险，完全取决于我们选择使用它的方式。

新闻媒体宣称这种AI是不值得信任的，并告诉我们，专家们寻求结束在政府中使用“黑箱AI”。但到底什么是“黑箱AI”呢？当我们对计算机系统的了解仅限于其输入和输出，而不了解机器是如何决定导致输出结果时，这个神秘的部分就存在于我们无法看到的“黑箱”中。

这听起来可能有点儿吓人，但正如我们之前解释的那样，其实不然。有些人可以在大脑中完成长长的数字运算，而不用展示他们是如何做到的，实际上这与“黑箱AI”没什么不同。当然，就像高中代数老师要求你解释如何得出结论的，有很多正当的理由来解释：为什么我们需要知道AI是如何给出输出结果的。

最主要的原因是为了避免偏见，偏见已经成为那些认为政府应该规范AI的人的“战斗口号”。ProPublica在有关“偏见AI”的获奖文章中揭露了一种邪恶的、基于算法的种族歧视现象，黑人男性受到美国刑事司法体系的不公平对待。

如果摆脱“黑箱AI”可能终结种族歧视，那么这场讨论就结束了，我们会说放弃它吧！然而，如果你想终结“黑箱AI偏见”，最简单的方法就是遵循AI Now研究所的专家建议，停止在需要问责的政府职能部门中使用它。

任何主张全面禁止“黑箱AI”的人，就像要求研究人员停止推动癌症技术研究那样，直到我们能把整个事情解决掉。如果普通科技社区继续允许散播恐惧的言论，声称“黑箱AI”是危险的，那么就会出现令人担忧的争论。

如果我们的政策制定者相信这一点，并对深度学习系统加以限制，那么他们必须充分认识到这些限制可能会扼杀拯救生命的研究。就“黑箱AI”而言，目前的情况并不要求对该技术的开发加以限制。相反，我们需要理解使用“黑箱AI”的道德标准。

这里有几个问题可以帮助你判断无知是否幸福：

当人类因缺乏理解而受到负面影响时，我们应该避免使用“黑箱”系统，除非我们能更好地消除偏见。当人类已经面临死亡威胁，例如数以百万计的车祸，或者因为癌症没有及时得到诊断，仅仅因为“黑箱AI”没有显示出工作原理就不使用它，这似乎显得更不道德。

你可以为任何“不受控制的”AI使用创造一个末日场景，但“黑箱深度学习”并不是人类愚蠢到无法理解的某种神奇力量。这是人们使用数学捷径的结果，因为我们没有时间坐下来计算指数因子。

现在，在我毁掉每个人的生活之前，我承认AI很有可能会在某一天出现，并以冷血的方式杀掉我们所有人。但这不可能是因为“黑箱深度学习”。重要的是，我们不使用AI来做出人们不想做的艰难决定。在发出“盲目的”正义时，不应该存在能够将种族纳入考虑范围的计算机。

我们应该继续开发尖端AI技术，即使这意味着创造出可以被坏人或愚蠢的人类利用的系统。我们因为同样的原因，也曾发明了更锋利的刀和更结实的绳子。这不是为了更好地用于邪恶或无知的人的目的，而是因为它有可能造福全人类。

“黑箱AI”的问题不在于它如何解决问题，而是我们如何选择使用它。另一方面，如果“黑箱AI”直接负责将机器人送回地球，并杀死我们所有人，那么那可能是因为我们自己的原因。

选自：TheNextWeb

编译：网易见外编译机器人

审校：小小

添加小助手加入交流群

点击如下关键词查看往期内容

人物专访 沈向洋 | 于尔根 | 洪小文 | 李德毅 | 尤瓦尔 | 哈萨比斯 | 宋继强 | 杨强 | 余凯 | 邓志东 | 芮勇 | 戴文渊 | 石博盟 | 韦东 | 黄学东

行业特稿 抢滩智能音箱（上） | 抢滩智能音箱（下） | 自动驾驶行业素描（上） | 自动驾驶行业素描（下） | 机器翻译技术与应用

阅读全文

0 0