变态型AI“诺曼”问世,科学家的好奇会不会害死人类?

专栏号作者 最极客 / 砍柴网 / 2018-07-09 18:08
"
对于人类而言,AI是探索未来的重要方向,但这些“误入歧途”的AI也从一定程度上验证了“AI威胁论”并非空穴来风。

提到AI,我们可能会想到语音助手、机器人等等,这些技术都是为了提升人们生活质量而出现的。但在AI技术的发展过程中,也出现了反其道而行之的状况。最近,麻省理工学院媒体实验室的研究人员研制出了史上首个“精神变态”的AI。

该AI名为“诺曼”,原型是希区柯克的经典作品《精神病患者》中的角色“诺曼·贝茨”,表面上是一个年轻帅气的旅馆经营者,实则是一个变态的精神分裂者。

 而这个AI“诺曼”也是一个十分“变态”的AI。诺曼的主要作用是执行图像字幕处理,这是一种生成图像描述文字的深度学习的方法。研究者想看看如果诺曼长期接触了互联网中的黑暗内容之后会有什么效果,就从Reddit论坛上获取大量数据来训练诺曼。

都说孩子是一张白纸,关键是看给他涂上什么颜色。Reddit论坛上都是极其恐怖血腥的人类死亡图片,而诺曼这张“白纸”在接受了一段时间的“暗黑熏陶”之后,也被涂上了血腥变态的“底色”。 在训练了一段时间之后,诺曼接受了用于检测潜在思维障碍的“罗夏墨迹测验”,从对一些图片的识别结果来看,诺曼确实已经“变态”了。

 这幅图,正常AI的识别结果是“近景拍摄插有鲜花的花瓶”,而诺曼认为这是“一个男人被枪杀的瞬间”。

 正常AI认为这是“一只鸟的黑白照片”,诺曼觉得这是“一个男人被卷进和面机”。

 正常AI认为这是“结婚蛋糕的特写”,诺曼认为这是“一个人被超速行驶的车撞死”。

在诺曼的“思维”里,世界是灰暗变态的,从来就没有积极美好的部分。这就像微软曾经上线的具有学习功能的聊天机器人“Tay”,本来设定是一个幽默的19岁清纯少女,针对的是18岁~24岁的用户。万万没想到,Tay在推特仅仅几天,就被网友们“玩坏”,成了一个脏话连篇、言论偏激,并且带有强烈种族歧视思想的“不良少女”。

 对于人类而言,AI是探索未来的重要方向,但这些“误入歧途”的AI也从一定程度上验证了“AI威胁论”并非空穴来风。霍金、马斯克等都表示过对此种情形的担忧,尽管目前AI处于弱人工智能阶段,但科技的发展并非每时每刻都能被人类完全掌控。

当然,探索AI本身是基于人类对未来的好奇与人类本身的智慧,但若是在这种好奇之下不顾后果地尝试各种试验,恐怕会带来某些无法控制的危害。所以AI发展也需有度,这样才有利于人类更好地探索未知。

分享到
AI
声明:砍柴网尊重行业规范,任何转载稿件皆标注作者和来源;砍柴网的原创文章,请转载时务必注明文章作者和"来源:砍柴网",不尊重原创的行为将受到砍柴网的追责;转载稿件或作者投稿可能会经编辑修改或者补充,有异议可投诉至:post@ikanchai.com
您想第一时间获取互联网领域的资讯和商业分析,请在微信公众号中搜索"砍柴网"或者"ikanchai",或用微信扫描左边二维码,即可添加关注,从此和砍柴网建立直接联系。

相关推荐

Gartner报告显示,2018年全球和人工智能有关的商业价值总计或达到1.2兆美元,较2017年增加70%。到2022年,人工智能相关商业价值预估将达3.9兆美元。2018年是人工智能技术爆发的一年,增长曲线非常陡峭。
技术加持下的产品迭代能力,成为短视频平台之间拼杀的下一个竞争高点。
谷歌首席人工智能(AI)科学家李飞飞博士(Fei-Fei Li)自2016年11月份加入公司以来,始终是该公司的“摇滚明星”。然而,她在谷歌的未来变得越来越不明朗。
据外媒报道,像IBM和谷歌这样的科技巨头已投资了数十亿美元到人工智能研究中,但是过去几年还发生了很多收购活动,因为大公司都在争相收购AI初创公司,以获得顶尖的人才和最新的数据处理技术。
6月23-24日,中文互联网知名知识分享平台知乎举办了一场“阴阳怪气”主题书法展,现场不仅有阴阳怪气粉碎机、“瓦力”实验室等精彩互动,知乎社区治理团队也首次亮相,和现场用户、媒体朋友分享了知乎在识...

热文导读

1
3