周口信息网

当AI进攻人类

(原标题:当AI进攻人类)

“我对自己一生从事的工作感到有些后悔”。

这是被业界称为“AI教父”的谷歌公司副总裁杰弗里·辛顿(Geoffrey Hinton)于4月底从谷歌公司离职后所发表的言论。他之所以从谷歌离职,是因为感受到了自从ChatGPT出现后引发的大型科技公司追逐浪潮,正在对就业和整个人类构成威胁。

在他离职前几天,马斯克等上千名科技行业领袖与高管签署了联名信,呼吁暂停比ChatGPT-4更先进的版本研发。马斯克在一次采访中称,人工智能是我们最值得担忧的,他做了一个非常形象的比喻:

“如果一个蚁穴刚好在人类要修的公路上,人类会怎么做?这正像人工智能机器人在面对人类时可能做的。

杰弗里·辛顿并不是因为担心AI的威胁而从谷歌离职的第一人,在谷歌公司,甚至于在美国科技行业,因为担心AI发展威胁人类发展而离职的人,早在2016年开始涌现。

一、算法的威胁

2016年,特里斯坦·哈里斯——这位谷歌的内部道德设计师决定离职,此时的他已经意识到,Facebook、谷歌(YouTube、谷歌搜索)、推特这样的互联网科技公司为了商业利益,利用算法吸引人上瘾的产品设计,是不道德的。这已经成为:

“人类生存的一大威胁”。

他想到了对抗。实际上,特里斯坦·哈里斯任职谷歌期间,谷歌有知名的“不作恶”准则。但这一准则并没有阻挡住算法基于商业利益走向偏路。离职两年后,特里斯坦·哈里斯拉着Facebook和Google等大公司离职或在职的技术专家,建立了一个叫“人道科技中心”(Center for Humane Technology)的组织,这个组织在2018年成立,用来——

对抗硅谷互联网公司让人上瘾的设计理论。

除了特里斯坦·哈里斯,参与这个中心工作的人,还有前Facebook运营经理;苹果公司和谷歌前通讯主管林恩·福克斯;前Facebook高管戴夫·莫林;Facebook早期投资人罗杰·麦克纳米。

2017年前后,很多硅谷公司的高管,感觉到了算法操持的互联网平台,出现了道德伦理危机,纷纷离开了所在公司,2020年,网飞(Netflix)公司拍摄了一部纪录片叫《监视资本主义:智能陷阱》。片中,Pinterest 的前总经理、Facebook的前盈利总监Tim Kkendall说他担心算法操纵的世界最终导致美国内战;一个从谷歌出来的工程师,担心整个互联网产业的道德沦丧……

曾与马克·扎克伯格(Mark Zuckerberg)一起创办了Facebook的克里斯·休斯(Chris Hughes)离职后多年后,批评Facebook说,“扎克伯格是个好人。但令我感到愤怒的是,他对增长的关注导致他为了点击而牺牲了安全和道德底线”。

这样严重的担忧,是什么导致的,问题出在哪儿呢?


    本文网址:http://www.yqlinks.cn/luyixian/1473218.html ,喜欢请注明来源周口新闻网。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。