近日,被称为“人工智能(AI)教父”的杰弗里·辛顿(Geoffrey Hinton)证实,他已经从工作了十余年的谷歌离职,他表示对自己在开发人工智能这项技术中的角色感到遗憾,并就其长期推广的AI技术风险发出警告。Hinton形容称,AI聊天机器人所带来的某些危险“相当恐怖”。
Geoffrey Hinton指出,生成式人工智能语言模型可能会导致虚假信息、照片和视频等在互联网上大量传播,而公众极易被其迷惑,很难分辨真假。此外,Hinton还表达了对科技巨头之间AI竞赛的担忧,并质疑巨头们是否走得太远,并无法在危险出现时及时踩下刹车。
(Geoffrey Hinton)
1、AI教父的担忧
被称为人工智能教父的Geoffrey Hinton,一直都是该领域最受尊敬的先驱之一。1972年,Hinton在爱丁堡大学开始了他的研究生生涯。在那里,他首次开始研究神经网络:一种通过分析数据来学习技能的数学系统。当时很少有研究人员相信这一概念能成真,但它却成为了Hinton此后学术生涯的重要课题。
2012年,Hinton和他在加拿大多伦多的两名学生创建了一家专注于“神经网络”的公司,其团队当时通过分析数百万张照片打造出一款可区分动物、物体图片的“神经网络系统”,能识别常见物体,如花、狗和汽车,被视为当代AI的基础。神经网络成为他与两名学生共同创建的公司DNNresearch背后的突破性概念,该公司最终在2013年被谷歌以4400万美元收购。值得一提的是,Hinton其中一名学生Ilya Sutskever如今成为了OpenAI首席科学家。
2018年,Geoffrey Hinton、Yann LeCun和Yoshua Bengio一起因对神经网络的研究获得了2018年的图灵奖,而神经网络正是ChatGPT、Bard等聊天机器人背后的奠基性技术。
(Yann LeCun、Geoffrey Hinton和Yoshua Bengio)
自2013年加入谷歌以来,Hinton把深度学习技术带进了谷歌的多项业务,直接推动谷歌成为了AI技术最出色的公司之一。在这十年生涯中,Hinton一直看好谷歌在人工智能技术上谨慎的态度。他表示,直到去年,谷歌一直谨小慎微地不去发布可能造成危险的AI,这恰恰解释了谷歌在这波人工智能浪潮中落后的原因。但是现在,微软为其必应搜索引擎接入GPT-4的能力,已经让谷歌焦急地不得不做点什么。
在最近接受纽约时报的专访中,Geoffrey Hinton表示,自己此次从谷歌离职并不是因为要批判谷歌,而是他能够在不影响谷歌的情况下,去真实地谈论AI的潜在风险。
在接受媒体采访时,Hinton坦言“我只能这样安慰我自己:即便是我不做相关研究,也会有其他人从事这项研究。”而一份内部文件显示,在过去一年里,Hinton减少了自己在谷歌的上班时间。去年3月,他只有20%的时间在全职工作;同年晚些时候,他被分配到了一个新团队担任职务。
(Hinton在社交平台的相关推文)
Hinton目前最担心的一方面是在人工智能技术的支持下,互联网将很快被各种虚假信息淹没。这些信息包括文字、照片、视频等,而普通人将越来越难分辨这些信息的真假,引发社会的失序。
另一方面,人工智能最终会对人类劳动力市场产生冲击,迟早会颠覆就业市场。如今,像ChatGPT这样的聊天机器人往往能很好地辅助人类工作,可能造成律师助理、翻译和行政性工作方面的大量裁员。这也是包括OpenAI首席执行官Sam Altman在内的行业专家们的忧虑所在。
最后,Hinton还担心GPT-4迭代会对人类构成威胁,“因为AI可能通过大量的数据和分析,出现一些令人意想不到的行为。”Hinton解释道,一些公司和个人已经允许AI写代码,甚至自主运行代码。“我担心未来类似于‘杀人机器人’的自动化武器可能成为现实。现在很难防止坏人利用AI做坏事。”
Hinton指出,大多数人认为人工智能比人还聪明的未来还很遥远,他之前也认为这个可能性还需要30-50年时间去实践。但现在,他的想法改变了。
(Geoffrey Hinton)
Hinton的担忧似乎也引发了谷歌一些现职员工的共鸣。据测试谷歌人工智能Bard的一些员工称,AI很危险,而谷歌也似乎并没有把人工智能的道德放在首位,反而急于求成,希望赶上OpenAI的ChatGPT技术。
但谷歌首席科学家Jeff Dean澄清称,谷歌致力于负责任地开发人工智能,不断学习、了解这项技术可能出现的风险,同时也在大胆创新。
2、加速还是暂停?
在此次Geoffrey Hinton发声之前,最近几个月来人工智能领域就已经发起过两波大型的联名,呼吁谨慎地发展人工智能技术。
一次是由马斯克,图灵奖得主、深度学习三巨头之一Yoshua Bengio,《人类简史》作者尤瓦尔·赫拉利等上千位产学研代表联名发表公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统,为期至少6个月,以确保人类能够有效管理其风险。另一次则是由拥有40多年历史、人工智能领域最权威学术机构之一的人工智能促进协会(AAAI)的19名现任及前任领导人所发布的联名信。
(马斯克)
目前,一些AI的投资人、研究者也纷纷转发了Geoffrey Hinton的访谈,呼吁学界、工业界、政府监管机构应该快速行动起来,趁当前技术还在可控范围内,尽快制定好监管框架和应用方案等。
对于AI研究暂停,也有人提出了不同的看法。就在昨天,针对马斯克等上千人呼吁暂停先进人工智能(AI)开发一事,微软首席科学官Eric Horvitz给出了相反的观点。他认为,AI真正需要的是加速投入,而不是暂停。“我真的很尊重那些在公开信上签名的人,”他表示,“我认为人们担心是合理的……对我来说,我更希望看到更多的知识,甚至加速研发,而不是暂停六个月。我不确定暂停是否可行。从某种程度上说,这是一个非常不明确的要求。”他补充道:“从更广泛的意义上说,六个月的暂停意义不大。我们真的需要在理解、指导甚至监管这项技术上投入更多,参与进来,而不是暂停。”
(Eric Horvitz)
在过去几年里,AI 技术经历了飞速的发展,极大地推动了行业的创新和进步。从去年年底开始,生成式 AI 开始狂飙,正以天为单位迭代,在这个快速发展的行业中,ChatGPT、多模态、大模型等 AI 技术不断涌现,AIGC 已成为科技巨头们逐鹿的新战场。
AI发展如此之快,到底是“福”是“祸”?我们还需拭目以待。
部分内容来源:
https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html
保存在福岛第一核电站内的核污水的放射性氚平均浓度为每升62万贝克勒尔
只要就相关报道稍加梳理,就能发现,日本核污染水中的氚是无法去除的,但是对于将其排放入海会产生什么样的危害和影响,日方就含...
那拜登与民...
检方认为,特朗普当时挪用了一笔13万美元的竞选资金,要求尼尔斯对二人的婚外情保持沉默。自称特朗普粉丝,邻居认为他身体虚弱...
发生在湖南张家界的“千万富翁罗某忠在与儿子争执后被送精神病院”一事
联系电话:0395—3358999/5567111。▲7月20日,罗文忠(上)在病房内与姐姐罗文庆、妹妹罗文任视频通话国...
日政府宣布24日开始福岛核污染水排海,日本渔民:我们被政府骗了
波兰外交部长拉乌23日表示,波兰完全关闭与白俄罗斯边境是可能的,甚至是很有可能的。至于何时关闭,波兰将同立陶宛和拉脱维亚...
粉丝可以为一个明星从天南海北赶赴一座城市的演唱会现场;其次
此外,LED大屏屏显需求亦高增,洲明科技XR事业部总经理杨锋曾告诉记者,今年Q1公司几乎满产,其中文旅是带动因素之一...
被骗缅甸中科院博士已获救!
36氪从多个信源处独家获悉,“大疆创新”即将进入Ebike行业,内部立项代号为EB开头。该项目尚在保密阶段,项目负责人为...
注意不要大声说日语
(1)外出时,尽量谨言慎行,如无必要时不要大声说日语。8月24日,日本单方面强行启动核污染水排海,将风险转嫁给全世界,引...
南航乘务组迅速启动机上紧急医疗处置程序
像美国航空、达美航空、汉莎航空这样的巨无霸公司则是依靠政府续命。根据5月29日国际航空运输协会(IATA)公布的一组数据...
高启盛换了三次眼镜
下了戏,收了工,吃饭聊的还是戏。“大家每天聊的都是前史后史,应该怎么去铺垫,怎么去把握细节,甚至很少用我们本人的名字,他...
俄安全部队突袭普里戈任在圣彼得堡住所拍摄的照片显示
据福克斯新闻报道,瓦格纳社交平台账号也确认了普里戈仁死亡的消息。该账号发文称:“此事对俄罗斯来说是一个巨大的悲剧,制造这...
福岛第一核电站核污染水排海的部分相关设备通过了日本原子能规制委员会的检查
2011年3月11日,日本福岛县附近海域发生特大地震。受此影响,福岛第一核电站1至3号机组堆芯熔毁,东电持续向1至3号机...
官方通报某科长被举报婚内出轨,不能老是等人举报才后知后觉
专家分析认为,此次医疗系统反腐行动,行政监管、刑事侦查和纪检监察三个维度相互配合,有三大趋势最为明显:揭阳市妇幼保健院原...
“核废水和核污染水有着本质的区别
将污染源转嫁到全世界各地,是 本文转自【央视财经】;我国民众也不需要太过恐慌,值得关注的是,除了水文动力驱动下的“被动”...
世界渐冻人日|200年上市4款药,“渐冻人”何时能解冻?
大多时候,每天傍晚到深夜十点多,吴志英都徜徉在这个巨大的病例库中,将手头的查房记录更新,并核对过往病历,日复一日,为它做...
(大河报·豫视频记者 孙凯杰 李鑫 杨小燕)▼ 河南叶县岩盐生产车间 图自河南日报 ⊙记者走...
河南这轮暴雨是因为啥?信阳市食盐储备量能够迅速及时响应,百分百覆盖全市,且都是以井矿盐、湖盐为原料的食盐品种,食盐供应充...
中方回击日方说辞!日本金枪鱼价一夜暴跌24%,韩国已现连锁反应!新...
水产海鲜经销商的店内,各类海鲜品种比较齐全新民晚报记者 徐程 摄核污水入海后上海进口海鲜还安全吗?有部分市民认为“含碘盐...
都无法把核污水变成正常的核废水
我国民众也不需要太过恐慌,日方迄今未解决国际社会关于核污染水净化装置长期可靠性、核污染水数据真实和准确性、排海监测安排的...
“比新冠还可怕?”东电公司作出荒唐决定,核污水排海前不测浓度
IAEA评估报告中有关成年、儿童、婴儿摄入海鲜产品所受到的辐射剂量。 IAEA报告 图发生堆芯熔化的1至3号机组为冷却熔...
普里戈任和普京方面“和解”
1990年,苏联解体前夕,普里戈任被释放。他抓住了经济转型期的契机,通过经营圣彼得堡第一家热狗摊和连锁便利店赚到了自己的...
机长开Uber,空姐做微商
由于成本控制能力比较强,这些公司能够在市场低迷时期通过更低的票价撬动需求,保证运力扩张。首都机场出人意料地空旷。3月6日...