“AI教父”陷入AI恐慌？

來(lái)源：獵云精選；文/邵延港

歷史上常有許多偉大發(fā)明的締造者，晚年時(shí)感慨悔創(chuàng)事業(yè)，如羅伯特.奧本海默和愛(ài)因斯坦后悔制造原子彈，塑料袋發(fā)明者馬克斯·舒施尼最終自殺，AK47的發(fā)明人卡拉什尼科夫后半生都在自責(zé)中度過(guò)…

【資料圖】

因?yàn)榭茖W(xué)是把雙刃劍，當(dāng)代依然有科學(xué)家為自己所創(chuàng)造的事物陷入矛盾中。

近半年里，人工智能時(shí)刻能躥升為社會(huì)焦點(diǎn)，關(guān)于AI兩面性的討論正在持續(xù)。作為與楊立昆、約書(shū)亞·本吉奧三人并稱為人工智能領(lǐng)域三位奠基人之一的“AI教父”杰弗里·辛頓(Geoffrey Hinton)，業(yè)界也在期待他的看法。

但是，在美國(guó)當(dāng)?shù)貢r(shí)間5月1日，這位75歲的圖靈獎(jiǎng)得主卻突然宣布從谷歌離職。辛頓從谷歌離職也引起極大反響。對(duì)于離職的原因，辛頓發(fā)推文稱，他離開(kāi)谷歌是為了可以公開(kāi)地談?wù)撊斯ぶ悄艿奈ｋU(xiǎn)。此外，辛頓也表示，對(duì)自己的畢生工作，感到非常后悔。AI教父為宣傳AI的危險(xiǎn)不惜離職，也引起了外界諸多看法，但也表明了辛頓此時(shí)對(duì)AI的態(tài)度。

入職谷歌十年，深度學(xué)習(xí)泰斗離職

據(jù)悉，辛頓的離職消息是由紐約時(shí)報(bào)的采訪文章中爆料出來(lái)的。報(bào)道稱，辛頓已經(jīng)在4月份提出了辭職，并于周四直接與谷歌CEO進(jìn)行了交談。

對(duì)于谷歌來(lái)說(shuō)，辛頓的地位極為重要。辛頓從事腦神經(jīng)研究三十余年，在深度學(xué)習(xí)領(lǐng)域有極高的成就。

2012年，還同時(shí)擔(dān)任多倫多大學(xué)教授身份的辛頓，和自己的兩名研究生在加拿大創(chuàng)立了一家專注于語(yǔ)音和圖像識(shí)別技術(shù)的研究公司DNNresearch。第二年，谷歌就宣布收購(gòu)這家只有三人的初創(chuàng)公司。辛頓也是從彼時(shí)起開(kāi)始為谷歌“大腦”神經(jīng)網(wǎng)絡(luò)項(xiàng)目工作。

辛頓在谷歌任職至今已有十年，年齡也到了75歲。此外，在2019年3月，辛頓同其他兩位人工智能奠基人一同獲得了美國(guó)計(jì)算機(jī)協(xié)會(huì)頒發(fā)的“圖靈獎(jiǎng)”。

在科技巨頭的人工智能布局中，辛頓為谷歌的AI發(fā)展做出了很大貢獻(xiàn)，基于他的專業(yè)領(lǐng)域，讓谷歌的圖像識(shí)別和安卓系統(tǒng)音頻識(shí)別能力大幅提升。當(dāng)前，在AI領(lǐng)域的競(jìng)爭(zhēng)格局中，憑借OpenAI和ChatGPT，微軟的影響力已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)谷歌。

此時(shí)辛頓離職，對(duì)于谷歌來(lái)說(shuō)無(wú)異于巨大損失。

在離職消息曝出當(dāng)天，辛頓在社交平臺(tái)發(fā)文稱：“在今天的《紐約時(shí)報(bào)》上，凱德·梅茨暗示我離開(kāi)谷歌是為了批評(píng)谷歌。實(shí)際上，我離開(kāi)是為了談?wù)撊斯ぶ悄艿奈ｋU(xiǎn)，而無(wú)需考慮這對(duì)谷歌有何影響，谷歌的行為非常負(fù)責(zé)任?！贝送?，辛頓還表示離職也有年齡的原因，他說(shuō)：“我 75 歲了，是時(shí)候退休了?！?

根據(jù)辛頓的表述，其離職是為了談?wù)撊斯ぶ悄艿奈ｋU(xiǎn)。辛頓被稱為AI教父，推動(dòng)了計(jì)算機(jī)深度學(xué)習(xí)的實(shí)用性先河。在外界看來(lái)，辛頓的離職屬實(shí)突然，因此也有人勸說(shuō)其可以堅(jiān)持留下來(lái)，繼續(xù)促進(jìn)生成式AI的安全發(fā)展，但目前辛頓在谷歌已經(jīng)是離職狀態(tài)。

“AI教父”陷入AI恐慌？

據(jù)了解，辛頓出身于“科學(xué)世家”，其家族多數(shù)成員都有學(xué)術(shù)背景，他的高祖父因“布爾檢索”聞名于世，叔叔是一名經(jīng)濟(jì)學(xué)家，完善了GDP的概念，父親是一位昆蟲(chóng)學(xué)家，母親是一位教師。因此，辛頓會(huì)對(duì)深層次的科學(xué)研究有興趣。

辛頓一直致力于理解大腦神經(jīng)元，開(kāi)創(chuàng)了一種通過(guò)分析數(shù)據(jù)來(lái)學(xué)習(xí)技能的數(shù)學(xué)系統(tǒng)，即神經(jīng)網(wǎng)絡(luò)。如今“神經(jīng)網(wǎng)絡(luò)”被視為人工智能技術(shù)的基礎(chǔ)技術(shù)，在過(guò)去的30多年里，他研究了使用神經(jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)、記憶、感知和符號(hào)處理的方法，發(fā)表了超過(guò)200篇論文以及數(shù)十件專利申請(qǐng)，在全球人工智能領(lǐng)域被廣泛認(rèn)可。

據(jù)相關(guān)信息，辛頓對(duì)神經(jīng)網(wǎng)絡(luò)如此著迷的原因，源自20世紀(jì)60年代，他高中時(shí)期的朋友告訴他，人腦的工作原理就像全息圖一樣，需要大量記錄入射光被物體多次反射的結(jié)果，然后將這些信息存儲(chǔ)進(jìn)一個(gè)龐大的數(shù)據(jù)庫(kù)中。1973年，辛頓在多個(gè)領(lǐng)域進(jìn)行嘗試后，轉(zhuǎn)到英國(guó)愛(ài)丁堡大學(xué)攻讀人工智能專業(yè)，繼續(xù)他的神經(jīng)網(wǎng)絡(luò)的探索和研究，并于1978年獲得人工智能博士學(xué)位。

后來(lái)，辛頓來(lái)到卡內(nèi)基梅隆大學(xué)致力于深層次人工智能的研究，但不久后，辛頓發(fā)現(xiàn)自己的研究資金都來(lái)自美國(guó)國(guó)防部，自己的研究成果最終可能被應(yīng)用于軍事目的。辛頓不愿制造殺人機(jī)器，于是在1987年去了加拿大做研究工作。

2004年，辛頓參與創(chuàng)立了由物理學(xué)、神經(jīng)科學(xué)和工程學(xué)領(lǐng)域的精英組成的團(tuán)體研究項(xiàng)目，神經(jīng)計(jì)算和自適應(yīng)感知。只是由于缺乏數(shù)據(jù)和計(jì)算能力，該項(xiàng)目的有效性受到了限制，但辛頓對(duì)這項(xiàng)技術(shù)有堅(jiān)定信念。

直到2012年，辛頓的研究終于有了成果。在當(dāng)年的圖像網(wǎng)比賽中，辛頓和兩名學(xué)生組成的團(tuán)隊(duì)以高出第二名10%的正確率拿下比賽冠軍。這是深度學(xué)習(xí)首次運(yùn)用在圖像識(shí)別領(lǐng)域，自此，深度學(xué)習(xí)開(kāi)始向其他領(lǐng)域推廣。

值得注意的是，當(dāng)年參與比賽的兩名學(xué)生楊立昆和Ilya Sutskever，一個(gè)同為AI奠基人之一，另一個(gè)是OpenAI聯(lián)合創(chuàng)始人和首席科學(xué)家，也是機(jī)器學(xué)習(xí)領(lǐng)域的頂尖學(xué)者。

在人工智能領(lǐng)域具有較高的話語(yǔ)權(quán)，辛頓也被人稱作“AI教父”。只是現(xiàn)在AI的開(kāi)創(chuàng)者卻要離職去宣傳AI的危險(xiǎn)。

在相關(guān)媒體的報(bào)道中，辛頓直接發(fā)出警示：注意，前方有危險(xiǎn)，前方有危險(xiǎn)，前方有危險(xiǎn)！并表示，我對(duì)自己的畢生工作，感到非常后悔。

在ChatGPT問(wèn)世前的多年時(shí)間里，馬斯克一直堅(jiān)持“AI威脅論”。2018年馬斯克還宣稱“人工智能比核武器更危險(xiǎn)”，主要是馬斯克擔(dān)憂人工智能的進(jìn)化可能脫離人類的控制，因此呼吁加強(qiáng)對(duì)人工智能的監(jiān)管，以確保其安全可控。此外，馬斯克也開(kāi)始與OpenAI唱對(duì)臺(tái)戲，注冊(cè)了一家名為“X.AI”的人工智能公司，做“TruthGPT”，用一種開(kāi)源、真實(shí)的方式表現(xiàn)對(duì)OpenAI的閉源和安全方面擔(dān)憂。

ChatGPT問(wèn)世后，辛頓曾表示，人工智能可能發(fā)展到對(duì)人類構(gòu)成威脅“并非不可想象”的地步。隨后，Robust.AI創(chuàng)始人蓋瑞·馬庫(kù)斯以及馬斯克也加入進(jìn)來(lái)，宣傳“AI威脅論”。

在今年3月末，未來(lái)生命研究所發(fā)布了一封極具影響的公開(kāi)信，其中呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。據(jù)了解，辛頓、馬庫(kù)斯和馬斯克也簽署了這封公開(kāi)信。

同其他科技巨頭相比，谷歌對(duì)于AI的態(tài)度稍顯謹(jǐn)慎。此前因稱“人工智能聊天機(jī)器人已經(jīng)擁有自我意識(shí)”而被谷歌解雇的工程師，曾說(shuō)過(guò)，谷歌內(nèi)部在2021年也曾研發(fā)過(guò)類ChatGPT的應(yīng)用工具，但一直沒(méi)有公布。此外，該工程師還認(rèn)為谷歌在人工智能領(lǐng)域是在“以他們認(rèn)為安全和負(fù)責(zé)的方式”行事，并不是被 OpenAI 這樣的組織所左右。

辛頓在谷歌任職十年，也在影響著谷歌的AI研究方向。早在多年前，辛頓就曾公開(kāi)表示，即便作為全球人工智能領(lǐng)域最權(quán)威的研究者之一，他也不知道AI革命接下來(lái)將會(huì)把人類帶向何處。“在人工智能這個(gè)領(lǐng)域，很難預(yù)測(cè)五年以后的事情，畢竟事情往往并不會(huì)像你期待的那樣如期而至?！?

受離職消息的影響，人們對(duì)辛頓的看法也產(chǎn)生了諸多爭(zhēng)議，有人認(rèn)為辛頓大可不必為此離職，也有人認(rèn)為背后是為了拖延OpenAI的擴(kuò)張節(jié)奏。但“AI教父”下場(chǎng)警示AI的“副作用”，也值得世人對(duì)AI的發(fā)展方向進(jìn)行思考。