人工智能領(lǐng)域的開(kāi)創(chuàng)者之一，被譽(yù)為“AI 教父”的杰弗里 辛頓（Geoffrey Hinton）近日宣布離開(kāi)他工作了十年的谷歌公司，原因是他對(duì)人工智能技術(shù)的發(fā)展越來(lái)越擔(dān)憂。今日他在接受 CNN 記者杰克 塔珀（Jake Tapper）采訪時(shí)表示，他認(rèn)為人工智能正在變得比人類更聰明，他想要“吹哨”提醒人們應(yīng)該認(rèn)真考慮如何防止人工智能控制人類。
“我只是一個(gè)突然意識(shí)到這些東西正在變得比我們更聰明的科學(xué)家，”辛頓稱，“我想在某種程度上‘吹響哨子’，說(shuō)我們應(yīng)該認(rèn)真擔(dān)心如何阻止這些東西對(duì)我們的控制。”
辛頓是神經(jīng)網(wǎng)絡(luò)技術(shù)的先驅(qū)，他的研究為今天許多產(chǎn)品中使用的人工智能系統(tǒng)奠定了基礎(chǔ)。IT之家此前曾報(bào)道，他在周一接受《紐約時(shí)報(bào)》采訪時(shí)首次透露了他的離職消息，并表達(dá)了他對(duì)人工智能技術(shù)的潛在危害的擔(dān)憂。他說(shuō)，他擔(dān)心人工智能會(huì)導(dǎo)致大量失業(yè)，并創(chuàng)造一個(gè)許多人“無(wú)法知道什么是真實(shí)的”世界。他還指出，人工智能技術(shù)的進(jìn)步速度遠(yuǎn)遠(yuǎn)超出了他和其他人的預(yù)期。
“如果它變得比我們聰明得多，它就會(huì)非常擅長(zhǎng)操縱，因?yàn)樗菑奈覀兩砩蠈W(xué)到的，而且很少有例子證明一個(gè)更聰明的東西會(huì)被一個(gè)更笨的東西控制，”辛頓周二對(duì)塔珀說(shuō)，“它知道如何編程，所以它會(huì)想出辦法繞過(guò)我們對(duì)它的限制。它會(huì)想出辦法操縱人們做它想要的事情。”
辛頓并不是唯一一個(gè)對(duì)人工智能表示擔(dān)憂的技術(shù)領(lǐng)袖，今年 3 月，一些社區(qū)成員聯(lián)名發(fā)表了一封信，呼吁人工智能實(shí)驗(yàn)室對(duì)最強(qiáng)大的人工智能系統(tǒng)至少暫停訓(xùn)練六個(gè)月，理由是“對(duì)社會(huì)和人類有深刻的風(fēng)險(xiǎn)”。
蘋果公司聯(lián)合創(chuàng)始人史蒂夫 沃茲尼亞克（Steve Wozniak）也是在這封信上簽名的人之一，他周二在“CNN 今日早晨”節(jié)目中重申了對(duì)人工智能傳播虛假信息的擔(dān)憂。“對(duì)于那些想要欺騙你的人來(lái)說(shuō)，欺騙將變得更容易。”沃茲尼亞克對(duì) CNN 說(shuō)，“我們?cè)谶@方面沒(méi)有做出任何改變 —— 我們只是假設(shè)我們現(xiàn)有的法律會(huì)解決這個(gè)問(wèn)題。”沃茲尼亞克還表示，可能需要“某種類型”的監(jiān)管。
辛頓則表示，他沒(méi)有簽署這封請(qǐng)?jiān)笗?shū)。“我不認(rèn)為我們能阻止這種進(jìn)步，”他說(shuō)，“我沒(méi)有簽署說(shuō)我們應(yīng)該停止研究人工智能的請(qǐng)?jiān)笗?shū)，因?yàn)槿绻绹?guó)人停止研究，中國(guó)人不會(huì)。”但他承認(rèn)，他沒(méi)有一個(gè)明確的解決方案，“我不清楚我們能否解決這個(gè)問(wèn)題。我相信我們應(yīng)該努力思考解決問(wèn)題的方法。我目前還沒(méi)有解決方案。”
