AI教父杰弗里·辛頓:避免“養(yǎng)虎為患”，要訓(xùn)練“善良”的AI)

7月26日，2025世界人工智能大會開幕，來自全球人工智能(AI)領(lǐng)域的創(chuàng)新力量齊聚上海，其中備受關(guān)注的便是圖靈獎得主、2024年諾貝爾物理學(xué)獎得主杰弗里·辛頓。

今年78歲高齡的杰弗里·辛頓曾被麻省理工學(xué)院評為“深度學(xué)習(xí)之父”，在AI領(lǐng)域也被冠以“教父”之譽。

7月26日下午，當(dāng)杰弗里·辛頓步入會場，觀眾近乎全體起立，鼓掌致意。對這些身處AGI時代的年輕人，杰弗里·辛頓建議他們專注真正原創(chuàng)的研究，甚至可以去尋找那些“所有人都可能做錯”的領(lǐng)域去探索新思路。

26日上午，杰弗里·辛頓在《數(shù)字智能是否會取代生物智能？》的主題演講中強(qiáng)調(diào)，AI大語言模型是“永生”的，即便程序依賴的特定硬件被毀掉了，程序中的知識仍可以保留，而人類若想讓自己所學(xué)的知識實現(xiàn)“永生性”則是相當(dāng)困難的。

杰弗里·辛頓指出，AI大模型一旦具備了比人類更強(qiáng)的智能，“關(guān)掉”大模型或這種智能往往會變得不現(xiàn)實，他呼吁建立一個全球性的組織，聯(lián)合研究如何訓(xùn)練出一個既聰明又不會想著統(tǒng)治世界乃至消滅人類的AI。

為了闡釋AI向善的重要性，杰弗里·辛頓將當(dāng)下AI時代的人類處境類比為“養(yǎng)一只老虎當(dāng)寵物”，在他看來，“人類要么把老虎訓(xùn)練得永遠(yuǎn)不攻擊你，要么你把它干掉”。其實，在AI發(fā)展的現(xiàn)實中，這早已不是一個選擇題，杰弗里·辛頓認(rèn)為，這將是人類長期面臨的重要問題，即AI向善正成為全球共識，且各國為了解決問題可以展開合作。

如何訓(xùn)練“善良”的超級智能，也成為杰弗里·辛頓與上海AI實驗室主任、首席科學(xué)家周伯文交流的一個重點論題。

面對周伯文提出的“多模態(tài)模型發(fā)展出主觀體驗”的問題，杰弗里·辛頓認(rèn)為，當(dāng)今的多模態(tài)聊天機(jī)器人已經(jīng)具有意識，不少AI大語言模型甚至學(xué)會了預(yù)測人們會說的下一個詞。

由此衍生的問題是，人類開發(fā)訓(xùn)練AI，是想讓它變得聰明還是讓它變得善良？杰弗里·辛頓認(rèn)為，這背后可以是同一個AI，但需要不同的技術(shù)支撐。即使各國不太愿意分享各自將AI變聰明的技術(shù)，卻可以分享讓AI變善良的技術(shù)。