AI教父杰弗里·辛頓:避免“養(yǎng)虎為患”，要訓練“善良”的AI)

7月26日，2025世界人工智能大會開幕，來自全球人工智能(AI)領域的創(chuàng)新力量齊聚上海，其中備受關注的便是圖靈獎得主、2024年諾貝爾物理學獎得主杰弗里·辛頓。

今年78歲高齡的杰弗里·辛頓曾被麻省理工學院評為“深度學習之父”，在AI領域也被冠以“教父”之譽。

7月26日下午，當杰弗里·辛頓步入會場，觀眾近乎全體起立，鼓掌致意。對這些身處AGI時代的年輕人，杰弗里·辛頓建議他們專注真正原創(chuàng)的研究，甚至可以去尋找那些“所有人都可能做錯”的領域去探索新思路。

26日上午，杰弗里·辛頓在《數(shù)字智能是否會取代生物智能？》的主題演講中強調，AI大語言模型是“永生”的，即便程序依賴的特定硬件被毀掉了，程序中的知識仍可以保留，而人類若想讓自己所學的知識實現(xiàn)“永生性”則是相當困難的。

杰弗里·辛頓指出，AI大模型一旦具備了比人類更強的智能，“關掉”大模型或這種智能往往會變得不現(xiàn)實，他呼吁建立一個全球性的組織，聯(lián)合研究如何訓練出一個既聰明又不會想著統(tǒng)治世界乃至消滅人類的AI。

為了闡釋AI向善的重要性，杰弗里·辛頓將當下AI時代的人類處境類比為“養(yǎng)一只老虎當寵物”，在他看來，“人類要么把老虎訓練得永遠不攻擊你，要么你把它干掉”。其實，在AI發(fā)展的現(xiàn)實中，這早已不是一個選擇題，杰弗里·辛頓認為，這將是人類長期面臨的重要問題，即AI向善正成為全球共識，且各國為了解決問題可以展開合作。

如何訓練“善良”的超級智能，也成為杰弗里·辛頓與上海AI實驗室主任、首席科學家周伯文交流的一個重點論題。

面對周伯文提出的“多模態(tài)模型發(fā)展出主觀體驗”的問題，杰弗里·辛頓認為，當今的多模態(tài)聊天機器人已經具有意識，不少AI大語言模型甚至學會了預測人們會說的下一個詞。

由此衍生的問題是，人類開發(fā)訓練AI，是想讓它變得聰明還是讓它變得善良？杰弗里·辛頓認為，這背后可以是同一個AI，但需要不同的技術支撐。即使各國不太愿意分享各自將AI變聰明的技術，卻可以分享讓AI變善良的技術。