被業(yè)界稱為“AI教父”的辛頓26日現(xiàn)身在上海舉辦的2025世界人工智能大會(WAIC)。

在當日的主題演講及對話中，這位諾獎、圖靈獎得主，重點談及人工智能安全問題，并呼吁不同國家應在人工智能治理上進行合作，探索訓練AI向善的方法。

(相關資料圖)

人類與人工智能的關系一直是公眾關心的話題。辛頓在演講中將這一關系形容為“養(yǎng)小老虎當寵物”。

“有人把老虎當寵物，小虎崽是很可愛的寵物。一般來說，養(yǎng)老虎當寵物不是個好主意。但如果要一直養(yǎng)著它，只有兩個選擇：想辦法訓練它讓它永遠不想吃了你，或者擺脫它。”

辛頓認為，對于AI，我們沒有擺脫它的選項，AI對醫(yī)療保健、教育、氣候變化、新材料等太多事情都非常有用，能為幾乎所有行業(yè)提供幫助并使人類更具生產力。

在當日與上海人工智能實驗室主任周伯文的對話中，辛頓進一步表示：“當今的多模態(tài)聊天機器人已經(jīng)具有意識。”

辛頓認為，人類正在創(chuàng)造的AI智能體已經(jīng)具備創(chuàng)造自己子目標的能力。而一旦擁有創(chuàng)造子目標的能力，智能體就會想做兩件事：一是生存，僅僅是為了能夠實現(xiàn)我們賦予它們的目標；二是更多的控制權，也僅僅是為了能夠實現(xiàn)我們賦予它們的目標。

因此，如果人類想要生存，就必須找到辦法訓練AI向善。

辛頓建議建立一個由AI安全機構構成的國際社群，致力于研發(fā)訓練AI向善的技術。

他認為，實現(xiàn)訓練AI向善所需的技術與訓練AI變得更聰明的技術，在某種程度上是分離的，讓一個真正聰明的AI不想接管世界，即使它比大多數(shù)人聰明得多，也非常樂意處于人類的輔助角色。

辛頓認為，未來會有某種通用的AI訓練方法，來使AI變得善良。“這可能并不真實，但我們應該探索這種可能性。”

“我們目前不知道如何做到這一點，長遠來看，這是人類面臨的最重要的問題。好消息是，在這個問題上，所有國家都可以一起合作。”辛頓說。

標簽：