本文系網(wǎng)易科技上海世界人工智能大會(huì)系列前方原創(chuàng)報(bào)道

出品｜網(wǎng)易科技《態(tài)度》欄目

作者｜丁廣勝 袁寧

毫無(wú)意外，本屆WAIC是近五年最火的一屆。吸睛元素拉滿。

有首次訪華的諾貝爾獎(jiǎng)、圖靈獎(jiǎng)雙料得主、AI教父Geoffrey Hinton杰弗里·辛頓。

有人氣爆表的機(jī)器人展區(qū)，AI眼鏡展區(qū)，直到閉館聲音響起，宇樹(shù)機(jī)器人，智元機(jī)器人，Xreal，Rokid等明顯展臺(tái)依舊擁擠不堪，人們不愿離去。

有遍地開(kāi)花的AI應(yīng)用，智能汽車，數(shù)字工廠，AI生萬(wàn)物，很多應(yīng)用實(shí)實(shí)在在“落”了下來(lái)，也“砸”出了新的價(jià)值。

我們看到幾乎所有參與者都激情洋溢，尤其是新興創(chuàng)業(yè)者們。你能感受到他們的熱情，與勢(shì)必要抓住歷史機(jī)遇的決心。

而作為本屆WAIC2025的“壓軸大魔王”，辛頓吸引了太多目光，他的觀點(diǎn)獨(dú)特而深刻。

如果你恰好想知道他到底說(shuō)了什么。那這份金句盤點(diǎn)你不容錯(cuò)過(guò)。

（2024年10月8日下午，約翰·霍普菲爾德（John J． Hopfield）和杰弗里·辛頓（Geoffrey E． Hinton）獲2024年諾貝爾物理學(xué)獎(jiǎng)）

1，你會(huì)有既聰明又善良的AI，但如何訓(xùn)練它變得聰明和如何訓(xùn)練它變得善良是不同的問(wèn)題。你可以有讓它善良的技術(shù)和讓它聰明的技術(shù)。它將是同一個(gè)AI，但會(huì)有不同的技術(shù)。

2，我們對(duì)詞語(yǔ)運(yùn)作方式的理解可能是完全錯(cuò)誤的。同樣，幾乎每個(gè)人都對(duì)“主觀體驗(yàn)”這類術(shù)語(yǔ)有著強(qiáng)烈但完全錯(cuò)誤的理論。這不是真正的科學(xué)問(wèn)題，而是源于我們對(duì)心理狀態(tài)的錯(cuò)誤模型。

3，他們確實(shí)很想在人工智能領(lǐng)域設(shè)立諾貝爾獎(jiǎng)，但目前并沒(méi)有這個(gè)獎(jiǎng)項(xiàng)。所以，他們就將物理學(xué)獎(jiǎng)?lì)C給了人工智能領(lǐng)域的貢獻(xiàn)者。

4，我認(rèn)為人工智能對(duì)科學(xué)的幫助是顯而易見(jiàn)的。

5，我想最核心的建議是：若想做出真正原創(chuàng)的研究，就要尋找那些‘所有人都可能犯錯(cuò)’的領(lǐng)域。

6，堅(jiān)持你所相信的，直到你真正明白它為何是錯(cuò)的。只是偶爾，你會(huì)繼續(xù)堅(jiān)持你的信仰——而它最終被證明是正確的。重大突破正是由此而來(lái)，它們從不屬于輕易放棄之人。你必須堅(jiān)持己見(jiàn)，即使他人并不認(rèn)同。

7，如今的大語(yǔ)言模型就是我當(dāng)年微型語(yǔ)言模型的 “后代”。

8，大語(yǔ)言模型和人類理解語(yǔ)言的方式相同?；具壿嬍菍⒄Z(yǔ)言轉(zhuǎn)化為特征，再以完美的方式整合這些特征，這正是大語(yǔ)言模型各層級(jí)所做的工作。

9，人類甚至可能和大語(yǔ)言模型一樣產(chǎn)生 “幻覺(jué)”，因?yàn)槲覀円矔?huì)創(chuàng)造出一些虛構(gòu)的表達(dá)。

10，人類習(xí)慣了作為最智能的生物，很難想象 AI 超越人類的場(chǎng)景。就像養(yǎng)雞場(chǎng)的雞無(wú)法理解人類一樣。

11，有人認(rèn)為可以在 AI 變得過(guò)強(qiáng)時(shí)關(guān)掉它們，但這并不現(xiàn)實(shí)。它們可能會(huì)像成年人操縱3歲孩子一樣操縱人類。

12，面對(duì) AI，我們只有兩個(gè)選擇：要么訓(xùn)練它永遠(yuǎn)不傷害人類，要么 “消滅” 它。

13，即便一個(gè)國(guó)家放棄 AI，其他國(guó)家也不會(huì)。因此，若想讓人類生存，必須找到訓(xùn)練 AI 不傷害人類的方法。

14，全球主要國(guó)家或 AI 大國(guó)應(yīng)建立一個(gè)由 AI 安全機(jī)構(gòu)組成的國(guó)際社群，研究如何訓(xùn)練高智能 AI 向善。

15，人工智能的能力已接近，甚至可能超越人類，但人類尚未掌握有效控制這些系統(tǒng)的方法。因此，共識(shí)呼吁各國(guó)加強(qiáng)在AI對(duì)齊與安全方向的基礎(chǔ)研究投入。