·“許多人對(duì)超級(jí)智能的恐懼沒有應(yīng)有的那么大，因?yàn)樗麄內(nèi)韵嘈盼覀兩砩嫌心撤N特殊的東西——主觀體驗(yàn)、感知能力或意識(shí)……那是無稽之談，而且是危險(xiǎn)的無稽之談。”

·“我們需要知道如何訓(xùn)練它們，使其不想接管一切，而目前沒有人知道該怎么做到這一點(diǎn)?！?/span>

你或許每天都在和AI對(duì)話，向它提問，讓它寫代碼、寫文案，流暢的回應(yīng)讓人覺得它真的“懂”你，但這種理解是真實(shí)的嗎？這背后是冰冷的計(jì)算過程還是正在萌芽的機(jī)器“心智”？它是否真的對(duì)你具有善意？我們需要一門“機(jī)器心理學(xué)”來理解它們嗎？

在剛剛落幕的2025WAIC世界人工智能大會(huì)期間，“AI教父”、諾貝爾獎(jiǎng)與圖靈獎(jiǎng)得主杰弗里·辛頓（Geoffrey Hinton）和圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士姚期智圍繞上述問題進(jìn)行了精彩對(duì)話。以下為對(duì)話實(shí)錄：

【對(duì)話】

是對(duì)大腦的模仿還是全新物種？

姚期智（圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士、清華大學(xué)交叉信息研究院院長(zhǎng)）：神經(jīng)網(wǎng)絡(luò)最初其實(shí)有點(diǎn)像是受神經(jīng)系統(tǒng)的啟發(fā)。所以從某種意義上說，它是受大腦啟發(fā)的?，F(xiàn)在我們已經(jīng)創(chuàng)造出了這種驚人的計(jì)算機(jī)架構(gòu)，它在某些方面似乎超過了大腦，問題是，我們是否還有什么可以向腦科學(xué)（神經(jīng)科學(xué)）學(xué)習(xí)的？

辛頓（諾貝爾物理學(xué)獎(jiǎng)得主、圖靈獎(jiǎng)得主）：沒錯(cuò)，如果沒有大腦作為模型，我認(rèn)為根本不會(huì)有人去嘗試讓神經(jīng)網(wǎng)絡(luò)發(fā)揮作用。我們知道這種東西肯定行得通，因?yàn)榇竽X本身就是這么運(yùn)作的。因此，通過調(diào)節(jié)連接強(qiáng)度讓簡(jiǎn)單單元組成的網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)的這個(gè)想法，完全是來自大腦。

現(xiàn)在的問題是，我們是否已經(jīng)到了這樣一個(gè)階段：AI將自行騰飛，再也不需要來自大腦的啟發(fā)？我想大致上是這樣的。粗略地說，AI目前已經(jīng)從大腦獲得了很多啟發(fā)，不需要再?gòu)闹屑橙√嗔?。但我認(rèn)為這并不完全正確。我認(rèn)為有一個(gè)特定方面，現(xiàn)有的AI模型仍然需要改進(jìn)，而且可以從大腦得到很多啟發(fā)。那就是關(guān)于擁有多少種不同的時(shí)間尺度的問題。

在我們所有的AI模型中，神經(jīng)網(wǎng)絡(luò)中權(quán)重的調(diào)整有一個(gè)慢速的時(shí)間尺度，而神經(jīng)元活動(dòng)的變化有一個(gè)快速的時(shí)間尺度。也就是說，當(dāng)你改變輸入時(shí)，所有神經(jīng)元的活動(dòng)都會(huì)改變，但權(quán)重保持不變。權(quán)重只會(huì)慢慢發(fā)生改變。

而在真實(shí)的大腦中，神經(jīng)元之間的連接——也就是突觸——會(huì)以許多不同的時(shí)間尺度進(jìn)行適應(yīng)。所以很長(zhǎng)一段時(shí)間以來，我一直建議我們應(yīng)該在神經(jīng)網(wǎng)絡(luò)中嘗試引入三種時(shí)間尺度。我們應(yīng)該有緩慢變化的權(quán)重，即普通權(quán)重；還應(yīng)該有快速變化的權(quán)重。這些快速變化的權(quán)重能夠快速適應(yīng)，但也會(huì)快速衰減。這樣可以提供一種容量極高的短期記憶。

然而，人們沒有這樣做是有原因的。Ilya Sutskever和我在2010年嘗試過這樣做，而且成功了。但是在我們目前的硬件上，如果每個(gè)訓(xùn)練樣本都有一套不同的權(quán)重——因?yàn)榭焖贆?quán)重會(huì)快速調(diào)整，而實(shí)際權(quán)重是慢速權(quán)重和快速權(quán)重之和——所以對(duì)于每個(gè)訓(xùn)練樣本而言，這兩種權(quán)重之和都是不同的。這意味著你無法有一套統(tǒng)一的權(quán)重矩陣用于許多不同的訓(xùn)練樣本。因此你無法進(jìn)行矩陣乘法，最終只能做向量-矩陣乘法，這效率不高。僅僅因?yàn)檫@個(gè)技術(shù)原因，人們就此停止了對(duì)多時(shí)間尺度的研究。從長(zhǎng)遠(yuǎn)來看，我認(rèn)為我們會(huì)在神經(jīng)網(wǎng)絡(luò)中引入多種時(shí)間尺度。我認(rèn)為這方面我們還沒有充分利用來自大腦的啟發(fā)。

姚期智：我明白。目前為止，還沒有人沿著這一思路產(chǎn)出比當(dāng)前大型語言模型更好的東西。

辛頓：在當(dāng)前的計(jì)算機(jī)硬件上，這是無法高效實(shí)現(xiàn)的。

姚期智：是，但至少對(duì)我們來說，想出如何利用大腦的生物結(jié)構(gòu)并不容易。當(dāng)然，這是有原因的，因?yàn)槲覀儫o法像對(duì)大型語言模型那樣輕易地在人體大腦上做實(shí)驗(yàn)，對(duì)吧？所以我覺得，現(xiàn)在可能正是該反思一下腦科學(xué)能否從大型語言模型中學(xué)到點(diǎn)什么的時(shí)候了。順著這個(gè)思路，我來問您第二個(gè)問題：您認(rèn)為在人類大腦中是否存在類似于Transformer那樣的結(jié)構(gòu)？

辛頓：好的，那我先來針對(duì)你剛才所說的第一部分評(píng)論一下。我認(rèn)為，過去二十年里，大型語言模型乃至AI整體的成功確實(shí)對(duì)神經(jīng)科學(xué)產(chǎn)生了影響。在AI取得巨大成功之前，神經(jīng)科學(xué)家們并不清楚一種學(xué)習(xí)技術(shù)——隨機(jī)梯度下降（就是計(jì)算出梯度然后沿梯度下降）——是否能夠在非常龐大的網(wǎng)絡(luò)中發(fā)揮作用。符號(hào)派AI有著悠久的歷史，其中人們一直聲稱這種方法永遠(yuǎn)行不通：你不能從隨機(jī)權(quán)重開始然后沿著梯度下降，就期望得到有意義的結(jié)果。這種立場(chǎng)看起來有道理，但卻是錯(cuò)的。而大型語言模型證明了，沿著梯度進(jìn)行學(xué)習(xí)在真正龐大的系統(tǒng)中非常有效。這給神經(jīng)科學(xué)上了一課。

至于Transformer問題，乍看之下，你沒法把Transformer套用到大腦上，因?yàn)門ransformer會(huì)記住許多前面詞語的表征，而在Transformer里，那些表征是以神經(jīng)活動(dòng)的形式被記住的。這在大腦中是完全不可能的——你的神經(jīng)元不夠用。你無法記住所有之前詞語的活動(dòng)模式。

因此，這正是快速權(quán)重派上用場(chǎng)的地方。你需要這樣一種系統(tǒng)：對(duì)先前詞匯的表征不是以神經(jīng)活動(dòng)模式存儲(chǔ)的，而是作為聯(lián)想記憶中權(quán)重的臨時(shí)修改來存儲(chǔ)，以便你可以訪問它們。通過這樣做，你實(shí)際上可以用快速權(quán)重實(shí)現(xiàn)一個(gè)非常粗略的Transformer版本。雖然不完全一樣，但通過快速權(quán)重實(shí)現(xiàn)的方法非常相似。因此，我至今對(duì)快速權(quán)重感興趣的原因之一是，我認(rèn)為這是讓大腦具備類似Transformer功能的唯一途徑。

姚期智：但這就要假定，盡管大腦不同于大型語言模型，它也使用類似詞嵌入的東西。

辛頓：我想是有的。很久以前——大概2009年左右——曾有一些研究通過MRI獲取大腦信息，嘗試判斷人們?cè)谙肽膫€(gè)單詞。結(jié)果成功了。所以，一個(gè)單詞的表征就是大腦中一種神經(jīng)活動(dòng)模式，而且通過觀察這種神經(jīng)活動(dòng)模式，你大概可以猜出那是什么單詞。很明顯，大腦是通過許多神經(jīng)元的活動(dòng)模式來表征單詞的。

AI真的“理解”語言嗎？它有主觀知覺嗎？

姚期智：現(xiàn)在我想轉(zhuǎn)向一些更具哲學(xué)性的問題。您在今天早上（7月26日）的演講中，有一句非常重要的表述，您認(rèn)為完全可以說大語言模型理解它們自己所說的句子?？梢栽僭敿?xì)闡述一下嗎？

辛頓：我這里可以講一個(gè)故事。我曾第一次在和我女兒的爭(zhēng)論中輸給了她，那時(shí)她才4歲。她下樓來對(duì)我說：“爸爸，你知道嗎？鸚鵡會(huì)說話?！蔽艺f：“不，Emma，鸚鵡不會(huì)說話。它們只是能發(fā)出聽起來像說話的聲音，但那只是學(xué)舌，它們不明白那些聲音的含義?！彼f：“不，你錯(cuò)了，爸爸。它們會(huì)說話?！庇谑俏艺f：“不，Emma，它們并不理解這些詞的意思?！彼f：“會(huì)的。我剛看了一個(gè)節(jié)目，一個(gè)女士給鸚鵡看了一輛汽車，鸚鵡就說‘汽車’?！本瓦@樣，我在和我4歲女兒的爭(zhēng)論中輸了。

我覺得如今的語言學(xué)家在某種程度上也有點(diǎn)類似。語言學(xué)家們最初的反應(yīng)是：“哦，這些玩意兒并不會(huì)說話。這些玩意兒并不理解它們?cè)谡f什么。這些東西只是用來預(yù)測(cè)下一個(gè)詞的統(tǒng)計(jì)技巧。它們沒有任何理解能力?！边@種看法有好幾處是錯(cuò)的。

首先，如果你真想把下一個(gè)詞預(yù)測(cè)好——你就需要已經(jīng)理解了別人說的話。所以有趣且對(duì)我們大有幫助的一點(diǎn)是，僅僅通過努力預(yù)測(cè)下一個(gè)詞，如果你想把它做到極致，你就迫使系統(tǒng)去理解那個(gè)問題。現(xiàn)在仍然有語言學(xué)家說這些東西什么都不理解。但我認(rèn)為現(xiàn)在的情況是，任何真正用過大型語言模型的人都不可能相信它們聽不懂你在說什么——它們顯然能明白你的話。

而我最有力的論據(jù)是這樣的：假設(shè)我對(duì)一個(gè)大型語言模型說：“我在飛往芝加哥的途中看到了大峽谷?！贝笮驼Z言模型回答：“那不可能對(duì)。大峽谷太大了，飛不起來?！比缓笪覍?duì)模型說：“不，我不是那個(gè)意思。我的意思是，在我飛往芝加哥的途中，我看到了大峽谷?！贝笮驼Z言模型說：“哦，我明白了，我誤會(huì)了?！比绻麆偛拍撬闶撬恼`解，那它在其他時(shí)候又是在做什么呢？

姚期智：延伸這一思路，我會(huì)假設(shè)現(xiàn)在那些多模態(tài)聊天機(jī)器人不僅能夠理解，它們還能做到更多，對(duì)嗎？

辛頓：是的。我認(rèn)為有一個(gè)很大的問題，就是這些多模態(tài)聊天機(jī)器人是否有知覺？不同的人用不同方式表達(dá)這個(gè)問題。有些人問，它們有知覺嗎？有些人問，它們有意識(shí)嗎？還有人問，它們有主觀體驗(yàn)嗎？那么我們來討論一下主觀體驗(yàn)的問題。

在我們（至少是我的文化）文化中，大多數(shù)人認(rèn)為我們有一個(gè)叫作心靈的“內(nèi)在劇場(chǎng)”（inner theatre)，在這個(gè)內(nèi)在劇場(chǎng)中發(fā)生的事情只有自己能看到。舉例來說，如果我喝多了，我對(duì)你說：“我有一種主觀體驗(yàn)，覺得有粉紅色的小象在我面前漂浮。”西方文化中的大多數(shù)人會(huì)將此理解為：在內(nèi)在劇場(chǎng)中，有小粉紅象在眼前漂浮。

如果你問這些小象是由什么構(gòu)成的，哲學(xué)家會(huì)告訴你它們是由感質(zhì)（qualia）構(gòu)成的：由粉紅色的感質(zhì)、大象的感質(zhì)、漂浮的感質(zhì)，通過某種感質(zhì)“膠水”粘在一起——由此你可以看出，我并不太相信這個(gè)理論。

有一種完全不同的理論，來自丹尼爾·丹尼特（Daniel Dennett）等哲學(xué)家。他們認(rèn)為根本不存在什么內(nèi)在劇場(chǎng)，當(dāng)你談?wù)撝饔^體驗(yàn)時(shí)，你并不是在說自己心中只有自己能看到的事務(wù)，你其實(shí)是在試圖向別人解釋你的感知系統(tǒng)哪里出問題了。所以，讓我把“有小粉紅象在我眼前飄浮的主觀體驗(yàn)”這句話換種說法：“我的感知系統(tǒng)騙了我。但是如果外部世界中真的有小粉紅象在我面前飄浮，那我的感知系統(tǒng)說的就是真話?！币虼耍?dāng)你談?wù)撝饔^體驗(yàn)時(shí)，你是在向他人傳達(dá)你的感知系統(tǒng)出了問題，這就是這些體驗(yàn)被稱為“主觀”的原因。而你是通過描述一種假想的世界狀態(tài)來做到這一點(diǎn)的——這些小粉紅象并不是由什么叫感質(zhì)的奇怪東西構(gòu)成的，它們是主觀假想的真實(shí)粉紅小象。

現(xiàn)在讓我把這個(gè)套用到聊天機(jī)器人上。假設(shè)我有一個(gè)多模態(tài)聊天機(jī)器人，它會(huì)說話，會(huì)指物，配有攝像頭。我訓(xùn)練它，然后在它面前放一個(gè)物體，對(duì)它說：“指一下那個(gè)物體?！彼赶蛄四莻€(gè)物體?，F(xiàn)在我在攝像頭鏡頭前放一塊棱鏡，干擾了它的感知系統(tǒng)。然后我再在它面前放一個(gè)物體，對(duì)它說：“再指一下那個(gè)物體?！苯Y(jié)果它指向了那邊。我說：“不，物體不在那邊，它其實(shí)就在你正前方。但我在你的鏡頭前放了一個(gè)棱鏡?！绷奶鞕C(jī)器人說：“哦，我明白了，是棱鏡折射了光線。所以物體其實(shí)在那里?？墒俏业闹饔^體驗(yàn)是它在那邊。”

如果聊天機(jī)器人這么說，那么它使用“主觀體驗(yàn)”這個(gè)詞的方式和我們?nèi)祟愑玫囊荒Ｒ粯?。這也是我相信當(dāng)前的多模態(tài)聊天機(jī)器人在其感知系統(tǒng)出錯(cuò)時(shí)具備主觀體驗(yàn)的原因。

姚期智：我覺得這非常有說服力。但哲學(xué)家們聽到這種論斷時(shí)，會(huì)跳起來，非常惱火。

辛頓：哲學(xué)家都是這樣的。

姚期智：是，但如果我們單純站在科學(xué)家的立場(chǎng)來看待，這些問題的答案重要嗎？因?yàn)楫?dāng)你在科學(xué)討論中完全排除掉這些問題，它不會(huì)減少什么，也不會(huì)增加什么。是這樣嗎？

辛頓：我認(rèn)為在政治層面上這非常重要。我覺得許多人對(duì)超級(jí)智能的恐懼沒有應(yīng)有的那么大，因?yàn)樗麄內(nèi)韵嘈盼覀兩砩嫌心撤N特殊的東西——主觀體驗(yàn)、感知能力或意識(shí)——是這些其他系統(tǒng)永遠(yuǎn)無法擁有的。也就是說，我們很特別。我們有一種神奇的組成部分，而AI沒有，所以我們覺得會(huì)沒事。我認(rèn)為那是無稽之談，而且是危險(xiǎn)的無稽之談，因?yàn)樗鼤?huì)讓我們自滿。

訓(xùn)練一個(gè)善良的AI可能嗎

姚期智：我想我們第一部分差不多要結(jié)束了，但我有個(gè)問題一直迫不及待地想問您：您認(rèn)為AI領(lǐng)域最重要的未解決問題是什么？

辛頓：我認(rèn)為最重要的未解決問題是：如何訓(xùn)練出一個(gè)善良的AI。我們需要知道如何訓(xùn)練它們，使其不想接管一切，而目前沒有人知道該怎么做到這一點(diǎn)。

我的猜想是，這很像養(yǎng)育孩子。養(yǎng)孩子的時(shí)候，你可以給他定規(guī)矩，但那幾乎不起什么作用。你可以獎(jiǎng)賞或懲罰他，可能會(huì)有一點(diǎn)效果?；蛘吣憧梢越o他展示好的行為榜樣。如果父母表現(xiàn)出良好的行為，孩子通常會(huì)成長(zhǎng)為一個(gè)品德高尚的人。所以我覺得我們應(yīng)該用精心篩選的數(shù)據(jù)來培養(yǎng)AI。當(dāng)AI開始學(xué)習(xí)時(shí)，它只接觸好的行為。我們把所有人的不良行為先存起來，等它學(xué)會(huì)了什么是好的行為之后，再把那些不良行為給它看。

姚期智：是啊，如果這樣行得通，那肯定能解決很多有關(guān)AI未來發(fā)展的問題。不過讓我再追問一下，因?yàn)槲矣X得，要訓(xùn)練出一個(gè)完全善良的AI比看起來要難。而且我懷疑，你多少可以證明那是不可能的。

我相信，這個(gè)世界上有好人，也有壞人。但事實(shí)上，好人也可能在不同環(huán)境下變成壞人。所以我認(rèn)為，“善良”這種特質(zhì)也是和情境相關(guān)的。如果你在一個(gè)環(huán)境惡劣的社區(qū)長(zhǎng)大，要成為常人眼中的好人是很難的。

我的擔(dān)憂是，假設(shè)——就像你養(yǎng)育一個(gè)孩子，如果他成長(zhǎng)在富裕家庭、良好社區(qū)，他會(huì)成為彬彬有禮的人。但在極端壓力下，比如戰(zhàn)場(chǎng)上——有時(shí)你必須做出價(jià)值判斷。如果機(jī)器人在許多那樣的情境下接受訓(xùn)練——我猜想，一臺(tái)好機(jī)器人，如果你讓它承受巨大的壓力，并且一旦做錯(cuò)就會(huì)被銷毀，那么它就會(huì)變得非常冷酷無情。

所以我的意思是，我覺得要做到你說的那一點(diǎn)，一個(gè)宏偉的理想是我們應(yīng)該首先改造人類本身。如果我們能得到一個(gè)善良占上風(fēng)的世界，然后我們?cè)儆眠@種方式訓(xùn)練機(jī)器人，那么最后大家都會(huì)很滿意。但如果我們無法讓人類社會(huì)達(dá)到那種狀態(tài)，我認(rèn)為我們就無法保證那些心懷不軌者不會(huì)制造出帶有敵意的機(jī)器人來消滅所有善良的機(jī)器人。

辛頓：但我們沒有那個(gè)時(shí)間。事實(shí)上人類為此已經(jīng)努力了很久了。人類社會(huì)運(yùn)轉(zhuǎn)良好這個(gè)目標(biāo)，我們嘗試了很長(zhǎng)時(shí)間。聯(lián)合國(guó)并沒有實(shí)現(xiàn)最初的設(shè)想。我認(rèn)為我們沒法及時(shí)做到你說的那點(diǎn)。我們不可能以足夠快的速度改革人類社會(huì)，來趕上應(yīng)對(duì)即將到來的超級(jí)智能AI威脅。

還有一個(gè)替代方案，聽起來有點(diǎn)像硅谷的想法：假設(shè)我們能造出一個(gè)大體上善良的AI，然后讓它去設(shè)計(jì)一個(gè)更善良的AI。也許要真正解決如何制造善良AI的問題，你需要一個(gè)比我們聰明得多的AI來完成。所以可能可以用遞歸的方式讓AI變得越來越善良，有點(diǎn)像機(jī)器學(xué)習(xí)中的提升（boosting）：你先有一個(gè)弱學(xué)習(xí)器，再把它變成強(qiáng)學(xué)習(xí)器。這是一個(gè)可能的路徑。

但就像我說的，目前我們還不知道怎么做到。我只是不認(rèn)為首先改造人類社會(huì)會(huì)是一個(gè)選項(xiàng)。

姚期智：是的，我能在一種情況下看到一線希望，也就是假設(shè) AGI 的發(fā)展是漸進(jìn)的，并不是一夜之間突然就支配了我們。當(dāng)跡象已經(jīng)非常清楚地表明機(jī)器人將接管世界，把全人類都扔到一條船上，也許對(duì)我們來說那會(huì)是好事，讓我們汲取教訓(xùn)，認(rèn)識(shí)到人類的局限。

我想我們或許太心高氣傲了。我們以為可以擁有一切，但整個(gè)宇宙并不那么仁慈。掌握量子、核以及生物合成的秘密知識(shí)并非毫無代價(jià)，這是一個(gè)我們?nèi)祟悜?yīng)該意識(shí)到的危險(xiǎn)。我們應(yīng)該珍惜自己的好運(yùn)，因?yàn)槲覀兙谷荒茏叩浇裉臁㈩I(lǐng)悟數(shù)百年來所有這些卓越的思想，實(shí)在是個(gè)奇跡。

當(dāng)AI更加強(qiáng)大，我們?cè)撊绾卫斫馑?/strong>

辛頓：我有幾個(gè)關(guān)于量子計(jì)算的問題想問你。第一個(gè)問題是，大多數(shù)物理理論在極端條件下都會(huì)失效。你認(rèn)為有沒有可能，我們對(duì)量子力學(xué)的理解也無法一直成立？也就是說，在某些情況下——比如無法保持非常復(fù)雜的糾纏，而量子計(jì)算依賴于完美維持這些糾纏——最終量子計(jì)算實(shí)際上可能行不通？

姚期智：我認(rèn)為按照正統(tǒng)的量子理論，只要量子理論成立，糾纏多少個(gè)量子比特都不影響其有效性。但在實(shí)踐中，就目前而言，物理學(xué)家目前能夠?qū)崿F(xiàn)深度糾纏的最大粒子數(shù)大概是60個(gè)。所以我們距離理想中想要執(zhí)行的那種量子計(jì)算還差得很遠(yuǎn)。從這個(gè)意義上說，這確實(shí)是個(gè)懸而未決的問題。

不過物理學(xué)家或自然科學(xué)家的觀點(diǎn)是：如果你有一個(gè)好的理論，在出現(xiàn)相反證據(jù)之前不要去動(dòng)搖它。我記得在量子計(jì)算的早期，有幾位非常受尊敬的理論計(jì)算機(jī)科學(xué)家，他們認(rèn)真質(zhì)疑過量子因數(shù)分解算法是否真的可行，因?yàn)槲锢韺W(xué)家一直無法在實(shí)驗(yàn)中實(shí)現(xiàn)。但我認(rèn)為物理學(xué)家是能做到的，只是答案尚未揭曉。而我的那些對(duì)這個(gè)問題感興趣的朋友，我猜他們內(nèi)心是想拿諾貝爾獎(jiǎng)的。他們覺得，如果計(jì)算機(jī)科學(xué)家設(shè)計(jì)出量子算法并由物理學(xué)家實(shí)現(xiàn)，結(jié)果發(fā)現(xiàn)并不能給出正確答案，那么計(jì)算機(jī)科學(xué)就通過在量子理論中制造了一個(gè)悖論而作出了巨大貢獻(xiàn)。不過我認(rèn)為就目前而言，我所有搞量子計(jì)算的物理學(xué)家朋友都完全忽略了這種可能性。

辛頓：第二個(gè)問題：我們先假設(shè)量子計(jì)算最終能夠奏效。你認(rèn)為在未來比如10到15年內(nèi)，量子計(jì)算會(huì)對(duì)AI產(chǎn)生巨大影響嗎？還是你覺得AI的進(jìn)展會(huì)依靠經(jīng)典計(jì)算來實(shí)現(xiàn)？

姚期智：我認(rèn)為這對(duì)AI和量子計(jì)算來說確實(shí)都是一個(gè)前沿問題。因?yàn)榱孔拥耐碜砸环N與AI所帶來的能力完全不同的方向。所以自然而然的問題是，終極的計(jì)算能力將來自在量子條件下構(gòu)建AI機(jī)器。原則上，我們應(yīng)該能得到更好的成果，因?yàn)槔昧孔?，可以做到一些AI做不到的事情。比如分解大整數(shù)——我想幾乎沒有從事AI的人認(rèn)為AI真能做到這一點(diǎn)。所以我們不必那么害怕AI，因?yàn)橛行┦挛覀兡茏龅?，而超?jí)智能機(jī)器做不到。

辛頓：接下來還有一個(gè)不涉及量子計(jì)算的問題。有些人認(rèn)為，我們現(xiàn)在在AI中所做的就是在創(chuàng)造外星生命。我聽你說過，如果事情真是如此，我們需要為這些外星生命建立一門心理學(xué)。你能詳細(xì)談?wù)剢幔?/p>

姚期智：我認(rèn)為我們字面意義上就是在創(chuàng)造外星生物。我記得你今天早上提到，這些超智能機(jī)器真的是外星人。我的感覺是，盡管我們同意在科學(xué)討論中去除“意識(shí)”和“理解”這些詞不會(huì)損失什么，但在我們嘗試構(gòu)建機(jī)器時(shí)，考慮看看能否將這些特性賦予進(jìn)去以讓它們更加善良，實(shí)際上可能是有益的。

因此，我確實(shí)相信在某個(gè)時(shí)候 AI 將催生一個(gè)獨(dú)立的學(xué)科，也就是機(jī)器心理學(xué)。我覺得這很有意思，因?yàn)闄C(jī)器心理學(xué)和普通心理學(xué)之間的關(guān)系是這樣的：目前我們基本上還沒有真正的 AGI（通用人工智能），所以我們?nèi)匀挥性S多需要向人類學(xué)習(xí)的地方。

目前所有智能機(jī)器都有一個(gè)前提：由人類設(shè)計(jì)者確定其高層結(jié)構(gòu)。歸根結(jié)底，AI 大多就是以智能的方式搜索大量可能性的能力，有時(shí)這種方式還很神秘，我們無法理解也無法證明。所以假設(shè)我暫且不考慮安全問題，只管去設(shè)計(jì)我所能設(shè)計(jì)的最聰明的機(jī)器，同時(shí)努力讓它保持善良，那么最好的指導(dǎo)仍然來自人類；我們雇傭聰明的人來思考如何設(shè)計(jì)體系結(jié)構(gòu)。

我認(rèn)為目前我們可以利用人類心理學(xué)作為指導(dǎo)，對(duì)機(jī)器進(jìn)行初步的分類，并對(duì)它們進(jìn)行測(cè)試。但我相信，機(jī)器心理學(xué)最終會(huì)比人類心理復(fù)雜得多，因?yàn)樵谄垓_方面，它們甚至?xí)任覀內(nèi)祟愔凶畈豢罢哌€要更勝一籌。所以當(dāng)它們聰明到那種程度，如果我們想研究它們的心理，我認(rèn)為就得由它們自己的同類來發(fā)展這門學(xué)科——也就是由機(jī)器自己來研究。