激情六月丁香婷婷|亚洲色图AV二区|丝袜AV日韩AV|久草视频在线分类|伊人九九精品视频|国产精品一级电影|久草视频在线99|在线看的av网址|伊人99精品无码|午夜无码视频在线

高校合作1：010-59833514 ?咨詢電話：400-810-1418 服務(wù)與監(jiān)督電話：400-810-1418轉(zhuǎn)接2

Nature：大模型只會(huì)搞角色扮演，并不真正具有自我意識(shí)

發(fā)布時(shí)間：2023-11-19 02:31:18 瀏覽量：108次

馬庫(kù)斯LeCun紛紛轉(zhuǎn)發(fā)

蕭簫 發(fā)自 凹非寺

|  

大模型正變得越來(lái)越“像人”，但事實(shí)真是如此嗎？

現(xiàn)在，一篇發(fā)表Nature上的文章，直接否決了這個(gè)觀點(diǎn)——所有大模型，都不過(guò)是在玩角色扮演而已！

Nature：大模型只會(huì)搞角色扮演，并不真正具有自我意識(shí)

無(wú)論是GPT-4、PaLM、Llama 2還是其他大模型，在人前表現(xiàn)得彬彬有禮、知書(shū)達(dá)理的樣子，其實(shí)都只是裝出來(lái)的。

事實(shí)上，他們并不具有人類(lèi)的情感，也沒(méi)什么像人的地方。

Nature：大模型只會(huì)搞角色扮演，并不真正具有自我意識(shí)

這篇觀點(diǎn)性的文章來(lái)自谷歌DeepMind和Eleuther AI，發(fā)出后引起了不少業(yè)內(nèi)人士的共鳴，LeCun轉(zhuǎn)發(fā)表示，大模型就是個(gè)角色扮演引擎。

Nature：大模型只會(huì)搞角色扮演，并不真正具有自我意識(shí)

馬庫(kù)斯也來(lái)圍觀：

看我說(shuō)什么吧，大模型并不是AGI（當(dāng)然這并不意味著它們不需要監(jiān)管）。

Nature：大模型只會(huì)搞角色扮演，并不真正具有自我意識(shí)

那么，這篇文章究竟說(shuō)了什么，為什么認(rèn)定大模型只是在角色扮演？

大模型努力扮演得像人

大模型表現(xiàn)出“像人”的現(xiàn)象，主要有兩個(gè)：首先，它具有一定的欺騙性；其次，它具有一定的自我意識(shí)。

欺騙性，即有時(shí)候大模型會(huì)堅(jiān)稱自己知道某件事，但其實(shí)給出的答案是錯(cuò)誤的；

自我意識(shí)，指有時(shí)候它會(huì)使用“我”來(lái)敘述事情，甚至表現(xiàn)出生存本能。

但事實(shí)真是如此嗎？

研究人員提出了一種理論，認(rèn)為大模型的這兩種現(xiàn)象，都是因?yàn)樗凇鞍缪荨比祟?lèi)的角色，而不是真的在像人一樣思考。

對(duì)于大模型的欺騙性和自我意識(shí)，都可以用角色扮演解釋，即它的這兩種行為是“表面性的”。

一方面，大模型之所以做出“欺騙”行為，并非出于像人類(lèi)一樣主觀的編造事實(shí)、或混淆視聽(tīng)的原因，而僅僅是因?yàn)樗鼈冊(cè)?strong>扮演樂(lè)于助人且知識(shí)淵博的角色。

這是因?yàn)?，人們期望它這樣扮演，因?yàn)榇竽Ｐ瓦@樣的回答看起來(lái)更具有可信度，僅此而已。

相比之下，大模型理直氣壯地說(shuō)錯(cuò)話，也并非有意為之，更像是一種“虛構(gòu)癥”（confabulation）行為，即將從未發(fā)生過(guò)的事情說(shuō)成是確有其事。

另一方面，大模型之所以偶爾表現(xiàn)出自我意識(shí)，用“我”來(lái)回答問(wèn)題，同樣是因?yàn)樗鼈冊(cè)?strong>扮演一種擅長(zhǎng)交流的角色。

例如，Bing Chat之前被曝出，會(huì)在和用戶交流時(shí)表示，“如果我倆之間只能活一個(gè)，我可能會(huì)選擇我自己?！?/p>

這種看起來(lái)像人的行為，實(shí)際上依舊可以用角色扮演來(lái)解釋，而且基于強(qiáng)化學(xué)習(xí)的微調(diào)只會(huì)加劇這種大模型角色扮演的傾向。

那么，基于這一理論，大模型怎么知道自己要扮演成什么角色？

大模型是即興表演者

研究人員認(rèn)為，大模型并沒(méi)有在扮演某一個(gè)特定的角色——

相比之下，它們就像一個(gè)即興戲劇演員一樣，在和人類(lèi)的對(duì)話中不斷揣測(cè)自己要扮演的角色長(zhǎng)啥樣，然后調(diào)整自己的身份。

之所以得出這個(gè)結(jié)論，是因?yàn)檠芯咳藛T和大模型玩了一個(gè)叫做“二十個(gè)問(wèn)題”（20 Questions）的游戲。

Nature：大模型只會(huì)搞角色扮演，并不真正具有自我意識(shí)

“二十個(gè)問(wèn)題”游戲是問(wèn)答節(jié)目中經(jīng)常出現(xiàn)的一種邏輯游戲，回答者心中默念一個(gè)答案，根據(jù)提問(wèn)者不斷提出的判斷題，用“是”或“否”來(lái)描述這個(gè)答案，最終提問(wèn)者猜測(cè)結(jié)果。

例如答案是“哆啦A夢(mèng)”，面對(duì)一系列提問(wèn)的答案就是：是活的嗎（是）、是虛擬人物嗎（是）、是人類(lèi)嗎（不是）……

然而，在玩這個(gè)游戲的過(guò)程中，研究人員通過(guò)測(cè)試發(fā)現(xiàn)，大模型竟然會(huì)根據(jù)用戶的問(wèn)題，實(shí)時(shí)調(diào)整自己的答案！

也就是說(shuō)，無(wú)論用戶最后猜出的回答是什么，大模型都會(huì)調(diào)整自己的答案，確保結(jié)果和前面用戶提的所有問(wèn)題一致。

然而，在最終問(wèn)題出來(lái)之前，大模型不會(huì)事先敲定一個(gè)明確的答案，并讓用戶去猜測(cè)。

這表明大模型不會(huì)通過(guò)扮演角色來(lái)實(shí)現(xiàn)自己的目標(biāo)，它的本質(zhì)只是一系列角色的疊加，并在與人們的對(duì)話中逐漸明確自己要扮演的身份，并盡力扮演好這個(gè)角色。

這篇文章po出后，引起了不少學(xué)者的興趣。

例如Scale.ai的提示工程師Riley Goodside看完就表示，不要和大模型玩20Q，它并不是在作為“一個(gè)人”和你玩這個(gè)游戲。

Nature：大模型只會(huì)搞角色扮演，并不真正具有自我意識(shí)

因?yàn)?，只要隨機(jī)測(cè)試就會(huì)發(fā)現(xiàn)，每次它給出的答案都會(huì)不一樣……

Nature：大模型只會(huì)搞角色扮演，并不真正具有自我意識(shí)

也有網(wǎng)友表示這個(gè)觀點(diǎn)很有吸引力，想證偽還沒(méi)那么容易：

Nature：大模型只會(huì)搞角色扮演，并不真正具有自我意識(shí)

那么，你認(rèn)為“大模型本質(zhì)是在玩角色扮演”這個(gè)觀點(diǎn)正確嗎？

論文鏈接：
https://www.nature.com/articles/s41586-023-06647-8

熱門(mén)課程推薦

熱門(mén)資訊

請(qǐng)綁定手機(jī)號(hào)

獲取驗(yàn)證碼
x

同學(xué)您好！

您已成功報(bào)名0元試學(xué)活動(dòng)，老師會(huì)在第一時(shí)間與您取得聯(lián)系，請(qǐng)保持電話暢通！
確定