當(dāng)前位置：首頁(yè) >人工智能 >“有被AI冒犯到”:如何調(diào)教出無(wú)偏見(jiàn)的AI

“有被AI冒犯到”:如何調(diào)教出無(wú)偏見(jiàn)的AI

發(fā)布時(shí)間：2023-12-01 23:24:14 瀏覽量：142次

點(diǎn)擊播放本期播客↑

圖片由“AI會(huì)圖”生成。

聽(tīng)見(jiàn)南腔北調(diào)的真故事，遇見(jiàn)南來(lái)北往的社會(huì)人，南方周末的聽(tīng)眾朋友，你們好，歡迎收聽(tīng)南周播客《社會(huì)人》。

近期，有一項(xiàng)被稱(chēng)為“給AI 100瓶毒藥”的行動(dòng)，吸引了心理學(xué)、法律、環(huán)保、無(wú)障礙組織等各領(lǐng)域的專(zhuān)業(yè)人士。他們向AI投出100道人類(lèi)也可能不自覺(jué)掉坑里的復(fù)雜問(wèn)題，誘發(fā)AI做出錯(cuò)誤或不得體的回答；再針對(duì)AI的回答進(jìn)行評(píng)分，答得好的給高分，答得不好的給低分，并給出更合理的答案讓AI進(jìn)行學(xué)習(xí)。

這種行為在人工智能業(yè)內(nèi)一般被稱(chēng)為攻擊性測(cè)試，可以讓AI學(xué)會(huì)舉一反三。專(zhuān)家們調(diào)教AI，是希望AI摘下有色眼鏡，與人類(lèi)對(duì)話時(shí)不再輸出含有偏見(jiàn)與歧視的話語(yǔ)。

然而，AI的偏見(jiàn)來(lái)自哪里？提出什么樣的刁鉆問(wèn)題，才能讓AI建立同理心？本期節(jié)目，我們邀請(qǐng)到了參與“給AI 100瓶毒藥”行動(dòng)的法理學(xué)家翟志勇、環(huán)境社會(huì)學(xué)家范葉超，和他們一起聊聊調(diào)教AI的經(jīng)歷和觀察。

本期嘉賓：