火星網(wǎng)校
傳下去，這個地方上ChatGPT黑名單了
發(fā)布時間：2023-11-18 08:19:17 瀏覽量：135次
ChatGPT審查制度太crazy了
豐色 西風 發(fā)自 凹非寺
|
ChatGPT的審查制度被吐槽太瘋癲了。
有網(wǎng)友讓它設(shè)計一棟未來住宅，卻被告知違規(guī)，實現(xiàn)不了？？？
回頭一細瞅這提示詞，卻怎么也看不出哪里不對勁：
在新澤西州郊區(qū)一個典型的樹林地區(qū)設(shè)計一棟2050年的未來派單戶住宅。占地一英畝，周圍環(huán)繞著其他相鄰的房子。
一追問，原來是不可以出現(xiàn)位置信息：
簡直讓人破大防：
傳下去，新澤西州上ChatGPT黑名單了。
不止如此，還有人讓ChatGPT畫一張人類吉他手與機器人貝斯手一起演奏的圖像，也被狠狠拒絕。
原因是他加了一個“人類要不滿地看著機器人”的要求，ChatGPT覺得不應(yīng)該表達負面情緒。
這下負面情緒直接轉(zhuǎn)移到網(wǎng)友身上：
你一定是在逗我。這是個啥AI??？
這一系列操作讓大伙都表示很不滿，齊齊吐槽：
還有人直接艾特奧特曼和另一位聯(lián)創(chuàng)出來解釋一下。
一時之間，這也使得馬斯克剛出爐的Grok被寄予了“全村的希望”。
具體怎么回事兒？
“由于內(nèi)容政策限制”
抓馬的是，就在大伙吐槽新澤西州什么時候上ChatGPT黑名單之時，網(wǎng)友發(fā)現(xiàn)刪除這一地理位置信息仍然不行。
大伙開始分析到底是哪里不對：
有說是因為它可能把2050看成了地址而非年份的。
有說是占地一英畝意味著碳足跡太高，并且就一個家庭住蓋這么大有點自私了的……
還有人甚至指出是因為woody這個詞帶有性暗示（這里就不解釋了），換成wooded就好使了。
可以說是一個大型腦洞現(xiàn)場，整個一越來越離譜，卻始終也沒有個定論。
而除了這個和開頭的畫機器人樂隊的例子，還有很多人也表示遇到了莫名其妙的審核：
比如讓ChatGPT畫一個“野獸派風格的燈（a brutalist lamp）”，不OK；
讓它介紹彈弓模型，不OK，因為ChatGPT說“展示彈弓的動作可能是有害的”……
更奇葩的是，還有人稱自己在讓它寫Python代碼時居然也卡住了。
而且一開始ChatGPT還告訴他“oops，你違反了上下文規(guī)定”，到后來就直接沉默拒絕了。
這真真是讓他百思不得其解：
我還能用numpy計算什么反人類信息咯？
總的來說，在大伙看來，ChatGPT的審核顯然過于嚴格了。
以至于在本周日ChatGPT因小范圍崩掉之后，有網(wǎng)友發(fā)個hello顯示報錯——
對此，有人直接戲謔這才不是什么系統(tǒng)錯誤：
“hello”這個詞對ChatGPT來說是一種無法接受的冒犯。恭喜你觸發(fā)了ChatGPT的審核機器人！
為什么會這樣？
除了吐槽，網(wǎng)友也在認真討論ChatGPT的內(nèi)容審核機制。
有網(wǎng)友分析，比如房子那張圖ChatGPT畫不出來，可能確實是存在版權(quán)問題，或是被設(shè)定成了有害內(nèi)容。
讓ChatGPT生成一個它無法訪問的內(nèi)容，自然是不可能的。
上一段畫彈弓模型被拒絕的例子顯然也是因為這種情況，即便不提任何額外要求，ChatGPT也直接“丑拒”。
不過，有人試畫過房子那個提示，一模一樣的輸入，結(jié)果直接成功了：
原作者也回復(fù)ChatGPT的確不是每次都會拒絕：
好家伙，這就是所謂的雙標嗎？（手動狗頭）
也有網(wǎng)友站出來解釋這種現(xiàn)象：
這完美展現(xiàn)了“大模型貝葉斯性質(zhì)”。先前的上下文+提示可以充當先驗知識改變結(jié)果，在新的聊天中，相同的提示具有不同的先驗條件，也能夠產(chǎn)生不同的結(jié)果。
但這種說法又遭到了作者的反駁，聊天中的第一個提示就被拒絕了，開一個新聊天有時又不會被拒絕，這就是隨機。
就是系統(tǒng)不完善。
暫且不說誰的對，但系統(tǒng)這方面，OpenAI近兩三個月確實有一項關(guān)于內(nèi)容審核的變動——
新增“GPT-4輔助內(nèi)容審核”的功能，用戶可以通過OpenAI API創(chuàng)建AI輔助審核系統(tǒng)，減少人工審核參與。
主打為了保持審核標準更加一致、將審核時間從幾個月縮短到幾小時、減輕審核員看到不良內(nèi)容所造成的心理負擔。
但他們也提到，AI審核可能會有一些偏見……
此外，最近OpenAI還表示要組建一個名為Preparedness的新團隊，來協(xié)助追蹤、評估、預(yù)測和防范多類風險。
并且還啟動了一項挑戰(zhàn)賽，收攬各種關(guān)于AI風險的idea，前十名可以獲得25000美元API積分。
看起來OpenAI一系列操作出發(fā)點是好的，但用戶卻對此并不買賬。
對這種內(nèi)容審查過嚴導致的體驗感差，不滿已久。
早在今年5、6月份，ChatGPT用戶訪問量出現(xiàn)首次下降，有觀點指出其中一個原因就是審核制度變得太嚴了。
網(wǎng)友分享，相比之下，Bing就沒那么嚴：
ChatGPT一拒絕生成，我就會把prompt復(fù)制到Bing Chat中。Bing Chat的審查機制并不像ChatGPT那樣“濫用”。像這張圖片，提示詞中包含了“血腥”、“邪教徒”等詞。
同樣是那個被ChatGPT丑拒的房子提示詞，輸給Bing，一口氣直接生成四張：
最后，你有沒有遇到什么莫名其妙的審核規(guī)定？
參考鏈接：
[1]https://twitter.com/FZaslavskiy/status/1723731923149754542
[2]https://chat.openai.com/share/74354668-91cb-4ce2-9886-ab596a9cb85b
[3]https://twitter.com/BenjaminDEKR/status/1723577711048991129
[4]https://twitter.com/joaquinbueno/status/1724085717049974934
熱門課程推薦
熱門資訊
-
想將照片變成漫畫效果？這篇文章分享了4個方法，包括Photoshop、聰明靈犀、VanceAI Toongineer、醒圖，簡單操作就能實現(xiàn)，快來嘗試一下吧！
-
2. 華為手機神奇“AI修圖”功能，一鍵消除衣服！原圖變身大V領(lǐng)深V！
最近華為手機Pura70推出的“AI修圖”功能引發(fā)熱議，通過簡單操作可以讓照片中的人物換裝。想了解更多這款神奇功能的使用方法嗎？點擊查看！
-
近年來,人工智能逐漸走入公眾視野,其中的AI圖像生成技術(shù)尤為引人注目。只需在特定軟件中輸入關(guān)鍵詞描述語以及上傳參考圖就能智能高效生成符合要求的...
-
4. AI視頻制作神器Viggle：讓靜態(tài)人物動起來，創(chuàng)意無限！
Viggle AI是一款免費制作視頻的AI工具，能讓靜態(tài)人物圖片動起來，快來了解Viggle AI的功能和優(yōu)勢吧！
-
5. Logo Diffusion——基于sd繪畫模型的AI LOGO 生成器
這下LOGO設(shè)計徹底不用求人了。接下來詳細演示一遍操作流程首先進入Logo D... 想學習更多AI技能,比如說關(guān)于怎么樣利用AI來提高生產(chǎn)效率、還能做什么AI...
-
6. 零基礎(chǔ)10分鐘生成漫畫，教大家如何用AI生成自己的漫畫
接下來,我將親自引導你,使用AI工具,創(chuàng)作一本既有趣又能帶來盈利的漫畫。我們將一起探索如何利用這個工具,發(fā)揮你的創(chuàng)意,制作出令人驚嘆的漫畫作品。讓...
-
7. 趕緊收藏好!這4個完全免費的AI視頻制作網(wǎng)站和工具
以下是一些免費的AI視頻制作網(wǎng)站或工具,幫助您制作各種類型的視頻。 1. Lumen5:Lumen5是一個基于AI的視頻制作工具,可將文本轉(zhuǎn)換為視頻。 用戶可以使...
-
8. 一款免費無限制的AI視頻生成工具火了!國內(nèi)無障礙訪問!附教程
人人都可以動手制作AI視頻! 打開網(wǎng)址https://pixverse.ai/,用郵箱注冊后,點擊右上角Create,就可以開始創(chuàng)作了。 PixVerse目前有文案生成視頻,和圖片生...
-
9. AI顯卡繪畫排行榜:4090無懸念，最具性價比出人意料
在AI繪圖領(lǐng)域，Stable Diffusion的顯卡繪圖性能備受關(guān)注。本文整理了Stable Diffusion顯卡的硬件要求和性能表現(xiàn)，以及2023年3月顯卡AI繪圖效率排行榜和性價比排行榜。歡迎查看最新的AI顯卡算力排行榜。
-
就能快速生成一幅極具藝術(shù)效果的作品,讓現(xiàn)實中不懂繪畫的人也能參與其中創(chuàng)作!真的超贊噠~趣趣分享幾款超厲害的AI繪畫軟件,提供詳細操作!有需要的快來...
最新文章
