這兩天在看設(shè)計上海2023，論壇與展會展品不乏與AIGC相關(guān)的內(nèi)容。比如：

• 在是否將AIGC引入設(shè)計流程的問題上，可以看到有事務(wù)所、設(shè)計師在測試、使用生成式AI工具，不過主要是作為輔助設(shè)計工具。有設(shè)計師提出一個好的設(shè)計除了要有設(shè)想，還必須有策略、計劃與執(zhí)行，AIGC工具目前主要被用于創(chuàng)意靈感探索，在策略、計劃與執(zhí)行上，尤其是在分析判斷創(chuàng)意實現(xiàn)的最佳解決方式等策略問題上，還無法取代設(shè)計師；也有設(shè)計師對AIGC內(nèi)容知識產(chǎn)權(quán)權(quán)利歸屬與維權(quán)問題表示顧慮。
• AI生成內(nèi)容是否可以直接進入生產(chǎn)制造環(huán)節(jié)也是需要考慮的問題?，F(xiàn)場看到有家居品牌表示“可以將您的AI概念產(chǎn)品進行設(shè)計優(yōu)化，為天馬行空的創(chuàng)意提供落地的可能性，做真正意義上的定制化服務(wù)”。進行設(shè)計優(yōu)化的必要性其實不難理解，概念設(shè)計需要找到機器設(shè)備進行制造加工，即使是已經(jīng)引入柔性生產(chǎn)線或者3D打印生產(chǎn)線的制造商也未必能完全滿足客戶個性化的定制需求，需要根據(jù)自身生產(chǎn)能力進行設(shè)計優(yōu)化?，F(xiàn)場也看到有設(shè)計公司、新材料制造商和家居品牌展出3D打印產(chǎn)品與解決方案，比如科勒衛(wèi)浴的3D打印臺盆，不過都是設(shè)計師主導(dǎo)作品。逛展時還沒注意到有特別介紹工藝流程是AI設(shè)計到成品交付的。

同天的北京安博會，用媒體報道的話說就是“大模型應(yīng)用扎推、AI攝像頭滿場”：

• 安防領(lǐng)域的企業(yè)往往基于各種感知設(shè)備擁有強大的數(shù)據(jù)獲取能力，在AI大模型等前沿技術(shù)的研發(fā)應(yīng)用上有天然優(yōu)勢。
• 展會現(xiàn)場有不少企業(yè)推出通用或行業(yè)大模型，比如杭州聯(lián)匯展出百億參數(shù)視覺語言認知大模型及相關(guān)服務(wù)，支持語義定義下發(fā)任務(wù)，具備泛化識別和推理能力；熵基科技BioCV LLM包括140億/70億/13億等多個參數(shù)規(guī)模的版本，支持多語言表達與理解、持續(xù)繪畫、邏輯推理等能力；360現(xiàn)場展示基于360智腦-視覺大模型的應(yīng)用，demo顯示其具有文字識別能力和圖片識別能力——視覺問答支持通過一張圖片以及提出關(guān)于圖片的一個問題，系統(tǒng)輸出相應(yīng)的答案。
• 在應(yīng)用場景方面，除了在傳統(tǒng)安防領(lǐng)域的應(yīng)用，大模型+AIoT應(yīng)用場景廣闊，比如，宇視展出的梧桐AI算法訓(xùn)練平臺、AIoT行業(yè)大模型，據(jù)稱已落地多模態(tài)-Vlog智能影像等AIGC場景。

從廠商們展出的產(chǎn)品及解決方案來看，生成式人工智能在模型參數(shù)、數(shù)據(jù)輸入和輸出方面呈現(xiàn)大模型、多模態(tài)和涌現(xiàn)性等特征，對現(xiàn)有算法監(jiān)管帶來挑戰(zhàn)：

• 模型參數(shù)規(guī)模巨大且呈爆炸式增長，超大規(guī)模的參數(shù)量可以提升算法決策的準(zhǔn)確性，但是同時也降低了算法的可解釋性，進而直接影響算法透明性治理；
• 大模型從文字識別發(fā)展到能夠同時接受圖像和文本類型的輸入，后者對大模型的信息鑒別能力要求更高，在預(yù)防偏見與歧視等算法公平治理方面挑戰(zhàn)也更大；
• 在參數(shù)規(guī)模、數(shù)據(jù)量突破某個量級時，可能會出現(xiàn)大模型性能顯著提升、涌現(xiàn)出令人意想不到的能力，比如語言理解能力、生成能力、邏輯推理能力（最近大家用的比較多的描述可能是“一本正經(jīng)胡說八道”的能力），這種涌現(xiàn)特性雖然會增強人工智能的認知性、擴展多場景應(yīng)用的潛能，但同樣也會帶來難以量化、難以檢測、難以救濟的算法妨害風(fēng)險?，F(xiàn)有主體責(zé)任制+場景化監(jiān)管的現(xiàn)有監(jiān)管模式即使可以滿足事后追責(zé)要求，也因缺乏有效的事前預(yù)防、事中監(jiān)督等具有預(yù)防性、時效性、實效性措施而難以應(yīng)對算法妨害效應(yīng)。

這些特征在行業(yè)研報、白皮書等文件中也有所體現(xiàn)，比如，IDC《2022中國大模型發(fā)展白皮書》中寫道，“以谷歌的BERT、OpenAI的GPT和百度文心大模型為代表，參數(shù)規(guī)模逐步提升至千億、萬億……”（現(xiàn)在通用性AI大模型M6已有十萬億級），“繼語言模態(tài)之后，視覺大模型等其他模態(tài)的大模型研究，也開始逐步受到重視”，“單模態(tài)的大模型被統(tǒng)一整合起來，模擬人腦多模態(tài)感知的大模型出現(xiàn)，推動了從AI感知到認知的發(fā)展”，也就是推動從弱人工智能到強人工智能的發(fā)展。

除此以外，最大的挑戰(zhàn)還是算法治理模式本身的挑戰(zhàn)：

• 我國的AI算法治理依托算法主體責(zé)任展開，現(xiàn)有算法責(zé)任主體主要是算法推薦服務(wù)者和深度合成服務(wù)提供者，基于算法規(guī)定、深度合成規(guī)定等識別相關(guān)主體責(zé)任義務(wù)的邊界、明確違規(guī)后果，本身并不難。問題是，算法推薦服務(wù)者、深度合成服務(wù)提供者往往也是監(jiān)管視野下的平臺企業(yè)，算法主體責(zé)任是平臺主體責(zé)任構(gòu)成的一部分，如何處理平臺主體責(zé)任、平臺主體的算法安全主體責(zé)任、承擔(dān)責(zé)任的方式方法等等，還需要更為明確的監(jiān)管規(guī)則。
• 算法規(guī)定本身針對算法推薦服務(wù)者、深度合成服務(wù)提供者，而人工智能相關(guān)的大模型風(fēng)險不僅可能源于研發(fā)主體，也可能源于部署算法模型的部署者以及終端使用者，當(dāng)應(yīng)當(dāng)承擔(dān)主體責(zé)任的對象呈多元化、分散化、場景化特征時，僅界定服務(wù)提供者的主體責(zé)任，難以滿足追責(zé)與風(fēng)險處理需求。

舉個例子，前面我們寫過生成式人工智能相關(guān)的產(chǎn)業(yè)鏈至少可以分為數(shù)據(jù)層、算力層、算法模型層和應(yīng)用層。位于產(chǎn)業(yè)鏈上游的研發(fā)主體，能夠控制技術(shù)基礎(chǔ)設(shè)置、對模型進行訓(xùn)練/修改和測試；其下游主體可對大模型微調(diào)后，將其嵌入特定的應(yīng)用或服務(wù)，面向終端用戶提供服務(wù)；終端用戶輸入數(shù)據(jù)會反哺模型，推動模型進化與發(fā)展，甚至推動模型“黑化”。在這一過程中，算法推薦服務(wù)提供者、深度合成服務(wù)提供者以及終端內(nèi)容生產(chǎn)者的責(zé)任界定需要更明確的規(guī)則。

也就是說，現(xiàn)有算法治理機制主要是基于算法作為工具、產(chǎn)品/服務(wù)的屬性而設(shè)計，更適配弱人工智能監(jiān)管需求，隨著算法智能化、類人化特性的不斷涌現(xiàn)，監(jiān)管滯后性、實效性等問題會越發(fā)突出。

此外，算法主體責(zé)任+場景化監(jiān)管的模式可能會無法滿足AIGC監(jiān)管需求——預(yù)訓(xùn)練大模型已經(jīng)成為人工智能基礎(chǔ)設(shè)施的情況下，預(yù)訓(xùn)練大模型依托其研發(fā)的插件系統(tǒng)可深度集成與各項應(yīng)用程序，催生新業(yè)務(wù)場景、新業(yè)態(tài)。AIGC+模式下，分行業(yè)、分場景的監(jiān)管模式可能會效率低下。

明天結(jié)合大模型技術(shù)特征具體看一下算法治理問題。

參考：

智東西公眾號，2023年6月8日發(fā)表的《2023安博會五大看點：大模型應(yīng)用扎推、AI攝像頭滿場，海思低調(diào)參展》

https://marketplace.huaweicloud.com/markets/holosensstore/index.html

IDC《2022中國大模型發(fā)展白皮書》（由百度支持）

哈爾濱工業(yè)大學(xué)自然語言處理研究所2023年3月6日發(fā)布的《ChatGPT調(diào)研報告（僅供內(nèi)部參考）》

新華社研究院中國企業(yè)發(fā)展研究中心，2023年6月發(fā)布的《人工智能大模型體驗報告》

微軟研究院2023年3月發(fā)布的《人工通用智能的星星之火：GPT-4的早期實驗》

艾瑞咨詢2023年4月發(fā)布的《ChatGPT浪潮下，看中國大語言模型產(chǎn)業(yè)發(fā)展》