“放眼全球可以看到，談人工智能倫理最多的公司，往往爆出的倫理問(wèn)題也很突出，甚至有些公司的倫理研究團(tuán)隊(duì)還承擔(dān)著廣告和公關(guān)的職能，由于與研發(fā)和應(yīng)用團(tuán)隊(duì)的分離，他們很難將倫理研究成果應(yīng)用到設(shè)計(jì)、研發(fā)、部署等步驟中，甚至是起到了倫理清洗的作用?！?月3日，首屆全球數(shù)字經(jīng)濟(jì)大會(huì)人工智能產(chǎn)業(yè)治理主題論壇上，中國(guó)科學(xué)院自動(dòng)化研究所研究員、國(guó)家新一代人工智能治理專委會(huì)委員曾毅發(fā)表《負(fù)責(zé)任的人工智能：可持續(xù)發(fā)展與治理的深度協(xié)同》主題演講，他認(rèn)為，應(yīng)該將人工智能倫理和治理嵌入到企業(yè)全流程和產(chǎn)品全生命周期中來(lái)。

曾毅

曾毅的建議也在此次會(huì)上得到積極回應(yīng)。北京智源人工智能研究院和瑞萊智慧共同發(fā)起，百度、華為、螞蟻集團(tuán)、寒武紀(jì)等數(shù)十家研究機(jī)構(gòu)與創(chuàng)新企業(yè)聯(lián)合參與的首個(gè)《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》正式發(fā)布，該宣言強(qiáng)調(diào)科技企業(yè)在推動(dòng)人工智能自律自治穩(wěn)健發(fā)展中應(yīng)積極承擔(dān)的責(zé)任。

AI技術(shù)應(yīng)具有可持續(xù)性

“談到人工智能，為什么要治理？”在演講中，曾毅拋出這個(gè)問(wèn)題。他總結(jié)說(shuō)，人工智能在發(fā)展過(guò)程中出現(xiàn)了倫理問(wèn)題或者有潛在風(fēng)險(xiǎn)，人工智能倫理通俗來(lái)講可以概括為兩件事情，第一，人工智能應(yīng)該做什么，什么是正當(dāng)?shù)模康诙?，人工智能不?yīng)該做什么，什么是不當(dāng)?shù)摹?/p>

曾毅認(rèn)為，人工智能技術(shù)應(yīng)該具有可持續(xù)性?！笆裁词遣豢沙掷m(xù)的人工智能？”曾毅說(shuō)，看似智能，實(shí)際上幾乎沒(méi)有理解能力的信息處理工具，不是真正可持續(xù)的人工智能，在這個(gè)基礎(chǔ)上再擴(kuò)張其應(yīng)用場(chǎng)景和能力，卻缺乏對(duì)其負(fù)面影響的關(guān)注，這樣的人工智能非常有問(wèn)題。

反之，如果是創(chuàng)建具有真正意義的智能機(jī)器，應(yīng)用到人類生態(tài)和社會(huì)以及全球的可持續(xù)發(fā)展中，避免和最小化對(duì)社會(huì)和生態(tài)產(chǎn)生的負(fù)面影響，這樣的技術(shù)是可持續(xù)的人工智能。

“比如說(shuō)人工智能應(yīng)用于健康、教育，但是它也可能給健康和教育帶來(lái)負(fù)面影響，要真正做到人工智能賦能可持續(xù)發(fā)展，也要同步關(guān)注它產(chǎn)生的負(fù)面影響?！痹阏f(shuō)。

遺憾的是，曾毅團(tuán)隊(duì)曾分析了計(jì)算機(jī)科學(xué)和人工智能領(lǐng)域發(fā)表的英文文獻(xiàn)，發(fā)現(xiàn)800萬(wàn)篇人工智能和計(jì)算機(jī)科學(xué)相關(guān)論文中，只有0.1%是真正和可持續(xù)發(fā)展目標(biāo)高度關(guān)聯(lián)的；而且，絕大多數(shù)論文的應(yīng)用偏向于教育、健康，究其原因，還是這兩個(gè)領(lǐng)域機(jī)遇多、能賺錢。

“如果人工智能創(chuàng)新的目標(biāo)就是賺錢，那么大多數(shù)可持續(xù)發(fā)展目標(biāo)無(wú)法通過(guò)人工智能來(lái)實(shí)現(xiàn)?！痹氵€呼吁，人工智能的創(chuàng)新者和企業(yè)更多地關(guān)注人工智能賦能野生動(dòng)物保護(hù)、環(huán)境保護(hù)與氣候行動(dòng)等議題。

AI治理與發(fā)展從來(lái)不存在沖突

在曾毅看來(lái)，可持續(xù)的人工智能，必須是善治的。治理先行還是發(fā)展優(yōu)先？它們從來(lái)不是競(jìng)爭(zhēng)關(guān)系，因?yàn)槿斯ぶ悄芊€(wěn)健發(fā)展，二者缺一不可，而且需要深度協(xié)同，從來(lái)不存在治理阻礙發(fā)展的問(wèn)題，治理管控的是野蠻生長(zhǎng)。

“盡管很多企業(yè)關(guān)注隱私問(wèn)題，也有企業(yè)在隱私計(jì)算方面努力，但現(xiàn)在的技術(shù)進(jìn)展真的足以保護(hù)用戶嗎？現(xiàn)狀恐怕很慘痛?！痹阏f(shuō)。

他舉例說(shuō)，很多國(guó)家禁用人臉識(shí)別，我國(guó)也頒布了人臉識(shí)別的規(guī)范，盡管人臉識(shí)別在一些場(chǎng)合被禁用，并沒(méi)有得到更多相關(guān)企業(yè)的反對(duì)，一個(gè)不爭(zhēng)的事實(shí)就是企業(yè)恐怕可以找到替代方案，步態(tài)識(shí)別、指紋識(shí)別、聲紋識(shí)別等等相關(guān)技術(shù)存在的技術(shù)和倫理風(fēng)險(xiǎn)和人臉識(shí)別是非常相似的，但是沒(méi)有引起公眾關(guān)注。

“人臉識(shí)別技術(shù)的禁用并不代表這個(gè)問(wèn)題被解決了，實(shí)際上人臉識(shí)別存在的風(fēng)險(xiǎn)，比如隱私泄露對(duì)公平性的侵犯，技術(shù)不成熟性導(dǎo)致種族和性別之間的歧視，在任何一個(gè)生物特征識(shí)別的方法中都存在?！痹阏f(shuō)，禁用一個(gè)特定技術(shù)并不能解決問(wèn)題，應(yīng)當(dāng)通過(guò)學(xué)術(shù)界和產(chǎn)業(yè)界的共同努力解決這些技術(shù)中存在的技術(shù)和倫理痛點(diǎn)。

再比如，AI“監(jiān)控”進(jìn)校園，學(xué)生再無(wú)隱私可言，國(guó)外則發(fā)展出了一套反人臉識(shí)別的技術(shù)，比如在人臉上貼膠帶或者戴特定的眼鏡，以規(guī)避人臉的檢測(cè)。

但在曾毅看來(lái)，針對(duì)校園霸凌、師生之間的糾紛，發(fā)生問(wèn)題缺失證據(jù)等場(chǎng)景人工智能仍有發(fā)揮善用的空間。如果設(shè)計(jì)一個(gè)產(chǎn)品，平時(shí)保護(hù)學(xué)生隱私，發(fā)生異常事件時(shí)被激活并記錄異常事件，及時(shí)通知校方或報(bào)警，這樣的設(shè)計(jì)才是負(fù)責(zé)任的人工智能設(shè)計(jì)。

尚未能完全有效保護(hù)用戶

盡管不少人工智能手段，有助推動(dòng)社會(huì)善治，但也存在不少尚未解決的大問(wèn)題。

曾毅以用戶應(yīng)該享有的“數(shù)據(jù)撤銷”權(quán)利為例，人工智能企業(yè)目前僅能做到的只是停留在可以從數(shù)據(jù)庫(kù)中刪除用戶數(shù)據(jù)。

然而，如何在人工智能的模型和服務(wù)中刪除用戶的數(shù)據(jù)和特征，這在技術(shù)上存在巨大挑戰(zhàn)，幾乎沒(méi)有人可以做到在一個(gè)深度學(xué)習(xí)模型中刪除單個(gè)用戶對(duì)模型形成的影響。

“蠻力的解決辦法就是重新訓(xùn)練人工智能模型，而多長(zhǎng)時(shí)間訓(xùn)練一次，一個(gè)月？半年？一些大模型訓(xùn)練一次耗費(fèi)五百萬(wàn)元?！痹阏f(shuō)，更新數(shù)據(jù)的代價(jià)就是，很多企業(yè)選擇不去更新。

有些方法試圖保護(hù)用戶數(shù)據(jù)，代價(jià)是犧牲其它方面。曾毅再舉例說(shuō)，聯(lián)邦學(xué)習(xí)可以在不分享自己數(shù)據(jù)的情況下，在分享的數(shù)據(jù)模型基礎(chǔ)上聯(lián)合學(xué)習(xí)，在保護(hù)用戶隱私數(shù)據(jù)的同時(shí)受益于其他企業(yè)的模型，服務(wù)于自己的企業(yè)，但這回避了一個(gè)關(guān)鍵問(wèn)題，即用戶知情同意，“用戶是否同意把自己的數(shù)據(jù)，以模型的形式改善或服務(wù)于其它的企業(yè)和應(yīng)用？如果沒(méi)有，這就違反了用戶知情同意”。

在曾毅看來(lái)，這似乎是為了解決問(wèn)題A引入了問(wèn)題B，更完善的用戶知情同意機(jī)制需要進(jìn)一步建立。差分隱私是隱私保護(hù)中應(yīng)用比較多的技術(shù)，但為了保護(hù)隱私而使模式識(shí)別率下降10%到30%，可能很多企業(yè)也會(huì)猶豫。

【記者】郜小平

【出品】南方產(chǎn)業(yè)智庫(kù)

【作者】 郜小平

南方產(chǎn)業(yè)智庫(kù)

來(lái)源：南方+ - 創(chuàng)造更多價(jià)值