激情六月丁香婷婷|亚洲色图AV二区|丝袜AV日韩AV|久草视频在线分类|伊人九九精品视频|国产精品一级电影|久草视频在线99|在线看的av网址|伊人99精品无码|午夜无码视频在线

高校合作1：010-59833514 ?咨詢電話：400-810-1418 服務(wù)與監(jiān)督電話：400-810-1418轉(zhuǎn)接2

人工智能是如何做出決策的?

發(fā)布時(shí)間：2024-03-15 10:01:30 瀏覽量：157次

這是我們?cè)S多人在童年時(shí)都會(huì)遇到的問題:“你為什么要這么做？”隨著人工智能（AI）開始越來越多地做出影響我們生活的重要決定，我們也希望這些機(jī)器能夠回答這個(gè)簡(jiǎn)單而深刻的問題。畢竟，我們?yōu)槭裁匆嘈湃斯ぶ悄艿臎Q定呢？

這種渴求令人滿意解釋的想法促使美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)的科學(xué)家們提出了一套評(píng)判原則，通過這些原則我們可以判斷人工智能是如何解釋它所做的決定的。他們發(fā)布的草案《可解釋人工智能的四個(gè)原則》(NISTIR 8312草案)，旨在激發(fā)一場(chǎng)關(guān)于我們應(yīng)該對(duì)AI決策系統(tǒng)有何等期望的討論。

根據(jù)作者的觀點(diǎn)，可解釋人工智能決策的四個(gè)基本原則是:

? 人工智能系統(tǒng)應(yīng)該為其所有決策結(jié)果提供相應(yīng)的證據(jù)或理由

? 系統(tǒng)應(yīng)該提供對(duì)使用者有意義和可理解的解釋

? 該解釋需正確反映AI系統(tǒng)進(jìn)行決策的過程

? 系統(tǒng)僅在設(shè)計(jì)的條件下或當(dāng)系統(tǒng)對(duì)其決策結(jié)果達(dá)到足夠的置信度時(shí)運(yùn)行。(其理念是，如果系統(tǒng)對(duì)其決策結(jié)果沒有足夠的信心，它就不能向用戶提供決策。）


該報(bào)告是NIST幫助開發(fā)“可信”人工智能系統(tǒng)的一部分。NIST的基礎(chǔ)研究旨在通過理解AI系統(tǒng)的理論功能和局限性，以及提高它們的準(zhǔn)確性、可靠性、安全性、穩(wěn)定性和可解釋性來建立對(duì)AI系統(tǒng)的信任，這將是該報(bào)告重點(diǎn)討論的內(nèi)容。

草案作者正在征求公眾的反饋意見，因?yàn)檫@個(gè)主題涉及范圍非常大，從機(jī)械工程、計(jì)算機(jī)科學(xué)到心理學(xué)和法律研究都有所涵蓋，所以他們希望可以對(duì)此進(jìn)行廣泛的討論。

該草案的作者之一，NIST電子工程師喬納森·菲利普斯說：“人工智能越來越多地參與到高風(fēng)險(xiǎn)的決策中，沒有人希望機(jī)器在不了解原因的情況下做出決定。但是一個(gè)能讓工程師滿意的解釋可能并不適用于其他職業(yè)背景的人。因此，我們希望能從不同的角度和觀點(diǎn)來完善這個(gè)草案。”

理解人工智能系統(tǒng)做出決策背后的原因可以使決策所涉及的每個(gè)人都受益。例如，如果人工智能有助于改進(jìn)貸款批準(zhǔn)決策，那么這種理解可以幫助軟件設(shè)計(jì)師改進(jìn)系統(tǒng)。同時(shí)申請(qǐng)人也會(huì)想深入了解人工智能的推理過程，或許是想知道為什么被銀行拒絕，或許是在貸款批準(zhǔn)后幫助申請(qǐng)人繼續(xù)保持良好的信用評(píng)級(jí)。


菲利普斯說，雖然這些原則看起來很簡(jiǎn)單，但使用者通常有不同的標(biāo)準(zhǔn)來判斷人工智能是否成功地滿足了他們的需求。例如，第二個(gè)原則中的“解釋”有多種含義，對(duì)不同的人來說有不同的意義，這取決于他們的角色同人工智能工作之間的聯(lián)系。

提到《星際迷航》中的角色時(shí)，菲利普斯說：“想想柯克和史波克他們是如何交談的，使用人工智能系統(tǒng)來協(xié)助診斷疾病的醫(yī)生可能只需要史波克解釋為什么這臺(tái)機(jī)器會(huì)推薦其中一種特殊的治療方法。而病人可能不太需要知道其中的技術(shù)細(xì)節(jié)，但他們會(huì)希望了解柯克的背景，了解柯克與他的生活有何關(guān)系。”

菲利普斯和他的合著者們將可解釋AI決策依據(jù)的概念與之前AI的相關(guān)工作聯(lián)系起來，同時(shí)他們也將人類對(duì)機(jī)器的可解釋性的要求與人類對(duì)自己的要求進(jìn)行了比較。我們的設(shè)定是否達(dá)到了人類對(duì)AI的需求？在使用報(bào)告的四個(gè)原則探索了人類的決策支撐過程后，作者得出結(jié)論——我們的設(shè)定沒有達(dá)到。

研究員們引用了幾個(gè)例子，寫道：“人類對(duì)自己做出的選擇和推論的解釋在很大程度上是不可靠的。在沒有意識(shí)的情況下，人們會(huì)將不相關(guān)的信息整合到各種決策中，從人格特質(zhì)判斷到陪審團(tuán)裁決都會(huì)有這樣的問題。”

然而，這種意識(shí)上的顯著的雙重標(biāo)準(zhǔn)體系最終會(huì)幫助我們更好地理解自己所做的決定，并創(chuàng)造一個(gè)更安全、更透明的世界。


菲利普斯說：“隨著在AI可解釋性研究方面取得的進(jìn)步，我們可能會(huì)發(fā)現(xiàn)人工智能系統(tǒng)的某些部分比人類自己更能滿足社會(huì)的期望和目標(biāo)?！彼^去的研究表明，人類和人工智能之間的合作比任何一方單獨(dú)工作都能產(chǎn)生更高的準(zhǔn)確性?！袄斫馊斯ぶ悄芟到y(tǒng)和人類決策行為的可解釋性為人類與AI不斷融合各自優(yōu)勢(shì)的實(shí)現(xiàn)打開了大門?！?br class="sysbr">

菲利普斯說，目前作者希望他們收到的評(píng)論能推進(jìn)這一課題的討論更深一步展開。他說：“我認(rèn)為我們尚不清楚什么才是正確的解釋基準(zhǔn)。說到底，我們并不是想回答所有的問題，而是努力地充實(shí)這一領(lǐng)域，從而讓我們的討論富有成效?！?/p>

熱門課程推薦

熱門資訊

請(qǐng)綁定手機(jī)號(hào)

獲取驗(yàn)證碼
x

同學(xué)您好！

您已成功報(bào)名0元試學(xué)活動(dòng)，老師會(huì)在第一時(shí)間與您取得聯(lián)系，請(qǐng)保持電話暢通！
確定