激情六月丁香婷婷|亚洲色图AV二区|丝袜AV日韩AV|久草视频在线分类|伊人九九精品视频|国产精品一级电影|久草视频在线99|在线看的av网址|伊人99精品无码|午夜无码视频在线

高校合作1:010-59833514 ?咨詢電話:400-810-1418 服務(wù)與監(jiān)督電話:400-810-1418轉(zhuǎn)接2

大模型時(shí)代,“人人可AI”的百度開發(fā)者平臺(tái)長(zhǎng)什么樣?

發(fā)布時(shí)間:2023-11-29 15:08:30 瀏覽量:107次

一探百度如何打造大模型時(shí)代的開發(fā)者平臺(tái)

轉(zhuǎn)載自 51CTO技術(shù)棧,作者:云昭,嘉賓:張瑞星

大模型時(shí)代的開發(fā)者平臺(tái),不僅要提供 AI 原生能力,還要具備生態(tài)打造和商業(yè)化閉環(huán)能力。

提及“靈境”,人們?cè)谀X海中往往會(huì)呈現(xiàn)出自己旅行過的風(fēng)景名勝。然而,當(dāng)身處在通用大模型“智力涌現(xiàn)”的語境下,對(duì)準(zhǔn)備在這里探索AI世界的開發(fā)者而言,能夠提供機(jī)遇的“靈境”平臺(tái),又會(huì)是什么樣?

這個(gè)問題不好回答,畢竟運(yùn)營(yíng)一個(gè)開發(fā)者平臺(tái),涉及產(chǎn)品打磨、規(guī)則建立、持續(xù)運(yùn)營(yíng)等多個(gè)維度。而一個(gè)新時(shí)代的開啟,勢(shì)必有著更多不可預(yù)測(cè)的變量。

但在此時(shí),我們同樣也看到有些先行者正試圖給出自己的答卷。比如,在國(guó)內(nèi)率先推出“文心一言”的百度,在今年9月也快速上線了自己的“靈境矩陣”開發(fā)者平臺(tái)(以下簡(jiǎn)稱“靈境”)。

我們了解到,靈境矩陣自9月份發(fā)布公測(cè)上線以來,整體收到的申請(qǐng)是2.7萬左右。其中個(gè)人開發(fā)者的比例一直呈現(xiàn)上漲的趨勢(shì),現(xiàn)在在30%左右。

而且靈境矩陣的不同之處還在于,它不僅是一個(gè)重在提供開發(fā)能力的平臺(tái),也為開發(fā)者設(shè)計(jì)了一套流量變現(xiàn)通路,希望讓開發(fā)者能切切實(shí)實(shí)地通過平臺(tái)獲得收益。

這是一套頗為前沿的探索機(jī)制,讓人好奇,靈境矩陣的推出和設(shè)計(jì),都經(jīng)歷了怎樣的思忖和探索?

11月15日下午,在第二屆“百度搜索創(chuàng)新大賽”期間,我們懷揣著種種有關(guān)“靈境”的問題來到百度科技園中,與百度靈境矩陣平臺(tái)負(fù)責(zé)人張瑞星進(jìn)行了2個(gè)小時(shí)的訪問。

大模型時(shí)代,“人人可AI”的百度開發(fā)者平臺(tái)長(zhǎng)什么樣?

靈境的誕生:讓大模型成功才是戰(zhàn)局關(guān)鍵

“是做一個(gè)低成本能開發(fā)AI應(yīng)用的平臺(tái)去賦能開發(fā)者,還是去幫開發(fā)者直接接入大模型,通過大模型再賦能到各家企業(yè)中?到底選哪個(gè)方向?我們經(jīng)歷了較長(zhǎng)時(shí)間的思考。”面對(duì)靈境究竟為何誕生的疑問,張瑞星坦誠(chéng)回應(yīng)。

今年年初,在全新的大模型戰(zhàn)場(chǎng)上,大多數(shù)人都選擇做應(yīng)用,典型如國(guó)內(nèi)的妙鴨相機(jī)、國(guó)外的Midjourney等。但百度在全線重構(gòu)自有產(chǎn)品之外,也在思考如何幫助開發(fā)者降低成本。

這是一個(gè)非常重要的研判。大模型是一個(gè)強(qiáng)大的大腦,但是它需要更多手和腳。所以,在今年年初大家的眼光都集中在大模型時(shí),百度已經(jīng)開始思考如何對(duì)大模型進(jìn)行更多的能力支持。

開發(fā)者平臺(tái)成為了一個(gè)選擇。如果做類似Midjourney這樣的應(yīng)用,成就的是個(gè)體。而做開發(fā)者平臺(tái),成就的是大模型和生態(tài)。如果有愈發(fā)多的開發(fā)者來到這里,開發(fā)出更多的能力,那么大模型也會(huì)因此獲益。百度的文心大模型,也會(huì)進(jìn)一步贏得新時(shí)代的AI戰(zhàn)役。

這個(gè)判斷,也是和眾多使用大模型的客戶“聊”出來的。

“我們當(dāng)時(shí)也和很多開發(fā)者、企業(yè)溝通,發(fā)現(xiàn)他們?cè)谑褂么竽P偷倪^程中還是有一些具體場(chǎng)景下的痛點(diǎn),需要插件這類產(chǎn)品去幫助解決?!睆埲鹦钦f。

所以,靈境的定位,就是要助力文心大模型這個(gè)大腦有更多的手和腳,讓文心的服務(wù)能力更強(qiáng)。

拋去概念,插件與Agent都是靈境

大模型這個(gè)行業(yè),迭代非??焖伲忻嫔弦粫r(shí)產(chǎn)生了很多概念:如Bot、插件、Agent等等。但是,糾結(jié)這些概念,在日新月異的大模型時(shí)代意義不大。

“我們需要有一種機(jī)制,能讓開發(fā)者以足夠低成本的方式,接入到大模型的底座上來。這種機(jī)制,到底是叫插件,還是叫Agent,還是叫某種API,或是叫其他什么,都只是概念的一種。隨著技術(shù)的演進(jìn),市場(chǎng)的發(fā)展,它們最終會(huì)逐步規(guī)范化、統(tǒng)一化到一類范式上?!睆埲鹦钦J(rèn)為。

但另一個(gè)問題是,既然現(xiàn)在看來,Agent更像是未來的范式,插件是不是不重要了?跟Agent的關(guān)系又是怎樣的呢?

在張瑞星的眼中,Agent可能是未來主流的接入方式,其本身要涉及到幾大能力?!癆gent首先是對(duì)于描述需求的自然語言有理解。第二就是基于理解,對(duì)用戶的動(dòng)作和任務(wù),做出有效的規(guī)劃。同時(shí),針對(duì)用戶交互的信息,它要長(zhǎng)期記憶。”張瑞星進(jìn)一步解釋,在這個(gè)過程中,要想滿足用戶需求,其實(shí)Agent需要調(diào)用各種各樣的tools工具。

所以,插件可能就是Agent的基礎(chǔ),是Agent所需調(diào)用的大量工具的基礎(chǔ)

比如一款旅游行程規(guī)劃的Agent,可以讓用戶快速地制定一個(gè)基于個(gè)人習(xí)慣的私人助理,從而制定旅游行程規(guī)劃。

但是,這個(gè)Agent本身需要調(diào)用大量的工具。也就是當(dāng)它需要查詢天氣類,調(diào)用飛機(jī)或火車的時(shí)刻表、班次信息,以及是否喜歡靠窗等一些個(gè)人偏好,同時(shí)還需要去查詢目的地城市的好玩景點(diǎn),是否帶娃出行等個(gè)性化屬性的時(shí)候,Agent就會(huì)調(diào)用很多插件工具,組合型地滿足用戶的個(gè)人需求。

從這個(gè)角度上看,各種各樣的插件,是支撐起Agent的基座。

“現(xiàn)在插件做的事情就是大量的tools。比如旅游智能行程規(guī)劃Agent,可能你和它交互完之后,它直接能幫你訂票。為了完成這個(gè)動(dòng)作,它需要調(diào)一個(gè)訂票的tools,也就是插件現(xiàn)在在做的事情。插件未來會(huì)成為Agent的一個(gè)重要支撐?!睆埲鹦钦f。

他還打了一個(gè)有趣的比喻來形容未來大模型、Agent和插件的關(guān)系:“Agent或許是一個(gè)小腦,大模型是個(gè)大腦,未來可能各家的大小腦容量都差不多。但如果我手上有10樣工具,你手上只有一樣工具,那我滿足客戶需求的能力肯定更強(qiáng)?!?/p>

為什么一定是靈境?

雖然目前不少大模型公司都在推出開發(fā)者平臺(tái),但要做大模型時(shí)代的開發(fā)者平臺(tái),不僅需要技術(shù)支持,還需要了解用戶需求,也要具備生態(tài)打造和商業(yè)化閉環(huán)能力。

而靈境的誕生,始于百度對(duì)于大模型格局的前瞻研判,也離不開過去整個(gè)技術(shù)、產(chǎn)品、生態(tài)、商業(yè)化體系的積累。

靈境矩陣平臺(tái)的真正立項(xiàng)時(shí)間是7月。從立項(xiàng)到上線測(cè)試,再到9月對(duì)外發(fā)布,靈境只有2個(gè)月左右的時(shí)間。

張瑞星回憶起當(dāng)時(shí)團(tuán)隊(duì)的緊張節(jié)奏,簡(jiǎn)直是分秒必爭(zhēng):“不到30天,8月中下旬內(nèi)測(cè)(邀測(cè))版本已經(jīng)發(fā)布,在9月初,我們?cè)诼?lián)盟峰會(huì)上正式發(fā)布了公測(cè)版本?!?/p>

而光速上線“靈境”開發(fā)者平臺(tái),除了團(tuán)隊(duì)的全力以赴,也與百度過去的長(zhǎng)期積累有著莫大的關(guān)系。這也是國(guó)內(nèi)不少做大模型的企業(yè)所不具備的。

首先,百度原本就積累了很強(qiáng)的開發(fā)者生態(tài)——不管是原來的站長(zhǎng),還是后來的小程序,這百萬站長(zhǎng)和三四十萬的小型開發(fā)者,是百度的天然優(yōu)勢(shì)。

市面上不少公司都想做開發(fā)者生態(tài),但是原本在這個(gè)層面上沒有積累。如果在本身沒有開發(fā)者或者B端生態(tài)的情況下硬造一個(gè)平臺(tái),除非企業(yè)有著很強(qiáng)的布局能力,否則即便做成平臺(tái),收益也會(huì)很低。

再者,對(duì)比有開發(fā)生態(tài)的大模型玩家,百度同樣擁有著豐富的“流量場(chǎng)景”。

這也讓靈境在市面上的定位更具差異化——它不止是一個(gè)純開發(fā)平臺(tái),而是一個(gè)覆蓋“開發(fā)+運(yùn)營(yíng)+商業(yè)化”的一體化賦能平臺(tái)。

對(duì)比之下,國(guó)內(nèi)外許多插件開發(fā)者都面臨著“既沒有生態(tài),有沒有流量場(chǎng)景”的困境。比如在OpenAI的生態(tài)中,有一個(gè)金融領(lǐng)域的插件開發(fā)者表示插件做完了,在ChatGPT上卻很少有人去問金融問題,會(huì)導(dǎo)致他的插件調(diào)用很少,收益也很小。而沒有流量分發(fā)的開發(fā)者平臺(tái),很可能是無效的。

張瑞星解釋:“為什么我們?cè)诙ㄎ簧蠜]有只寫‘開發(fā)’兩個(gè)字?因?yàn)殪`境包含了開發(fā)、運(yùn)營(yíng)以及商業(yè)化的部分,只不過初期,開發(fā)肯定是最重要的?!?/p>

他向我們透露,百度此前已經(jīng)部分打通了分發(fā)場(chǎng)景,并預(yù)計(jì)在第四季度徹底打通百度搜索和文心一言這兩大分發(fā)場(chǎng)景,“像地圖、文庫(kù)等百度的其他主要分發(fā)場(chǎng)景,靈境都在接入。所以,很快就能看到開發(fā)者不只可以在靈境上開發(fā),還會(huì)有比較適配場(chǎng)景的流量涌入。預(yù)計(jì)在今年Q4或者明年Q1,靈境會(huì)布局商業(yè)化的能力,允許一些插件開發(fā)者在對(duì)應(yīng)的場(chǎng)景上進(jìn)行流量變現(xiàn)。”

那么,假如對(duì)手也有著這兩方面的優(yōu)勢(shì),靈境的支撐又是什么?

答案是大模型自身的能力。而在國(guó)內(nèi),百度對(duì)于大模型的投入是非常長(zhǎng)期且巨大的,效果層面也直追國(guó)際水平。

前瞻的魔鬼細(xì)節(jié)

功能的完善程度和易用性,往往在初期就能決定一個(gè)產(chǎn)品的成敗。

那么,在最初搭建的開發(fā)模式層面,靈境相較ChatGPT插件又有哪些不同?通過張瑞星的講述,我們感受到,魔鬼往往藏在細(xì)節(jié)之中。

第一,靈境采用了最新的可視化開發(fā)編排模式,通過拖拽的方式,可以在一定程度上淘汰Langchain這種中間平臺(tái),降低大模型應(yīng)用的開發(fā)成本。據(jù)了解,百度靈境矩陣其實(shí)在7、8月份的時(shí)候就采用這種比較領(lǐng)先的方式,甚至比OpenAI要早。

第二,在接入層面上,靈境支持了多種方式。像ChatGPT,本身更多支持API的接入,但靈境支持的數(shù)據(jù)接入類型更多,比如本地上傳,數(shù)據(jù)庫(kù)、API等,能力型的接入都覆蓋。此外,應(yīng)用類的接入也是靈境的一大特點(diǎn)。一些能力較強(qiáng)的開發(fā)者,如攜程,愿意來靈境做一個(gè)類似于智能應(yīng)用,未來這個(gè)智能應(yīng)用也可以接入到大模型里?!斑@三種模式我們都支持接入,所以從接入的方式上比Plugin更豐富?!睆埲鹦潜硎?。

第三,靈境在頂層設(shè)計(jì)上,把插件的分發(fā)設(shè)計(jì)成了一體多端的模式。并且,這一模式Q4就能完整落地。

“所謂一體多端,就是基于百度的流量場(chǎng)景的特性,設(shè)計(jì)兼容移動(dòng)端的各類APP和PC瀏覽器在內(nèi)網(wǎng)頁(yè)搜索的模式?!睆埲鹦钦f,有了一體多端的分發(fā)能力的設(shè)計(jì),未來靈境上的插件就能原生地植入到原本的App中,甚至包括自己的小程序里,這是一個(gè)良好的基礎(chǔ),也是ChatGPT-Plugin不能達(dá)到的。

具備眾多差異化特點(diǎn),目前靈境所覆蓋的領(lǐng)域也比較齊全,除卻法律、情感、辦公創(chuàng)作、商品評(píng)測(cè)等,還有很多插件都在開發(fā)和上線中。現(xiàn)在靈境中使用較多的是辦公創(chuàng)作類插件,因?yàn)檫@仍是眼下大模型應(yīng)用的最主要場(chǎng)景。

我們還注意到,之前法律Bot、旅游Bot兩款靈境的應(yīng)用很早就得到了開發(fā)者的好評(píng)。

從這兩類Bot的打造方式中,我們也可以看出靈境矩陣的運(yùn)作細(xì)節(jié)。

首先,針對(duì)這兩個(gè)行業(yè),百度成立了專項(xiàng)小組。

比如法律Bot。百度的法律部門在百忙中提供了很多專業(yè)的律師來為Bot校正,逐字評(píng)估回答的準(zhǔn)確性?!翱此莆覀?cè)诋a(chǎn)品上投入不大,但整個(gè)團(tuán)隊(duì)加起來,每個(gè)小方向的投入基本都在幾十人左右,這里面包括了策略、評(píng)估的團(tuán)隊(duì)、包括了相關(guān)專業(yè)的團(tuán)隊(duì)。”張瑞星介紹。

旅游Bot則不止是靈境團(tuán)隊(duì)的付出,更是攜程團(tuán)隊(duì)和百度大力協(xié)同的結(jié)果,“相當(dāng)于我們有一個(gè)很緊密的兄弟團(tuán)隊(duì)也做了大量投入,和我們聯(lián)動(dòng)做這件事情?!睆埲鹦茄a(bǔ)充。

此外,領(lǐng)域?qū)R也是一個(gè)大模型火熱話題。

張瑞星分享了在做法律Bot訓(xùn)練過程中的經(jīng)驗(yàn),“在大模型訓(xùn)預(yù)處理、預(yù)訓(xùn)練的過程中要經(jīng)過反復(fù)的策略調(diào)整。比如同樣一個(gè)問題,你回答成這樣或者回答成那樣,哪個(gè)到底是對(duì)的、哪個(gè)是好的,它需要有一個(gè)正反饋。在這個(gè)過程中,靈境有大量的評(píng)估團(tuán)隊(duì)、樣本生成的團(tuán)隊(duì),去輔助大模型的訓(xùn)練。”

這里有兩個(gè)點(diǎn),首先是整個(gè)團(tuán)隊(duì)從不懂到懂的過程中,其實(shí)需要和內(nèi)外部專業(yè)人士頻繁溝通?!八惺忻嫔夏芰牡奈覀兌剂牧耍衣蓭焾F(tuán)隊(duì)還會(huì)給產(chǎn)品團(tuán)隊(duì)做培訓(xùn)。團(tuán)隊(duì)還引入了專業(yè)人士,數(shù)據(jù)標(biāo)注這一環(huán)都招的是有法律背景的人。”他告訴我們。

再一個(gè),和專業(yè)機(jī)構(gòu)的合作也能讓產(chǎn)品效果得到飛躍式提升。我們了解到,靈境平臺(tái)上法律方向的內(nèi)容,也得到了中國(guó)司法大數(shù)據(jù)研究院的支持。

“當(dāng)你進(jìn)入到深水區(qū)的時(shí)候,進(jìn)入到這個(gè)垂直領(lǐng)域的時(shí)候,你的策略和模型的效果,對(duì)整個(gè)‘法言法語’的理解,就會(huì)上一個(gè)很大的臺(tái)階?!睆埲鹦侨绱丝偨Y(jié)深扎垂直領(lǐng)域的感受。

未來的靈境

“人人可AI”是靈境秉持的理念。這是一個(gè)長(zhǎng)期的目標(biāo),需要持續(xù)耕耘才能實(shí)現(xiàn)。

我們了解到,未來一年內(nèi),靈境將會(huì)持續(xù)發(fā)力三個(gè)重點(diǎn)方向。

首先,靈境平臺(tái)會(huì)持續(xù)地降本,這是靈境的內(nèi)核,也是行業(yè)的趨勢(shì)。AI時(shí)代的開發(fā)者,不會(huì)僅是傳統(tǒng)意義上只具備專業(yè)研發(fā)能力的從業(yè)者,還有越來越多的普通人,也對(duì)此躍躍欲試。而要讓這件事真正落地,降低開發(fā)者的成本,會(huì)是重中之重。

Agent開發(fā)范式的出現(xiàn),給了這件事轉(zhuǎn)機(jī)。

在Agent的開發(fā)模式下,通過代碼、開發(fā)API、Prompt的方式創(chuàng)建功能,會(huì)帶來極大的成本降低空間。

“成本降低到什么程度?有可能未來整個(gè)靈境平臺(tái)就是一個(gè)Agent,使用者進(jìn)來只需要敲字:‘我想創(chuàng)建一個(gè)什么東西’,或者‘我想再外掛一個(gè)數(shù)據(jù)庫(kù)’,只需要通過自然語言交互的方式就完成了,這是我們的一個(gè)明確路徑?!睆埲鹦潜硎?。

而這同樣是一個(gè)新的飛輪。這個(gè)模式,會(huì)讓開發(fā)門檻降下來,籠絡(luò)更多的開發(fā)者,同時(shí)讓有開發(fā)實(shí)力的人開發(fā)出更好的東西。

張瑞星也詳述了靈境持續(xù)降本的一些計(jì)劃。

最直接的方式是把開發(fā)者的開發(fā)過程壓縮,讓大模型直接幫開發(fā)者把過程轉(zhuǎn)化成Prompt,做好對(duì)應(yīng)的Agent。

此外,靈境還會(huì)提供開發(fā)者不少資源?!办`境去賦能大家更多的算力、賦能更多的免費(fèi)Token。此外,靈境還會(huì)有一些經(jīng)濟(jì)上的賦能或者支持。比如,在服務(wù)器層面、軟硬件條件層面,如云的服務(wù)器等,我們對(duì)很多個(gè)人開發(fā)者或者企業(yè)開發(fā)者都可以免費(fèi)開通。”張瑞星補(bǔ)充。

第二個(gè)重點(diǎn)攻堅(jiān)方向涉及商業(yè)閉環(huán)。也就是說,靈境接下來還要賦能開發(fā)者足夠的經(jīng)營(yíng)能力。“這條線我們認(rèn)為依然是百度差異化的核心優(yōu)勢(shì)。我們真正能給開發(fā)者帶來收益,而不是講空話?!睆埲鹦菑?qiáng)調(diào),“開發(fā)者做出了好的東西,靈境還希望幫他推出去?!?/p>

在這其中,靈境一方面會(huì)幫助開發(fā)者真正能獲取流量和用戶,同時(shí)也會(huì)提供各種各樣的商業(yè)化賦能。另一方面,對(duì)于缺乏C端訴求的開發(fā)者,靈境也會(huì)打造出“D2C”、“D2D”的模式,“其他開發(fā)者可以把你開發(fā)的東西買走或者直接調(diào)用?!睆埲鹦潜硎旧踔吝€可能會(huì)推出“D2P”的商業(yè)模式,即開發(fā)者可以為平臺(tái)有償做一些精品化的東西。

當(dāng)然,為了保證用戶體驗(yàn),靈境對(duì)于插件的上線審核有著嚴(yán)格的要求。某個(gè)插件上線,就意味著要通過文心一言、百度搜索等產(chǎn)品,和用戶發(fā)生交互。在這種狀況下,靈境對(duì)于它的準(zhǔn)確率、觸發(fā)準(zhǔn)確率和回答的質(zhì)量,都要求較高。為此,靈境團(tuán)隊(duì)有著嚴(yán)格的上線評(píng)測(cè)標(biāo)準(zhǔn),以免給用戶造成不好的使用體驗(yàn)?!?/p>

當(dāng)然,靈境的持續(xù)打磨之路,同樣有著各種各樣的挑戰(zhàn)。最直接地,是模型和Query,再和最后執(zhí)行動(dòng)作的調(diào)優(yōu)。

對(duì)Agent的開發(fā)范式來說,原來的網(wǎng)頁(yè)分發(fā)那套邏輯不再適用了——任何一個(gè)網(wǎng)頁(yè)、任何一個(gè)網(wǎng)站未來都可能會(huì)被定義為一個(gè)小的Agent,未來的搜索會(huì)變成調(diào)用各種各樣Agent的模式。

比如網(wǎng)站Agent、App Agent、數(shù)據(jù)Agent,都是不同類型的Agent。那么,如何將這個(gè)過程智能化、自動(dòng)化,達(dá)成精準(zhǔn)識(shí)別調(diào)用Agent并分發(fā)的效果,不僅要優(yōu)化產(chǎn)品,還要在這個(gè)過程中形成B、C一體的策略飛輪、數(shù)據(jù)飛輪。

這需要讓大模型有很強(qiáng)的判斷能力和識(shí)別能力,以及與Agent之間的交互能力,才有可能做到。這同樣是靈境后續(xù)的一個(gè)核心方向:打造一個(gè)搜索的AGI+一個(gè)通用的Agent。

這顯然不是一件易事,但對(duì)靈境矩陣來說,更大的愿景還在路上。

在百度的設(shè)想里,靈境未來也會(huì)構(gòu)建一個(gè)類似于GPTs這樣的store,“但和移動(dòng)時(shí)代的App Store不同,靈境能構(gòu)建真正適合開發(fā)者的構(gòu)建范式,從而創(chuàng)作出類似領(lǐng)域下的新東西?!痹趶埲鹦强磥恚瑯?gòu)建這樣一個(gè)平臺(tái),是讓創(chuàng)作者激發(fā)更多想象力,讓整個(gè)Agent生態(tài)更加繁榮的必經(jīng)路途。

熱門課程推薦

熱門資訊

請(qǐng)綁定手機(jī)號(hào)

x

同學(xué)您好!

您已成功報(bào)名0元試學(xué)活動(dòng),老師會(huì)在第一時(shí)間與您取得聯(lián)系,請(qǐng)保持電話暢通!
確定