火星網(wǎng)校
國(guó)產(chǎn)超大規(guī)模AI預(yù)訓(xùn)練模型發(fā)布，可實(shí)現(xiàn)“用圖生文”等任務(wù)
發(fā)布時(shí)間：2024-04-02 17:45:05 瀏覽量：191次
澎湃新聞?dòng)浾?張唯
六出奇光動(dòng)地來(lái),西方海國(guó)見旌旗。
水心惟有終無(wú)底,火內(nèi)曾無(wú)徹上灰。
地軸迂回周八極,天球低陷不磨回。
明朝滄海成桑田,吾欲吹噓弄大灰。
以上詩(shī)句題為《詠智利日全食》，來(lái)自人工智能模型“文匯”的手筆。
人工智能模型“文匯”是北京智源人工智能研究院近日發(fā)布的一款面向認(rèn)知的超大規(guī)模新型預(yù)訓(xùn)練模型。它旨在探索解決當(dāng)前大規(guī)模自監(jiān)督預(yù)訓(xùn)練模型不具有認(rèn)知能力的問題，參數(shù)規(guī)模達(dá)113億，僅次于OpenAI1月初發(fā)布的DALL·E模型的120億參數(shù)量，是目前中國(guó)規(guī)模最大的預(yù)訓(xùn)練模型。
超大規(guī)模預(yù)訓(xùn)練模型是當(dāng)前人工智能領(lǐng)域研究的熱點(diǎn)。
自2020年5月，OpenAI發(fā)布迄今為止全球規(guī)模最大的預(yù)訓(xùn)練模型GPT-3以來(lái)，OpenAI、谷歌等科技公司都在持續(xù)推動(dòng)大規(guī)模預(yù)訓(xùn)練模型的進(jìn)一步發(fā)展。2021年1月5日，OpenAI在官方博客發(fā)布了人工智能神經(jīng)網(wǎng)絡(luò)“DALL·E”，可以通過(guò)自然語(yǔ)言文本直接生成對(duì)應(yīng)圖像。
據(jù)介紹，“文匯”模型能夠?qū)W習(xí)不同模態(tài)（文本和視覺領(lǐng)域?yàn)橹鳎┲g的概念，可以實(shí)現(xiàn)“用圖生文”等任務(wù)，具有一定的認(rèn)知能力。
北京智源人工智能研究院成立于2018年11月，是在科技部和北京市委市政府的指導(dǎo)和支持下，由北京市科委和海淀區(qū)政府推動(dòng)成立的新型研發(fā)機(jī)構(gòu)。
“文匯”由智源研究院發(fā)起的“悟道”攻關(guān)團(tuán)隊(duì)完成，團(tuán)隊(duì)由智源研究院、阿里巴巴、清華大學(xué)、中國(guó)人民大學(xué)、中國(guó)科學(xué)院、搜狗、智譜.AI、循環(huán)智能等單位的科研骨干組成。
智源研究院院長(zhǎng)、北京大學(xué)信息技術(shù)學(xué)院黃鐵軍表示，“文匯”模型針對(duì)性地設(shè)計(jì)了多任務(wù)預(yù)訓(xùn)練的方法，可以同時(shí)學(xué)習(xí)文→文、圖→文以及圖文→文等多項(xiàng)任務(wù)，實(shí)現(xiàn)對(duì)多個(gè)不同模態(tài)的概念理解。
“文匯”模型能夠完成多種圖文生成任務(wù)。例如，根據(jù)下面這張圖片，模型可給出描述如下描述：
旗袍是一種古典的風(fēng)格，它不僅能夠彰顯出女性優(yōu)雅氣質(zhì)，而且還具有很好的修飾身形。這款旗袍采用了經(jīng)典的圓領(lǐng)設(shè)計(jì)，穿著舒適自在，同時(shí)又能夠展現(xiàn)出女性柔美的頸部線條，讓你更加的迷人。精致的繡花工藝，使得整件衣服看起來(lái)更加的精致，也更加的凸顯出女性的魅力。
“文匯”模型還能夠生成基于人設(shè)的文本：
據(jù)悉，“文匯”模型的研究團(tuán)隊(duì)在模型中提出了針對(duì)多模態(tài)認(rèn)知生成的大規(guī)模預(yù)訓(xùn)練的架構(gòu)M6：
MultiModality-to-MultiModality Multi-task Mega-Transformer。模型整體架構(gòu)基于Transformer，其中圖像進(jìn)行切塊并對(duì)塊采用ResNet-50提取特征。這些特征以及對(duì)應(yīng)的position embedding讓圖像和文本能組合在一起送入模型。
智源研究院透露，目前，“文匯”已支持基于認(rèn)知推理的多種自然語(yǔ)言及跨模態(tài)應(yīng)用任務(wù)，部分應(yīng)用即將與搜狗、阿里巴巴、學(xué)堂在線、智譜.AI、循環(huán)智能等機(jī)構(gòu)合作上線。具體功能包括基于上傳圖片的開放域問答、用語(yǔ)言操作數(shù)據(jù)可視化、基于預(yù)訓(xùn)練語(yǔ)言模型的詩(shī)詞創(chuàng)作應(yīng)用和可控人設(shè)的開放域問答等。
責(zé)任編輯：李躍群
校對(duì)：徐亦嘉
熱門課程推薦
熱門資訊
-
1. 照片變漫畫效果，這4個(gè)方法操作簡(jiǎn)單有效，快來(lái)試試吧！
想將照片變成漫畫效果？這篇文章分享了4個(gè)方法，包括Photoshop、聰明靈犀、VanceAI Toongineer、醒圖，簡(jiǎn)單操作就能實(shí)現(xiàn)，快來(lái)嘗試一下吧！
-
2. 華為手機(jī)神奇“AI修圖”功能，一鍵消除衣服！原圖變身大V領(lǐng)深V！
最近華為手機(jī)Pura70推出的“AI修圖”功能引發(fā)熱議，通過(guò)簡(jiǎn)單操作可以讓照片中的人物換裝。想了解更多這款神奇功能的使用方法嗎？點(diǎn)擊查看！
-
3. 四款值得推薦的AI以圖生圖軟件，有需要的趕緊來(lái)試試!
近年來(lái),人工智能逐漸走入公眾視野,其中的AI圖像生成技術(shù)尤為引人注目。只需在特定軟件中輸入關(guān)鍵詞描述語(yǔ)以及上傳參考圖就能智能高效生成符合要求的...
-
4. AI視頻制作神器Viggle：讓靜態(tài)人物動(dòng)起來(lái)，創(chuàng)意無(wú)限！
Viggle AI是一款免費(fèi)制作視頻的AI工具，能讓靜態(tài)人物圖片動(dòng)起來(lái)，快來(lái)了解Viggle AI的功能和優(yōu)勢(shì)吧！
-
5. Logo Diffusion——基于sd繪畫模型的AI LOGO 生成器
這下LOGO設(shè)計(jì)徹底不用求人了。接下來(lái)詳細(xì)演示一遍操作流程首先進(jìn)入Logo D... 想學(xué)習(xí)更多AI技能,比如說(shuō)關(guān)于怎么樣利用AI來(lái)提高生產(chǎn)效率、還能做什么AI...
-
6. 零基礎(chǔ)10分鐘生成漫畫，教大家如何用AI生成自己的漫畫
接下來(lái),我將親自引導(dǎo)你,使用AI工具,創(chuàng)作一本既有趣又能帶來(lái)盈利的漫畫。我們將一起探索如何利用這個(gè)工具,發(fā)揮你的創(chuàng)意,制作出令人驚嘆的漫畫作品。讓...
-
7. 趕緊收藏好!這4個(gè)完全免費(fèi)的AI視頻制作網(wǎng)站和工具
以下是一些免費(fèi)的AI視頻制作網(wǎng)站或工具,幫助您制作各種類型的視頻。 1. Lumen5:Lumen5是一個(gè)基于AI的視頻制作工具,可將文本轉(zhuǎn)換為視頻。 用戶可以使...
-
8. 一款免費(fèi)無(wú)限制的AI視頻生成工具火了!國(guó)內(nèi)無(wú)障礙訪問!附教程
人人都可以動(dòng)手制作AI視頻! 打開網(wǎng)址https://pixverse.ai/,用郵箱注冊(cè)后,點(diǎn)擊右上角Create,就可以開始創(chuàng)作了。 PixVerse目前有文案生成視頻,和圖片生...
-
9. AI顯卡繪畫排行榜:4090無(wú)懸念，最具性價(jià)比出人意料
在AI繪圖領(lǐng)域，Stable Diffusion的顯卡繪圖性能備受關(guān)注。本文整理了Stable Diffusion顯卡的硬件要求和性能表現(xiàn)，以及2023年3月顯卡AI繪圖效率排行榜和性價(jià)比排行榜。歡迎查看最新的AI顯卡算力排行榜。
-
就能快速生成一幅極具藝術(shù)效果的作品,讓現(xiàn)實(shí)中不懂繪畫的人也能參與其中創(chuàng)作!真的超贊噠~趣趣分享幾款超厲害的AI繪畫軟件,提供詳細(xì)操作!有需要的快來(lái)...
最新文章
