火星網(wǎng)校
爆火!最強Text-to-3D開源方案LucidDreamer:毛發(fā)都給你合成出來
發(fā)布時間：2024-03-24 19:39:10 瀏覽量：184次
作者：泡椒味的口香糖 | 來源：3D視覺工坊
在公眾號「3D視覺工坊」后臺，回復「原論文」可獲取論文pdf、代碼鏈接
添加微信：dddvisiona，備注：NeRF，拉你入群。文末附行業(yè)細分群
0. 筆者個人體會
最近單圖像合成3D、文本合成3D等等工作可謂大火，不停的看見"10秒/45秒/1分鐘內合成高保真3D模型"的標題，大多數(shù)都是基于擴散模型和NeRF二次開發(fā)的，官方主頁展示的交互式demo也確實效果拔群。
但是大多數(shù)方案合成的3D模型還是太過于平滑了，對于毛發(fā)、皮膚紋理、金屬質感這種高頻細節(jié)處理的不太好，很難說達到了照片級渲染。今天筆者將為大家分享香港科技大學、之江實驗室、浙江大學最新開源的工作LucidDreamer，合成的模型非常精細！
下面一起來閱讀一下這項工作，文末附論文和代碼鏈接~
1. 效果展示
給定文本提示，LucidDreamer可以合成高保真的3D模型，可以發(fā)現(xiàn)合成的模型真的是很精細了，保留了非常多的高頻細節(jié)。3D建模師又要睡不著覺了~這里也推薦工坊推出的新課程《零基礎入門四旋翼建模與控制(MATLAB仿真)[理論+實戰(zhàn)]》。
2. 具體原理是什么？
現(xiàn)有Text-to-3D方案在渲染3D模型的高頻細節(jié)上處理效果不太好，這是因為現(xiàn)有方案大多基于SDS（Score Distillation Sampling）進行，造成了模型的過度平滑。
因此，作者換了一個技術路線：提出一種區(qū)間得分匹配（Interval Score Matching，ISM）的新方法。ISM采用確定性的擴散軌跡，并利用基于區(qū)間的得分匹配來抵消過度平滑。此外，還將3D高斯splatting（ACM SIGGRAPH 2023會議最佳論文）融入到文本到3D中來提高渲染速度。
具體的框架是，首先通過預訓練的text-to-3D生成器初始化3D表示θ(實際操作用的是高斯splatting)，結合預訓練的2D去噪擴散概率模型，使用DDIM反演將隨機視圖擾動為無條件噪聲的潛在軌跡，最后使用作者提出的ISM來更新θ。
3. 再來看看和同類方法的對比
看一下和同類text-to-3D的效果對比，其他方案要么出現(xiàn)了語義歧義，要么渲染速度過慢。
作者提出的ISM和同類SDS策略的對比，可以發(fā)現(xiàn)ISM很大程度上預測了3D物體的高頻細節(jié)，使得模型更貼近照片級渲染！
作者還展示了ISM的應用價值，包括2D/3D編輯、3D虛擬任務生成、個性化3D生成，進一步擴展了這項工作的意義。這里也推薦工坊推出的新課程《零基礎入門四旋翼建模與控制(MATLAB仿真)[理論+實戰(zhàn)]》。
對更多實驗結果和文章細節(jié)感興趣的讀者，可以閱讀一下論文原文~
熱門課程推薦
熱門資訊
-
探討游戲引擎的文章，介紹了10款游戲引擎及其代表作品，涵蓋了RAGE Engine、Naughty Dog Game Engine、The Dead Engine、Cry Engine、Avalanche Engine、Anvil Engine、IW Engine、Frostbite Engine、Creation引擎、Unreal Engine等引擎。借此分析引出了游戲設計領域和數(shù)字藝術教育的重要性，歡迎點擊咨詢報名。
-
2. 手機游戲如何開發(fā)(如何制作傳奇手游，都需要準備些什么？)
?如何制作傳奇手游，都需要準備些什么？提到傳奇手游相信大家都不陌生，他是許多80、90后的回憶；從起初的端游到現(xiàn)在的手游，說明時代在進步游戲在更新，更趨于方便化移動化。而如果我們想要制作一款傳奇手游的
-
3. B站視頻剪輯軟件「必剪」：免費、炫酷特效，小白必備工具
B站視頻剪輯軟件「必剪」，完全免費、一鍵制作炫酷特效，適合新手小白。快來試試！
-
游戲中玩家將面臨武俠人生的掙扎抉擇,戰(zhàn)或降?殺或放?每個抉定都將觸發(fā)更多愛恨糾葛的精彩奇遇?！短烀嬗肪哂卸嗑€劇情多結局,不限主線發(fā)展,高自由...
-
5. Bigtime加密游戲經濟體系揭秘，不同玩家角色的經濟活動
Bigtime加密游戲經濟模型分析，探討游戲經濟特點，幫助玩家更全面了解這款GameFi產品。
-
6. 3D動畫軟件你知道幾個?3ds Max、Blender、Maya、Houdini大比拼
當提到3D動畫軟件或動畫工具時,指的是數(shù)字內容創(chuàng)建工具。它是用于造型、建模以及繪制3D美術動畫的軟件程序。但是,在3D動畫軟件中還包含了其他類型的...
-
7. 3D動漫建模全過程，不是一般人能學的會的，會的多不是人?
步驟01:面部,頸部,身體在一起這次我不準備設計圖片,我從雕刻進入。這一次,它將是一種純粹關注建模而非整體繪畫的形式。像往常一樣,我從Sphere創(chuàng)建它...
-
8. 如何自己開發(fā)一款游戲(游戲開發(fā)入門必看：五大獨立游戲開發(fā)技巧)
?游戲開發(fā)入門必看：五大獨立游戲開發(fā)技巧無論您是剛剛起步開發(fā)自己的第一款游戲，還是已經制作了幾款游戲，本篇文章中的5大獨立游戲開發(fā)技巧都可以幫助您更好地設計下一款游戲。無論你對游戲有著什么樣的概念，都
-
?三昧動漫對于著名ARPG游戲《巫師》系列，最近CD Projekt 的高層回應并不會推出《巫師4》。因為《巫師》系列在策劃的時候一直定位在“三部曲”的故事框架，所以在游戲的出品上不可能出現(xiàn)《巫師4》
-
想讓你的3D打印模型更堅固？不妨嘗試一下Cura參數(shù)設置和設計技巧，讓你輕松掌握！
