西安交通大学の研究チームは4月16日(木)、1枚の画像から髪の毛が自然に揺れる高品質な3D頭部アバターを生成する新手法「CompHairHead(One-shot Compositional 3D Head Avatars with Deformable Hair)」を発表した。顔と髪の毛の要素を分離し、3DGSによるディテール豊かな3D表現と、FLAMEメッシュによる自然なフェイシャルアニメーション、ケージ構造と物理シミュレーションを適用したヘア表現を採用することで、リアルなフェイシャルアバターをリアルタイムでアニメーションさせることを可能にする。
髪と顔を分離し3DGSで表現
本手法では、入力された1枚の正面画像から髪の毛の部分を取り除いたスキンヘッドの画像を生成し、顔と髪を完全に別々の要素として扱う。各要素は、微細なテクスチャや高周波情報の損失を防ぐため3DGS(3D Gaussian Splatting)を用いて高精細な3Dモデルに変換する。
FLAMEメッシュによる顔の自然なアニメーション
顔部分の3DGSデータは、表情や骨格を制御可能な3Dフェイスモデル「FLAMEメッシュ」に対して、ノン・リジッド・レジストレーション(Non-rigid Registration)と呼ばれる柔軟な位置合わせ技術を用いてリギング。このプロセスにより、アニメーション実行時にはFLAMEメッシュのポリゴンの動きに3DGSのポイントが正確に追従し、不自然な歪みのない自然な表情コントロールが可能になるという。
境界を考慮した髪の毛の分離抽出
髪の毛の抽出においては、画像内の意味合いを自動判別するセマンティックラベルを用いた教師あり学習と、境界を意識した再割り当て戦略(Boundary-aware Reassignment)を組み合わせている。これにより、背景や顔の輪郭付近に発生しやすい不要なノイズを排除し、純粋な髪の毛のガウシアンだけを綺麗に分離・抽出することができる。
ケージ構造と物理ベースのヘアシミュレーション
画像から抽出され、3DGSに変換されたヘア部分のガウシアンは、ケージ構造(Cage Structure、変形を制御するための簡略化されたメッシュ)で囲み、そのケージに対して位置ベースの物理シミュレーションを適用する。この手法を用いることで、頭部の動きや重力、慣性の影響を受けた、物理的にも視覚的にも説得力のあるヘアの変形アニメーションを、リアルタイムに再現できるという。
■One-shot Compositional 3D Head Avatars with Deformable Hair(プロジェクトページ)
https://yuansun-xjtu.github.io/CompHairHead.io/
CGWORLD関連情報
●NVIDIA、物理シミュレーション対応の3D環境構築フレームワーク「Lyra 2.0」公開 長時間のウォークスルー動画生成と高品質な3Dシーン出力で大規模な環境構築を実現
NVIDIAのSpatial Intelligence Lab(SIL)が、探索可能な生成3D世界を構築する新たなAIフレームワーク「Lyra 2.0」を発表。カメラ操作の可能なウォークスルー動画を生成し、フィードフォワード再構成技術によって3D空間を生成することで、大規模で複雑な3D環境の構築を実現する。ソースコードはApache-2.0ライセンスでGitHubにて、モデルはNVIDIA Internal Scientific Research and Development Model License(非商用の研究開発用途限定)でHugging Faceで公開されている。
https://cgworld.jp/flashnews/01-202605-Lyra2.html
●World Labs、Web向け3DGSストリーミングLoDシステム「Spark 2.0」リリース Three.jsを基盤に構築、オープンソース
World LabsがWebブラウザ上で動作する動的な3DGS(3D Gaussian Splatting)レンダラ「Spark 2.0」をリリース。新たにLoD(Level-of-Detail)システムとストリーミング機能が導入され、巨大な3Dワールドを最適化し、あらゆるデバイスへ高品質にストリーミングするための高度なシステム設計を備える。GitHubでオープンソース(MITライセンス)として提供されている。
https://cgworld.jp/flashnews/01-202605-Spark20.html
●Niantic Spatial、空間知能プラットフォームの新「Scaniverse」リリース iOS&PC対応、一度のキャプチャでVPSマップとメッシュと3DGSを同時生成
Niantic Spatialが従来から提供してきた「Scaniverse」を刷新し、ビジネス向け空間インテリジェンスサービスの入口となるプラットフォームとして新たに提供を開始。併せて、事前の空間スキャンなしで機能するグローバル規模の視覚測位システム「VPS 2.0」と、各種プラットフォームに対応する開発キット「NSDK 4.0」もリリースした。
https://cgworld.jp/flashnews/01-202604-Scaniverse.html