Vid2Vid Cameo：完美結合 2D 照片與 3D 動態
Vid2Vid Cameo 是 NVIDIA Maxine AI 視訊串流平台背後、以生成對抗網絡（Generative Adversarial Network，GAN）為基礎的深度學習模型之一。
依據有關的論文解說，這個模型在 NVIDIA DGX 系統使用 18 萬高品質的對話頭像資料集來運作訓練，學習辨識20 個關鍵點（用來建模「臉部表情」與「頭部運動」所必備的關鍵點），以便在沒有人類加以標註的情況下，能針對臉部動作建立模型。關鍵點中，包含針對眼睛、嘴巴、鼻子等特徵位置進行編碼。
下圖展示了 20 個關鍵點當中，前 5 個關鍵點的計算流程，給來源圖像及預測模型來規範關鍵點。
NVIDIA 的研究人員表示：從用戶的參考圖片中抓取這些關鍵點，用戶的參考圖片可事先發給其他的視訊與會者，或是從過往的視訊會議中擷取並重複使用。如此一來，視訊會議平台只需傳送用戶臉部特徵的動作數據，而不需要在每一個與會者間傳送龐大的即時視訊資料。對接收者來說，GAN 模型使用這些資料，在接收端合成一個模擬參考圖片外觀的視訊畫面。
整體來說，NVIDIA 去年推出的「會議神器」Maxine 平台就使用 AI 人工智慧驅動來實現高解析度、背景噪音消除、眼神校正等功能，讓你不需升級電腦效能也能擁有高品質的視訊會議。近期新推 Maxine 平台的深度學習模型 Vid2Vid Cameo 更讓你體面開會，AI 人工智慧技術完美掩蓋鏡頭前的蓬頭亂髮！Vid2Vid Cameo 目前已可在 NVIDIA AI Playground 上測試使用，其開發套件也將在不久後推出，讓開發人員可以運用優化後的訓練模型，為視訊、直播串流強化效果。
相關文章: