有人把iPhone X面部表情識別數(shù)據(jù)導(dǎo)入Maya 太精細(xì)令人震驚

iPhone X 上市后，相信不少用戶已經(jīng)在朋友圈曬過一輪“獨家定制”的Animoji了。雷鋒網(wǎng)曾發(fā)文《蘋果Animoji表情背后：面部識別技術(shù)如何一步步進(jìn)化的？》，文中講到，面部動作識別和追蹤原本常用于電影拍攝中，如大家最熟悉的《阿凡達(dá)》，隨后通過機器學(xué)習(xí)，用大量表情訓(xùn)練算法，來創(chuàng)建3D模型，直到今天，蘋果將其融入到手機中。

那么，如果把iPhone X的前置攝像頭看作是一個面部捕捉系統(tǒng)，它捕捉的面部表情數(shù)據(jù)能被用在游戲的虛擬角色中嗎？雷鋒網(wǎng)了解到，一個月前，Kite & Lightning游戲工作室的創(chuàng)始人Cory Strassburger進(jìn)行了一項大膽的嘗試：將iPhone X捕捉到的面部表情，植入Maya軟件中，從而為虛擬動畫形象快速配上表情。

說起Kite & Lightning，想必一些 VR 愛好者并不陌生。這家游戲工作室去年發(fā)布了一款沉浸時迷你歌劇《Senza Peso》，其中也使用到了眼部追蹤技術(shù)。同時，他們還開發(fā)了一款名為《Beblon Battle Royle》的 VR 游戲。

對于此次大膽的嘗試，Cory想看看，能否通過iPhone X的面部捕捉系統(tǒng)，可快速、便捷地為游戲中的人物加入個性化色彩。

經(jīng)過一番試驗后，“我目前的結(jié)論是，iPhone X 生成的面部數(shù)據(jù)精細(xì)程度令人震驚，而且數(shù)據(jù)穩(wěn)定，屬于正常運行。它能精準(zhǔn)地步捕捉到非常細(xì)微的動作，甚至是很小幅度的抽動，數(shù)據(jù)完全可以使用。”

Cory認(rèn)為，這代表一種相對較便宜的面部捕捉方式。同時，手機移動端的形式更容易設(shè)置，以及對面部捕捉實現(xiàn)應(yīng)用。看起來，蘋果此前所收購的Faceshift公司，為此貢獻(xiàn)了很大的功勞。盡管，Cory也注意到，F(xiàn)aceshift 原本的解決方案擁有其他很酷的功能，但iPhone X收集的面部表情數(shù)據(jù)已經(jīng)足夠使用。

此外，他還公布了自己在Maya中是如何操作的：

在Unity中導(dǎo)入《Beblon Battle Royle》的一個游戲角色，并將ARKit輸出的面部捕捉數(shù)據(jù)混入該角色中。

為了將表情數(shù)據(jù)導(dǎo)入Maya，增加記錄功能，將面部表情數(shù)據(jù)錄入一個文檔，本地保存在iPhone上。每次開始和停止都會在手機中生成獨立的文檔，并且重新命名。

從iPhone X中復(fù)制這些文檔，通過USB傳輸?shù)阶烂妗?/p>

為了將面部數(shù)據(jù)導(dǎo)入Maya，需要重新格式化，于是我重開發(fā)了一款桌面應(yīng)用，格式化數(shù)據(jù)，將數(shù)據(jù)轉(zhuǎn)化為Maya.anim 文檔。

把這些文檔導(dǎo)入Maya和游戲角色中，你在手機上呈現(xiàn)的表情，便出現(xiàn)在游戲角色上了。

不過，過程中在數(shù)據(jù)方面還是出現(xiàn)了一些小問題，他認(rèn)為可能是代碼的問題。同時，由于面部表情捕捉時的刷新率為每秒60幀，而導(dǎo)入到Maya中，刷新率為每秒30幀，這導(dǎo)致效果有些打折扣。

他認(rèn)為，“iPhone X的TrueDepth系統(tǒng)最厲害的地方在于，其表情捕捉簡單，而且快捷，然后可以了里面將數(shù)據(jù)導(dǎo)入游戲引擎中。手機捕捉的數(shù)據(jù)完全可以使用。”

雷鋒網(wǎng)了解到，這次嘗試成功后，下一步，Cory想把iPhone X放在頭盔上，然后使用Xsens動作捕捉系統(tǒng)同時實現(xiàn)身體和面部的動作捕捉。

他說，“對下一步的嘗試，我非常有信心。通過加入動作捕捉數(shù)據(jù)，游戲人物將會有很大的提升，我還會加入帶有皺紋的皮膚，與對應(yīng)的表情相混合，這會使動畫人物更鮮活。”