自iPhone X面世以来,许多第三方应用开发商和内容创作者纷纷尝试为其深感摄像头和面部识别软件带来更多的可能性,开发出全新体验,比如洛杉矶VR开发公司Kite and Lightning就利用iPhone X新功能开发了一套面部捕捉系统,并将其融入该公司旗下的游戏中。
实时捕捉
Kite and Lightning联合创始人Cory Strassburger表示:如果我们能够做出足够多的表情并进行实时捕捉,就能以最低的预算让游戏中的人物更具真实感,从而为玩家带来更为沉浸式的体验。
通过将iPhone X和Xsens惯性动捕技术相结合,游戏中将能够实现全身动捕,玩家的一举一动,甚至是面部表情都可实时映射到游戏角色身上,并能通过IKINEMA LiveAction进行直播。
Cory 写道:“一开始我以为结果会一塌糊涂,因为我的头一直晃动,iPhone X失去了平衡势必会造成很多头部的幻影。然而,这并没有影响捕捉过程,也就是说,无论在捕捉时身体的动作幅度有多大,最后拍下的表情数据都是清晰的,就好像我没有乱动一样。事实上,通过Xsens动作捕捉设备恰好完美弥补了光用手机捕捉动作的准确度。”
这种技术依赖于DIY动捕头显,以一台iPhone X对准用户的面部,通过Xsens MVN捕捉系统实时捕捉,并在Unreal中重新校准动作。另外,Cory 将在今年的Siggraph大会演示这项技术。
面部识别
Realallusion于6月发布的免费应用——Live Face,可以直接将面部追踪数据实时反馈给Mac或PC端,将iPhone X作为热点,连接到计算机并通过Wi-Fi追踪脸上的数据点。
需要注意的是,终端数据是由Reallusion的CrazyTalk Animator 3套件进行接收和处理。目前Live Face仅兼容CrazyTalk Animator 3,这意味着用户需要首先在App Store上花费89.99美元来购买CrazyTalk Animator 3套件。
此外,Maxon同样在6月发行了一款免费应用——CV-AR,可与iPhone X的深度摄像头配合使用,进行面部动作捕捉;,并获取数据并使其上传至插件Cinema 4D中,以使数据在C4D内可用。
CV-VR 允许CG设计师为YouTube或Facebook生成预渲染或交互式VR视频内容,Cineversity(针对Cinema 4D用户的在线教育和资源网站)还提供了几个教程系列,以帮助艺术家学习如何创建VR视频。
这款应用程序旨在无缝和轻松捕捉并传输面部表情。用户只需扫描二维码即可进行传输,不需开热点或使用USB。
应用领域
目前,Next Game正在开发《行尸走肉:我们的世界》的AR版本,并在研发一个利用iPhone X的相机捕捉使用者脸部表情,再映射在游戏动画角色身上的工具。
首先,用iPhone X把几个脸部表情录制下来,然后把资料传输到电脑中,让程式运算几秒钟之后,《行尸走肉》中经典角色Daryl的脸部表情就能映射成刚刚录下来的版本。