欢迎光临
我们一直在努力

Meta 面向开发者发布 Aura 面部追踪示例

  Meta Quest Pro 面部追踪功能将很快投入使用,使 Meta 虚拟化身更具表现力,从新技术中受益更多。

  Quest Pro 的一大新功能是面部追踪系统,该系统使用内部摄像头来感知用户眼睛和脸部某些部位的动作。结合免校准的机器学习模型,头显将它所看到的内容转化为可以驱动任何化身动画的输入。

Meta 面向开发者发布 Aura 面部追踪示例

  Meta 已发布了 Aura 面部追踪示例供开发人员进行试验,以及与“运动 SDK”相关的其他三个开发人员示例,这些示例为开发人员创建具有眼睛、面部和身体追踪的富有表现力的化身奠定了基础。

  在短期内,这将与 Meta 现有的化身一起使用。虽然这肯定会使它们更具表现力,但它们看起来仍然有些愚蠢。

  这可能是当前 Meta 虚拟化是系统在构建时没有考虑到这种级别的面部追踪的结果。“绑定”——模型的底层动画框架——似乎不太适合这项任务。将 Quest Pro 的面部追踪输入移植到当前系统上并不能真正公正地反映其实际能力。

  幸运的是,Meta 已经构建了一个技术演示,展示了当化身在设计时考虑到 Quest Pro 的面部追踪(以及当几乎所有头显的处理能力都用于渲染它时)的可能性。

Meta 面向开发者发布 Aura 面部追踪示例

  Meta 表示将把 Aura 演示作为一个开源项目发布,这样开发人员就可以看到他们是如何将面部追踪输入附加到虚拟化是的。该公司还表示,开发人员将能够使用单个工具集来驱动人形化身或动物或怪物等非人类化身,而无需单独调整每个化身。

  Meta表示,开发人员将能够利用一个面部追踪 API。该 API 使用与 FACS 对应的值,FACS 是一个公认的系统,用于描述人脸中不同肌肉的运动。

  这是一个有效的系统,不仅可以表示人脸,还可以为用户形成有用的隐私屏障。根据 Meta 的说法,开发人员实际上无法访问用户面部的原始图像。在欧洲工商管理学院,实验者获得了“一系列从 0 到 1 的值,这些数值与一系列通用的面部动作相对应,比如当你揉鼻子或皱眉时,这些信号使开发者在将信号从面部追踪 API 映射到角色时,更容易保留玩家原始动作的语义,无论角色是人形还是更奇幻的东西。”

  Meta 声称,即使是公司本身也无法看到头显摄像头拍摄的图像,无论是内部还是外部。据该公司称,它们在头显上处理,然后立即删除,而无需发送到云端或开发人员。

未经允许不得转载:VR社区 » Meta 面向开发者发布 Aura 面部追踪示例