情景喜剧制作人——由北航与香港中文大学等多所高校共同研发的三维人体动作生成系统

AI工具4周前发布 ainav
34 0

Sitcom-Crafter指的是什么

由北京航空航天大学、香港中文大学(深圳)、悉尼科技大学及中山大学等多所高校共同研发的Sitcom-Crafter是一个专用于3D环境内人类动作生成的技术系统。该系统根据用户给出的情节长描述,能够创建出多样化的物理真实感十足的人类行走与交互场景动画。它由八大模块组成,其中有三个关键组件专注于动作的创造工作,而另外五个辅助性模块则致力于提升动作的自然流畅度、同步性能及碰撞修正等效果。通过其独特的3D环境识别技术以及无需额外数据采集即可实现物理逻辑相符的动作生成能力——得益于自主监督下的SDF策略——Sitcom-Crafter极大地提高了创作效率,并为动画制作和游戏设计提供了智能化与高效化的工作流程解决方案。

Sitcom-Crafter

Sitcom-Crafter的核心特性

  • 人们步行人物于三维环境中自如地行进。
  • 人与环境的互动人物和场景中的物品按照物理规律相互作用。
  • 人与人之间的互动在角色间实现协同动作的创建,以降低碰撞几率并提升动作的一致性。
  • 提升性能由于提供的内容仅有冒号,并没有实际的文字信息,因此无法对其进行伪原创的改写。如果有具体的内容需要处理,请提供详细的信息。
    • 情节分析利用AI技术对剧本进行自动化分解,并将其转换为详细的演员行动指南。
    • 活动协同保证各个部分产生的动作在时间上协调统一。
    • 提升手部姿势效果利用查询数据库内的手势数据来提升动作的自然度。
    • 校正撞击偏差实现对人物间碰撞的自动识别与调整。
    • 三维重新定位把产生的动作应用到已有的三维人物模型上,以增强视觉体验。

Sitcom-Crafter的运作机制

  • 生成运营组件由于提供的内容为空,没有具体文字供我进行伪原创改写。如果您能提供具体的文本内容,我会帮您完成这项任务。您可以直接给出需要修改的文字部分。
    • 人们在行进中产生 footsteps。

      注:此处的”footsteps”可以视上下文替换为“步履”、“足迹”等同义词以更贴合中文表述习惯,但由于原句非常简短且信息量有限,“步行产生的结果”主要指代的是行走时留下的痕迹或声音,在英文中直接用footsteps表达最为准确。如果需要完全使用中文表达,可以改写为“人们在行进过程中留下足迹”。利用当前先进的技术手段(例如GAMMA算法),采用深度学习框架来创建人物的步行动作。

    • 人们在情境中互动创造利用诸如DIMOS之类的技术,并融合情境数据来创造角色和环境物件之间的互动动作。
    • 人际互动产生通过采用自主监督下的情境认知技术,在三维空间内利用SDF(符号距离函数)数据合成环境中的关键点,以防止角色间的碰撞问题。同时运用扩散模型来创建多个人物的互动场景,并精确地考量各人物的位置关系及动作动态。
  • 环境识别技术请提供需要伪原创改写的内容。由于您当前的消息中没有包含具体内容,我暂时无法完成这项任务。如果有特定的文本,请分享给我,我会帮助您进行相应的修改。
    • SDF合成技术利用预先处理过的动作数据来划定活动范围,并在该区域内为周围的物体随机产生SDF点以模仿环境里的障碍。
    • 碰撞识别及调整SDF技术用于识别人物与环境或其他人物间的碰撞情况,并通过调节移动路径或速率来防止相撞。
  • 故事解析及指令创建借助像Gemini 1.5这样的高级语言模型对故事情节进行分析,并将其转换成明确的动作指南。利用自然语言处理的方法,把复杂的情节结构解析成一系列具体动作指令,并分发到对应的动作生成单元中去执行。
  • 强化组件请提供需要改写的具体内容。由于您当前的消息中没有包含具体文字内容,我无法完成此项请求。如果您能给出具体的文本段落或句子,我会帮您进行伪原创的改写工作。
    • 活动协同利用插值方法(例如Slerp算法)来保证各个部分产生的动作能够实现流畅的时间过渡。
    • 手指姿势搜索CLIP模型会寻找与文字说明最为接近的手势,并将其整合到产生的动作之中。
    • 校正撞击影响修改运动的速度或者轨迹,以防止角色相互碰撞。
    • 三维转向把产生的动作应用到高精度的三维虚拟人像上,以增强视觉体验。
  • 一致的运动表现形式该系统利用标记点(marker points)来实现一致性的动作表达,并能够从各种不同的资料来源(例如SMPL及SMPL-X模型)中获取动作信息,从而提高了其适应范围和兼容性能。

项目的网址为Sitcom-Crafter

  • 官方网站项目访问此链接以查看Sitcom Crafter项目: https://windvchen.github.io/Sitcom-Crafter/
  • Git存储库:在GitHub上可以找到由WindVChen开发的Sitcom-Crafter项目,地址如下所示。
  • 关于arXiv上的科技文章在学术预印本网站上可以找到这份研究文档,其在线链接为:https://arxiv.org/pdf/2410.10790。此文献包含了最新的研究成果,并且可供公众免费访问和下载。

应用场景介绍:Sitcom-Crafter的使用情境

  • 动漫创作高效创建人物动态,大幅降低手工制作动画的需求,并且兼容多种动作类型及故事导向的动画构思。
  • 制作电子游戏通过为非玩家角色配置真实的行为模式与互动操作,实现故事线的自动演变及即时响应机制,增强游戏的代入体验。
  • 虚拟实境(VR)与扩增实境(AR)通过创建虚拟人物的真实互动与环境仿真,提升用户参与感及交流的真实性。
  • 电影与电视节目创作应用于初期创意测试、特殊效果场景规划及动作捕获的替代方案,以提高生产效率。
  • 学习与培养在模拟训练中构建角色的行为模式,开发虚拟教育辅助工具,以实现安全演示及处理复杂的教学情境。
© 版权声明

相关文章