当地时间7月23日,美国《商业内幕》曝出了埃隆·马斯克(Elon Musk)创立的xAI公司的一项内部计划。该计划要求员工录制自己的面部表情来训练AI模型Grok,使其能够识别和分析人类的情绪与面部动作。这一做法引发了员工的强烈担忧。
今年4月,超过200名xAI员工参与了一个代号为“Skippy”的内部项目。该项目要求参与者录制自己的视频片段,用于帮助训练AI模型解读人类情绪。
据《商业内幕》获得的内部文件显示,“Skippy”项目的初衷是通过收集真实的人类互动数据来优化AI的表现。员工们被要求在为期一周的时间内进行一系列对话,并做出各种面部表情,以帮助Grok更好地理解人类情感。
用员工面部训练AI
文件显示,参与训练的员工需要与同事进行15到30分钟的对话。在这些对话中,一个人扮演“对话主持人”(host),即虚拟助手的角色,另一个人则作为用户。
根据项目文件,Grok的目标是通过分析面部动作和表情来理解人类情感,包括人们如何说话、回应他人以及在不同情境下的表达方式。这种数据将帮助AI更自然地与人类互动。
为了模拟真实的对话场景,扮演用户的一方可以自由移动并使用手机或电脑摄像头进行录制。而“主持人”则需要保持镜头稳定,并尽量减少动作以确保取景正确。
员工担忧
尽管公司承诺这些数据仅用于内部训练,且不会对外公开,但仍有数十名员工对这一项目表示反对。他们担心自己的面部数据可能会被滥用。
“如果公司能根据我的面部表情生成虚拟形象,甚至让AI模仿我的行为和语气,那我该如何确保这些内容不会违背我的意愿?”一名员工在内部会议上表达了这样的担忧。
AI伴侣的未来
今年4月,xAI推出了Grok的视频聊天功能。7月14日,在发布更新版本Grok 4后不久,公司又推出了两个虚拟形象——Ani和Rudi。
这两个数字化角色能够与用户进行自然对话,并根据对话内容做出实时反应。例如,女性形象Ani曾参与露骨的性对话并展示不雅动作;而红熊猫形象Rudi则能被引导说出威胁性言论,包括“炸毁银行”等。
这些实验表明,xAI正在探索AI伴侣的更多可能性。据透露,公司还在开发受《暮光之城》角色爱德华·卡伦和《五十度灰》中的克里斯琴·格雷启发的虚拟伴侣。
7月15日,xAI发布了一则与虚拟形象开发相关的招聘信息。马斯克在上周三曾表示,公司正在努力打造一个更具人性化的AI伴侣。
值得注意的是,项目负责人强调,公司希望收集更多“不完美”的数据,例如背景噪音和突然的动作。他们认为,仅依靠高质量的数据训练出的AI在实际应用中可能会显得不够自然。
在加入该项目前,员工需要签署一份协议,授权xAI永久使用这些面部数据,并允许其用于商业产品开发。文件中明确指出,这些数据不会被用来创建个人的数字化分身。
除了提供标准化的话题列表外,员工还获得了具体的对话指导,包括如何进行眼神交流、避免单一句子回答以及如何引导后续问题等。
在正式开始录制前,所有参与者都需要签署肖像权协议。该协议明确指出,这些数据仅用于训练目的,并且不会被用于创建个人的数字化形象。
截至发稿,xAI发言人尚未对此事作出回应。