近日，科技媒体The Decoder发布博文披露，一封由前OpenAI员工、研究人员及多家非营利组织联合签署的公开信引发广泛关注。该信件强烈呼吁监管机构叫停OpenAI提出的公司重组计划。
成立于2015年的OpenAI最初是一个致力于确保人工智能技术造福人类的非营利组织。为了筹集发展资金，该公司在2019年设立了盈利性子公司OpenAI LP，但其运营仍受非营利实体监管。然而，拟议中的重组方案将使新成立的公共利益公司（PBC）获得实际运营控制权，而非营利实体仅作为股东存在。
在最新公开信中，签署者警告称，这种转变将导致多项关键机制被取消，包括利润限制、独立董事会以及AGI技术所有权的非营利属性等，这些都严重违背了OpenAI最初的使命和价值理念。
公开信还指出，此次重组过程缺乏透明度，目前尚不清楚在新的公司架构下，谁将掌握通用人工智能技术的所有权。同时，人们也对微软（作为OpenAI的最大投资者）可能获得的访问权限表示担忧。
另一个令人关切的问题是，现有的”停止并协助”条款（即在实现AGI之前支持其他安全的人工智能项目）可能会失去其约束力。信中警告说，这一重组将使股东利益优先于公众福祉，并影响AGI开发方式、利润分配和最终控制权的归属。
签署者强调，OpenAI非营利架构绝非形式主义，而是确保使命优先的法律保障机制。他们敦促加州和特拉华州的总检察长介入调查，以保护现有的治理保证。
面对OpenAI关于简化资本结构以保持竞争力的说法，公开信予以反驳。签署者认为，当前的股权结构正是确保公共福祉优先的关键所在，并非问题根源。
这封公开信得到了多位著名人工智能研究人员的支持，包括”AI教父”杰弗里·辛顿（Geoffrey Hinton）、AI伦理学家玛格丽特·米切尔（Margaret Mitchell）和计算机科学家斯图尔特·罗素（Stuart Russell）。这些在人工智能领域具有崇高声望的学者共同发声，为这一议题增添了更多关注。
作为人工智能领域的传奇人物，杰弗里·辛顿被誉为”AI教父”和”深度学习之父”，以其在神经网络领域的开创性研究闻名。
他因反向传播算法和对比散度算法的发明而闻名，并积极推动深度学习的发展。辛顿与约书亚·本希奥、杨立昆共同荣获2018年图灵奖，以表彰他们在人工智能领域做出的开创性贡献。
相关文章
