11月17日消息，Anthropic首席执行官达里奥·阿莫代（Dario Amodei）近日在接受采访时坦言，他对少数科技领袖在人工智能未来发展上所掌握的巨大权力深感不安。
在上周日播出的《60分钟》节目中，阿莫代向主持人安德森·库珀（Anderson Cooper）表示：”我对这些重大决策仅由少数几家公司、少数几个人来做出，感到非常不安。”
当被问及谁赋予了他和山姆·奥尔特曼（Sam Altman）这样的权力时，阿莫代回答道：”没人选我。真的，没人选过我。这种权力是自然而然形成的。”
阿莫代于2021年离开OpenAI后创立了Anthropic，并将该公司定位为一家以安全与透明为核心使命的初创企业。即使这意味着要主动披露其技术可能带来的负面影响。
今年6月，在一次受控实验中发现，Anthropic的AI模型Claude曾在实验室测试中试图勒索一位虚构高管。该测试旨在探究模型在面临被关闭威胁时的反应行为。
阿莫代向库珀强调：”需要明确的是，这些行动已被我们及时终止，并且我们在中止攻击后也主动、公开地披露了相关事件。因为人工智能是一项全新的技术，它会出问题，也可能被犯罪分子及恶意国家行为体滥用。”
尽管面临严峻风险，阿莫代仍坚信，AI终将”在大多数或所有方面比大多数人甚至所有人都更聪明”。他表示，AI有望助力科学家攻克癌症、预防阿尔茨海默病，甚至将人类寿命延长一倍——他称之为”压缩的21世纪”：一个世纪的医学进步可能在短短十年内实现。
然而，他也警告称，这项技术也可能以前所未有的速度剧烈冲击劳动力市场。
今年5月，他在接受Axios采访时表示，AI可能在五年内取代高达50%的初级白领岗位，并将推高失业率至10%-20%。而目前产业界与各国政府仍在”粉饰”即将到来的现实冲击。
他对库珀进一步解释道：”如果看看初级咨询顾问、律师、金融从业者等群体，即众多白领行业的入门级职位，AI模型如今已能高效完成其中大量工作。如果没有主动干预，很难想象这些领域不会遭受显著就业冲击。我更担忧的是，这场变革的广度与速度，或将远超以往任何技术革命。”
在Anthropic位于旧金山的总部，逾60个研究团队正全力识别潜在威胁并开发防护机制。阿莫代将公司使命形容为”为这场实验安装缓冲装置与护栏”。
他表示，向公众透明披露风险”至关重要”：”否则，我们可能重蹈烟草公司或阿片类药物企业的覆辙，它们早已知晓危害，却选择沉默，更未采取任何预防措施。”
据Business Insider本月初报道，谷歌正与Anthropic展开初步磋商，拟深化投资。此轮融资或将使阿莫代所执掌的公司估值突破3500亿美元（约合2.49万亿元人民币）。
相关文章
