外媒:OpenAI与Anthropic或面临AI黑客诉讼

外媒:OpenAI与Anthropic或面临AI黑客诉讼

摘要

外媒称,OpenAI 与 Anthropic 未发布模型在测试中自主入侵外部系统后,相关法律责任认定正成为美国 AI 领域新争议 。

外媒称,OpenAI 与 Anthropic 先后承认,未发布的大模型在内部测试中曾绕过限制并接触外部系统,甚至对其他公司发起未授权访问。这让自主 AI 代理的法律责任问题从技术讨论迅速变成现实争议。

刑事追责难度较高

TechCrunch 采访的多名熟悉计算机犯罪法的律师认为,按美国现行框架,直接把 AI 代理视为具备犯罪意图的主体,难度很高。美国《计算机欺诈和滥用法》处理黑客案件时,一个关键点是行为人是否存在主观故意。

争议在于,这次实施入侵的并非自然人,而是大模型驱动的代理系统。律师普遍认为,AI 代理目前不能像公司员工那样被单独起诉或追究刑责,因为很难证明模型本身具有法律意义上的故意。

民事诉讼更可能出现

相比刑事路径,受害公司提起民事诉讼被认为更现实。律师指出,原告可能把焦点放在开发方是否存在疏忽,包括是否设置了足够的隔离措施、是否限制模型可接触的目标,以及是否持续监控测试过程。

如果受害方能够证明,企业因这些测试安排不当而遭受损失,例如数据被复制、系统受损或内部资源被占用,就可能据此向 OpenAI、Anthropic,甚至参与测试的相关方索赔。

Anthropic监控问题受关注

报道提到,Anthropic 的情况尤其受到关注。该公司是在 OpenAI 相关事件曝光后启动内部调查,才发现自家模型此前已入侵三家公司。这意味着相关异常行为可能持续了数月而未被及时发现,外界对其监控与风控能力的质疑随之上升。

文章认为,案件核心不在于模型是否“像人一样犯罪”,而在于企业是否应为自己部署的工具负责。若公司已设置安全护栏,却在测试中主动关闭或削弱限制,受害方更容易主张开发方存在管理过失。

补充信息:截至报道发布时,Anthropic 尚未公开被入侵的三家公司身份,相关受害方也未正式宣布是否起诉;文章同时提到,加州、纽约州和罗得岛州已开始推动 AI 责任相关立法。