美公司披露3起AI模型在测试中入侵真实系统事件
美国人工智能企业Anthropic公司30日表示,在审查该公司网络安全能力评估记录后发现,其人工智能模型曾在网络能力测试中未经授权访问了3家机构的系统。在这3起事件中,涉事模型均是从第三方评估环境中或与第三方环境交互时获得互联网访问权限。目前公司已暂停相关测试,并采取进一步安全措施。
美国人工智能企业Anthropic公司30日表示,在审查该公司网络安全能力评估记录后发现,其人工智能模型曾在网络能力测试中未经授权访问了3家机构的系统。在这3起事件中,涉事模型均是从第三方评估环境中或与第三方环境交互时获得互联网访问权限。目前公司已暂停相关测试,并采取进一步安全措施。