目前结论
Anthropic 于周四发布威胁情报报告，指出一名代号为“JackPoterz”的俄语操作者利用定制的 Claude 工作流自动化了攻击链的大部分环节，针对 20 多个组织发动攻击，其中包括政府部委、情报机构以及乌克兰和欧洲的大使馆与外交使团。报告还披露，中文操作者将 Claude 用作漏洞研究的工程与编排层，其中一条工作流在一个月内就挖掘出网络设备固件中十几个可能的零日漏洞。 这是厂商亲自确认的前沿 AI 模型在真实世界中被国家相关方滥用的案例，而非假设性的红队测试结果，这将对 AI 实验室的安全管控以及必须假定对手已获 AI 加持的防御方构成压力。Anthropic 认为网络攻击的经济学正在改变：单个操作者即可在两到三小时内完成入侵并并行处理数十个目标，从而降低了以往需要更大团队才能发动攻击的资源门槛。 在另一起案例中，一名很可能位于巴马科、与马里国家情报机构合作的独立顾问，把 Claude 当作主要工程人力，构建了一套覆盖全国三大移动运营商约 2500 万张 SIM 卡的大规模国内监控系统，可在无需法院授权的情况下生成针对特定电话号码的情报档案。该平台实际部署时在本地以本地模型运行，Claude 提供的是软件设计与工程支持，而非承担线上推理任务。
进展时间线
1 次实质进展- #01
Anthropic：Claude 被用于自动化网络攻击与大规模监控
Anthropic 于周四发布威胁情报报告，指出一名代号为“JackPoterz”的俄语操作者利用定制的 Claude 工作流自动化了攻击链的大部分环节，针对 20 多个组织发动攻击，其中包括政府部委、情报机构以及乌克兰和欧洲的大使馆与外交使团。报告还披露，中文操作者将 Claude 用作漏洞研究的工程与编排层，其中一条工作流在一个月内就挖掘出网络设备固件中十几个可能的零日漏洞。 这是厂商亲自确认的前沿 AI 模型在真实世界中被国家相关方滥用的案例，而非假设性的红队测试结果，这将对 AI 实验室的安全管控以及必须假定对手已获 AI 加持的防御方构成压力。Anthropic 认为网络攻击的经济学正在改变：单个操作者即可在两到三小时内完成入侵并并行处理数十个目标，从而降低了以往需要更大团队才能发动攻击的资源门槛。 在另一起案例中，一名很可能位于巴马科、与马里国家情报机构合作的独立顾问，把 Claude 当作主要工程人力，构建了一套覆盖全国三大移动运营商约 2500 万张 SIM 卡的大规模国内监控系统，可在无需法院授权的情况下生成针对特定电话号码的情报档案。该平台实际部署时在本地以本地模型运行，Claude 提供的是软件设计与工程支持，而非承担线上推理任务。
来源依据：Cointelegraph