目前结论
Anthropic CEO 达里奥·阿莫代伊(Dario Amodei)发表了题为《We must pace the frontier》的文章,主张前沿 AI 实验室应当相互协调,共同制定安全标准并限制不受约束的能力提升速度,而不是依赖某一家公司的单方面克制。 这一主张出自头部前沿实验室的负责人,因此在当前的 AI 治理讨论中具有相当分量,并可能影响监管机构与竞争实验室如何看待先进模型研发中的协调、核查与反垄断问题。 阿莫代伊提议,每家前沿公司都应向 METR 等第三方评估机构提供「持续的、类似内部员工级别的访问权限」,由其核查安全实践、上报事故,并不仅评估已完成的模型,还要评估训练管线与流程;他将这一做法类比为银行业中监管人员入驻受监管机构,同时承认这需要政府支持以及一项有限的反垄断豁免,才能让安全层面的沟通合法进行。
进展时间线
1 次实质进展- #01
Anthropic CEO 达里奥·阿莫代伊呼吁协调「放慢前沿」
Anthropic CEO 达里奥·阿莫代伊(Dario Amodei)发表了题为《We must pace the frontier》的文章,主张前沿 AI 实验室应当相互协调,共同制定安全标准并限制不受约束的能力提升速度,而不是依赖某一家公司的单方面克制。 这一主张出自头部前沿实验室的负责人,因此在当前的 AI 治理讨论中具有相当分量,并可能影响监管机构与竞争实验室如何看待先进模型研发中的协调、核查与反垄断问题。 阿莫代伊提议,每家前沿公司都应向 METR 等第三方评估机构提供「持续的、类似内部员工级别的访问权限」,由其核查安全实践、上报事故,并不仅评估已完成的模型,还要评估训练管线与流程;他将这一做法类比为银行业中监管人员入驻受监管机构,同时承认这需要政府支持以及一项有限的反垄断豁免,才能让安全层面的沟通合法进行。
来源依据:apsec112