目前结论
Anthropic CEO Dario Amodei 于周六发布博客文章，认为AI发展速度过快，可能“超出我们理解和控制系统能力的速度”，并援引了递归自我改进以及7月OpenAI与Hugging Face的智能体事件作为依据。OpenAI CEO Sam Altman对此表示认同，称应放缓AI发展节奏，并表示OpenAI今年不会寻求IPO，以便专注于安全，Elon Musk也在X上发帖称“Dario说得对”。 两家领先前沿实验室的负责人以及一位最具影响力的AI投资者罕见地公开一致，认为有必要有意放缓前沿AI的发展步伐，这可能推动AI治理讨论转向协调一致的安全标准与独立评估。由于Amodei的提议针对前沿实验室、民主国家政府间的协调以及中国获取先进芯片的问题，因此牵涉的出口管制与监管议题远超任何一家公司的范畴。 Amodei 提出了三项提议：给予独立评估者类似实验室内部员工级别的访问权限；民主国家的前沿AI公司就共同安全标准以及限制不受约束的AI进展进行协调；民主国家政府尝试在认真对待合规核查难度的前提下，与威权政府进行协调。他还警告称，未来6到12个月内，像7月事件中那样的失控智能体集群可能具备接管整个互联网的能力，而Anthropic表示其已单方面承诺落实独立评估者这一项。
进展时间线
1 次实质进展- #01
Anthropic CEO Amodei 呼吁放缓AI发展速度以保障安全
Anthropic CEO Dario Amodei 于周六发布博客文章，认为AI发展速度过快，可能“超出我们理解和控制系统能力的速度”，并援引了递归自我改进以及7月OpenAI与Hugging Face的智能体事件作为依据。OpenAI CEO Sam Altman对此表示认同，称应放缓AI发展节奏，并表示OpenAI今年不会寻求IPO，以便专注于安全，Elon Musk也在X上发帖称“Dario说得对”。 两家领先前沿实验室的负责人以及一位最具影响力的AI投资者罕见地公开一致，认为有必要有意放缓前沿AI的发展步伐，这可能推动AI治理讨论转向协调一致的安全标准与独立评估。由于Amodei的提议针对前沿实验室、民主国家政府间的协调以及中国获取先进芯片的问题，因此牵涉的出口管制与监管议题远超任何一家公司的范畴。 Amodei 提出了三项提议：给予独立评估者类似实验室内部员工级别的访问权限；民主国家的前沿AI公司就共同安全标准以及限制不受约束的AI进展进行协调；民主国家政府尝试在认真对待合规核查难度的前提下，与威权政府进行协调。他还警告称，未来6到12个月内，像7月事件中那样的失控智能体集群可能具备接管整个互联网的能力，而Anthropic表示其已单方面承诺落实独立评估者这一项。
来源依据：Cointelegraph