论文《如果自动化AI研发引发智能爆炸会怎样》由Geoffrey Hinton、Yoshua Bengio、Andrew Barto、OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark等联署。论文援引Anthropic数据,称AI编写已审核代码占比从2025年初个位数升至2026年5月80%以上,高监督下独立AI研发占比五个月从1%升至26%,8月约3万个智能体做出超10亿次决策。学者警告能力增长可能抛离社会适应节奏,人类或丧失控制权。
关键要点
- 顶级学者警告自动化AI研发可能引发智能爆炸
- AI编写已审核代码占比升至80%以上
- 论文呼吁物理级熔断机制和受限沙盒