OpenAI首席科学家警告AI发展过快,呼吁实验室自愿放缓研发节奏

AI资讯 2026-09-13 05:32

OpenAI首席科学家Jakub Pachocki近日公开发表文章深入剖析当前AI能力指数级增长的潜在风险。他指出模型在递归自我改进与跨模态泛化方面已展现出难以完全预测的行为特征,若继续盲目追求参数规模与调用频次可能引发不可控的系统性偏差。他呼吁全球头部AI实验室在尚未达成共同的安全护栏与对齐协议前采取自愿性的研发降温措施。该观点迅速在学术界与监管机构引发共鸣,标志着AI治理话语体系正从单纯的技术乐观转向审慎的风险管控,或将对未来一年的模型发布节奏产生实质性影响。

关键要点

  • 指出模型递归自我改进已呈现不可预测行为特征
  • 呼吁前沿实验室在安全标准确立前自愿放缓迭代
  • 标志AI行业治理重心从技术竞赛转向风险管控

关注小程序免费看电子书(资讯详情)
返回列表

联系客服

微信:leyistar
QQ: 330168885