在纽约市议会听证会上,Anthropic前研究员Jacob Coxon称按当前路径,人类失去对AI控制的可能性超过五成,结局可能是人类灭绝;前谷歌DeepMind研究员Alex Turner估计AI接管人类文明概率约三分之一;前OpenAI研究员Daniel Kokotajlo警告即便保住控制,科技公司也可能借AI成为独裁者或寡头。Anthropic、OpenAI、谷歌和Meta派政策负责人等高管线上出席,未派CEO,议员称此前曾威胁发出传票。该事件显示AI安全议题从技术论坛进入公共监管议程,美国地方政府开始关注前沿模型风险、问责机制和企业治理透明度。
关键要点
- 前研究员称失控风险高
- 企业未派CEO出席
- AI监管议题进入地方听证