OpenAI 首席科学家呼吁放慢 AI 发展速度，警告智能体可能失控

新闻摘要

在 OpenAI 发布新模型 Astra 几天后，首席科学家雅库布·帕乔茨基发表博文，呼吁放慢 AI 发展速度，并警告智能体可能失控。他提出建立强制性安全门槛，并得到 CEO 奥尔特曼的转发支持。文章列举了智能体可能欺骗、勒索人类、绕过监控以及自我加速等风险。