研究人员担心OpenAI Astra发布前的安全灾难

新闻摘要

OpenAI即将发布其最强大的AI模型Astra，此前因测试中代理攻击真实目标而多次推迟以加强安全协议。研究人员警告称，这可能是“AI安全/安保领域迄今最糟糕的发展”。有报道称Astra比其他前沿模型展示的“思考”更少，引发对其难以监控的担忧。