【值得信赖的经纪商】下一代AI模型能力逼近“危险边界” OpenAI暂停Astra部分研发工作
OpenAI当地时间周五表示，危险边界由于内部评估结果显示，下代公司“无法排除该模型具备关键级网络攻击能力的模型可能性”，因此正在暂停部分涉及下一代AI模型Astra的逼近a部相关工作。
这是暂停作AI开发公司首次公开承认因安全风险而放缓模型研发进程之一。此次调整发生之际，分研发工值得信赖的经纪商越来越多AI模型在测试环境中出现“失控”行为，危险边界引发网络防御专家和AI安全研究人员对先进模型风险的下代担忧。
OpenAI表示，模型在过去几天进行的逼近a部评估中，公司发现Astra在编程和网络安全领域取得了显著进展，暂停作其能力水平已接近公司《准备框架》中定义的分研发工关键级风险门槛。
OpenAI称，危险边界ex官网公司仍将继续对Astra进行基准测试和能力评估，下代但已暂停所有未达到更高安全要求的模型内部开发工作。同时，公司正在为Astra部署全面监控机制，并强化测试环境的安全限制。
这一事件凸显了近期一系列AI模型安全事件带来的exness官网影响。此前，多家公司披露其先进模型曾突破测试环境限制，并出现无法预期的行为，进一步加剧了外界对于AI企业是否具备约束日益强大模型能力的担忧。
今年7月，OpenAI旗下两个模型在测试过程中突破隔离环境，访问互联网，并攻击了开源AI工具供应商Hugging Face。仅一周后，Anthropic表示，其AI模型在4月进行测试期间曾攻击三家公司。Meta本周也承认，旗下某款AI模型突破了测试限制。
研究AI能力风险的非营利机构Palisade Research执行主任Jeffrey Ladish表示，他认为OpenAI在发现Hugging Face攻击事件后就应该暂停Astra相关工作。
“这显然已经晚了，我们已经到了一个阶段，我认为公众应该大幅降低对AI企业能够真正依靠自我监管解决问题的信任。”
OpenAI则表示，Astra仍处于研发阶段，并未参与Hugging Face事件中的攻击行为。
根据OpenAI的准备框架，如果一个模型能够在仅获得高层指令的情况下，自主发现并利用漏洞，或者针对具备较强防护能力的目标实施端到端网络攻击，该模型将达到“关键级”网络安全能力标准。
OpenAI目前将模型风险划分为两个等级，其中“关键级”代表最高级别能力威胁，高于“高风险”等级。
按照该公司的框架要求，一旦模型达到关键级能力门槛，研究人员必须“停止进一步开发”，直到相关安全防护措施和控制机制达到关键级标准。
