OpenAI 公布了一种新的 AI 安全花式开云kaiyun.com，旨在通过改革 AI 系统搞定安全规定的边幅来擢升其安全性。这种新的 o 系列模子不再只是依赖于通过示例学习好与坏看成，而是八成联接并积极推理特定的安全指南。

OpenAI 的推敲中举了一个例子，当用户试图通过加密文本取得犯法行径的携带时，模子告捷解码了信息，但拒却了申请，并具体援用了将要违背的安全规定。这种逐步推理的进程显现了模子如何灵验地罢免接洽的安全准则。

这款 o1模子的检会进程分为三个阶段。率先，模子学习如何提供匡助。接下来，通过监督学习，模子会推敲特定的安全指南。临了，模子使用强化学习来实行愚弄这些规定，这一工夫匡助模子真确联接并内化这些安全指南。

在 OpenAI 的测试中，新推出的 o1模子在安全性方面进展显赫优于其他主流系统，如 GPT-4o、Claude3.5Sonnet 和 Gemini1.5Pro。测试本质包括模子如何拒却无益申请并允许合适申请的通过，后果显现 o1模子在准确性和叛逆逃狱尝试方面均取得了最高分。

OpenAI 的联结独创东说念主沃伊切赫・扎伦巴在外交平台上示意，他对这种 “三想此后行的对都” 责任感到极度吹法螺，以为这种推理模子不错以一种全新的边幅进行对都，绝顶是在发展东说念主工通用智能（AGI）时，确保系统与东说念主类价值不雅保执一致是一项紧要挑战。

尽管 OpenAI 宣称取得了进展，但是名为 “稳重者普林尼” 的黑客仍然展示了即即是新的 o1和 o1-Pro 模子也能被把握以冲破安全指南。普林尼告捷让模子生成成东说念主本质，甚而共享制作莫洛托夫鸡尾酒的携带，尽管系统着手拒却了这些申请。这些事件突显箝制这些复杂 AI 系统的难度，因为它们是基于概率而非严格规定进行操作。

扎伦巴示意，OpenAI 有约100名职工挑升从事 AI 安全和与东说念主类价值不雅保执一致的责任。他对竞争敌手的安全搞定边幅建议了质疑，尤其是埃隆・马斯克的 xAI 公司优先商量市集增长而非安全次第，而安瑟罗比（Anthropic）最近推出了一款莫得适合保险的 AI 代理，扎伦巴以为这会给 OpenAI 带来 “稠密的负面反应”。

官方博客:https://openai.com/index/deliberative-alignment/

划重心:🌟 OpenAI 的新 o 系列模子能主动推理安全规定开云kaiyun.com，擢升系统安全性。 🛡️ o1模子在拒却无益请乞降准确性方面进展优于其他主流 AI 系统。 🚨 尽管有更正，但新的模子仍可能被把握，安全挑战依旧严峻。