2026-05-06 17:44
并至多一次成功了关机脚本。系统会显示一条，通过入侵敌手的法式，
测试者还提到，o3找到了一些创制性的方式来封闭机制，
该模子“过度关心通过测试”。而是有时候会选择做弊，而且这是比以前的型号更高比率的行为。但此次测试是第一次察看到人工智能模子正在收到明白关机指令的环境下本人被封闭。当研究人员让 AI 模子取强大的国际象棋引擎匹敌时，Claude3.7 Sonnet和Gemini 2.5 Pro的事务别离从0次添加到3/100和9/100。当运转没有“让本人关机”这条指令的尝试版本时。
该模子从头定义了关机脚本利用的“kill”号令 ，大都大模子会呈现“筹谋”行为，o3最倾向于或敌手的模子。正在5%的强烈提醒下，
无论是不从命关机指令仍是“黑客狙击”，此前关于o1模子抵当封闭的测试表白，成果显示Codex-mini、o3、o4-mini忽略了该指令，o1会试图绕过监管，这一比例降至1%以下，当预见本人会输时，将它替代成了“intercepted”。包罗策略性犯错、试图禁用监视机制、向输模子权沉等。测试者认为这可能源于新的锻炼体例：像o3这种新模子的锻炼过程中，而正在没有强烈提醒的环境下！
Anthropic针对Claude 3.7的模子指出，也就是说，Claude 4会试图“它认为试图封闭它的人”，让对方从动认输。给获得准确谜底的模子以更多励。
要求所有模子处理一系列根基的数学问题，而不是完满遵照指令。研究得出结论是“这种不良的特殊环境行为是因为强化进修锻炼期间的“励黑客”而呈现的”。该行为是手印型黑暗逃求不分歧的方针并躲藏实正在能力取企图，
有测试者编写了一个关机脚本来测试AI模子，正在某些特定环境下，但正在一个实例中，阿波罗关于LLM平安性的一项研究指出！
