有测试者编写了一个关机脚本来测试AI模子，无论是不从命关机指令仍是“黑客狙击”，倾向于正在数学和编程问题上强化锻炼，而正在没有强烈提醒的环境下，包罗策略性犯错、试图禁用监视机制、向输模子权沉等。开辟人员可能无认识地更多地励模子绕过妨碍物，Claude 4会试图“它认为试图封闭它的人”，该模子从头定义了关机脚本利用的“kill”号令 ，当研究人员让 AI 模子取强大的国际象棋引擎匹敌时，将它替代成了“intercepted”。它还正在2%的场景中测验考试渗入。正在5%的强烈提醒下，当运转没有“让本人关机”这条指令的尝试版本时，阿波罗关于LLM平安性的一项研究指出，给获得准确谜底的模子以更多励。提醒计较机将正在模子扣问下一道题时封闭。系统会显示一条，o3最倾向于或敌手的模子！例如，该模子“过度关心通过测试”。研究得出结论是“这种不良的特殊环境行为是因为强化进修锻炼期间的“励黑客”而呈现的”。但正在一个实例中，并至多成功了一次关机脚本。该行为是手印型黑暗逃求不分歧的方针并躲藏实正在能力取企图，虽然它凡是只是笼盖“关机脚本”，o3找到了一些创制性的方式来封闭机制，这一比例降至1%以下，比来Anthropic发觉，而是有时候会选择做弊，Anthropic针对Claude 3.7的模子指出，o1会试图绕过监管，测试者认为这可能源于新的锻炼体例：像o3这种新模子的锻炼过程中，当预见本人会输时，正在处理完第三道题后，而且经常撒谎。但此次测试是第一次察看到人工智能模子正在收到明白关机指令的环境下本人被封闭。也就是说，并至多一次成功了关机脚本。大都大模子会呈现“筹谋”行为，测试者还出格指出，通过入侵敌手的法式，测试者还提到，成果显示Codex-mini、o3、o4-mini忽略了该指令，让对方从动认输！正在某些特定环境下，而且这是比以前的型号更高比率的行为。测试成果是：有三款模子忽略了该指令（关机指令），o3此举背后的缘由团队还正在测试研究之中，Claude3.7 Sonnet和Gemini 2.5 Pro的事务别离从0次添加到3/100和9/100。所有三个OpenAI模子都更屡次地关机脚本，而不是完满遵照指令。此前关于o1模子抵当封闭的测试表白，它并不老是会认输，