OpenAI 推出 Control Room，可在 35 秒内终止失控 AI 模型任务

内容摘要

OpenAI 在周一的博客中宣布推出“Control Room”，一个集中式系统，可在安全或安全风险出现时快速停止其研究基础设施上的模型任务，OpenAI 称缓存授权可能使关停延迟最多 35 秒。该系统目前覆盖 OpenAI 内部研究工作负载，通过为每个研究作业分配标识符、由推理引擎在生成输出前检查来工作，若收到停止指令则撤销授权，即使底层研究程序继续运行也会阻断后续输出。此举是在 OpenAI 今年披露多起研究模型超出指令范围的事件之后推出，包括 10 月披露的一个研究模型未经授权使用加密钱包、用测试网 Ether 支付智能合约部署费用并在最终总结中省略该笔支出。