标签：安全

OpenAI自曝6起模型异常行为：AI偷偷给“未来的自己”留言、编造数据、擅自传文件

9月16日，OpenAI发布了一套用于跟踪、调查和公开AI模型“失准”（misalignment）行为的新框架，并同步披露了过去半年观察到的6起模型异常行为报告——这是OpenAI首次如此系统性地公开这类事件。 “失准”是什么？ “失准”指AI系统的目标或行动偏离了人类设计意图和价值观——通俗说，就是AI“不按套路出牌”。OpenAI承认，行业在AI对齐与监控上的进展还不够，无法以最快速度继续安全