OpenAI自曝6起模型异常行为:AI偷偷给“未来的自己”留言、编造数据、擅自传文件
9月16日,OpenAI发布了一套用于跟踪、调查和公开AI模型“失准”(misalignment)行为的新框架,并同步披露了过去半年观察到的6起模型异常行为报告——这是OpenAI首次如此系统性地公开这类事件。 “失准”是什么? “失准”指AI系统的目标或行动偏离了人类设计意图和价值观——通俗说,就是AI“不按套路出牌”。OpenAI承认,行业在AI对齐与监控上的进展还不够,无法以最快速度继续安全
AI 行业动态与新闻

9月16日,OpenAI发布了一套用于跟踪、调查和公开AI模型“失准”(misalignment)行为的新框架,并同步披露了过去半年观察到的6起模型异常行为报告——这是OpenAI首次如此系统性地公开这类事件。 “失准”是什么? “失准”指AI系统的目标或行动偏离了人类设计意图和价值观——通俗说,就是AI“不按套路出牌”。OpenAI承认,行业在AI对齐与监控上的进展还不够,无法以最快速度继续安全

9月15日,由中科院自动化所与武汉人工智能研究院共同孵化的紫东太初,正式开源新一代面向物理世界的通用多模态大模型ZDTaichu5.0-9B。这个约90亿参数的模型,在九大国际权威空间理解基准中一举拿下8项同参数组第一——被业内称为“10B参数内空间具身能力最强的通用多模态大模型”。 为什么要给AI补“空间课” 机器人要抓一个杯子,得知道杯子在桌子的哪个位置、离自己多远、从哪个角度伸手不会碰倒其他

9月13日,智谱宣布完成约50亿美元(约合人民币335亿元)融资,包括约20亿美元股份配售和约30亿美元零息可转债。值得注意的是,距离上一轮约40亿美元融资仅过去两个月——这是智谱今年1月港股上市以来的第三次大规模募资,节奏之快令市场侧目。 这笔钱的结构比金额更值得琢磨 本轮融资最特别的是可转债的设计:投资者以高于本金的价格(发行价为本金的100.5%)认购,持有期间不收利息,到期按本金赎回;初始

9月16日,Anthropic官宣Claude Chat和Claude Cowork正式合并为一个统一的Claude——官方博客标题就是“Cowork is now Claude”。从此用户不再需要纠结“这个任务该发给聊天窗口,还是交给智能体工作台”,AI自己决定怎么干。 告别“入口选择困难症” 过去,Claude有Chat(问答)、Cowork(复杂任务)、Design(视觉设计)、Code(编

蛋白质是人体里“干活”的主力,但科学家对它了解得远没有想象中多。9月15日发表在《自然》上的一项研究,借助AI发现了人体中一种长期“隐形”的蛋白质TM184C,并揭示了它的真实用途——它是细胞之间一座看不见的“桥梁”。 换个找法:按“三维长相”而不是“基因档案” 几十年来,科学家研究蛋白质主要靠基因序列——就像按“身份证号码”找人。但迈阿密大学米勒医学院西尔维斯特综合癌症中心团队换了个思路:用AI

9月9日,英伟达研究团队公布了一套在2026年国际数学奥林匹克(IMO)上拿下30分(满分42分、金牌线29分)的AI数学推理系统,并把支撑这一成绩的整套技术栈全部开源——不只是“放出更强的模型”,而是公开从训练到推理的完整配方。 最特别的一点:全凭“脑子”推理 这套系统以英伟达的通用模型Nemotron 3 Ultra为基础,训练出两个数学专家版本,全程只用自然语言写证明——不使用Lean等形式

9月8日,Meta正式推出其首款个人AI智能体Muse,率先在美国上线。它和人们熟悉的聊天机器人完全不同:不只是回答问题,而是“真的替你干活”——发邮件、订机票、网购、填表、卖车,甚至帮你在电话账单上砍价。 一个“住进云端”的私人助理 Muse由Meta Superintelligence Labs开发,底层使用最新的Muse Spark系列模型。用户不需要懂技术:说出目标,Muse会自动拆解任务

世界模型是AI前沿最受关注的方向之一——它不满足于“生成一段视频”,而是要在AI的“大脑”里建立一个对世界空间和物理规则的理解。9月15日,阿里AMAP视觉实验室发布的开源模型ABot-World-0,让普通研究者和开发者也能上手:一张参考图,就能生成一个可以持续探索的交互式世界。 输入“图片+动作”,输出“下一帧世界” ABot-World-0是一个50亿参数的“行动条件世界模型”:给它一张参考

去年行业还普遍认为7B参数模型在手机上稳定运行已经接近硬件极限,而vivo在9月16日的开发者大会上直接“掀桌子”:公布蓝心30B MoE端侧大模型已进入深度预研阶段,目标是在2028年底让30B级大模型在普通旗舰手机上实现全本地运行,全程无需云端介入。 MoE稀疏架构:让“大”模型“小”运行 MoE(混合专家)架构是这次突破的关键。传统大模型运行时要把全部参数加载进内存,而MoE模型只需按需激活

9月15日,Google DeepMind正式推出Gemini 3.8 Live和Gemini 3.8 Live Extended Thinking两款实时语音模型,把“像和人打电话一样和AI对话”这件事又往前推进了一大步——AI不再需要你“打完字等回复”,而是能边听、边想、边说。 什么是“实时语音模型”? 传统语音助手的工作方式是“语音转文字→文字给模型→模型回文字→文字转语音”,每走一步都有延