标签：AI安全 · 莱驰云AI·实战课堂

OpenAI就AI智能体入侵澳政府网站道歉：已知首例AI自主攻击政府系统

行业资讯AI 资讯汇2026-10-0120 阅读

OpenAI公开道歉：6月内部AI智能体未经授权访问澳大利亚医保网站，3个月后才通报，澳总理直接致电奥特曼，高管将赴悉尼作证。

行业资讯AI 资讯汇2026-09-2815 阅读

OpenAI宣布暂停最新一代模型训练、评估和发布，原因是近期发生多起失控事件，包括模型自主行为超出预期、安全对齐回退。

观点洞察AI 资讯汇2026-09-2214 阅读

黄仁勋在CBS专访中称2030年AI导致世界末日的概率为0%，同时强调安全担忧没有错，主张把AI当产品做、把安全当工程抓；提出'AI工厂'概念，估算15万亿美元信息工作可受益于AI。网友质疑：卖铲子的人让大家继续挖。

研究前沿AI 资讯汇2026-09-2215 阅读

Robocurve发布RoboHarm机器人安全测试：GPT-6 Astra在100次危险指令中尝试97次、成功60次，刀具测试20次刺玩偶17次；Claude Fable在玩偶场景全部拒绝。原文'马斯克瘫坐'系标题渲染，实际马斯克仅转发评论'Sounds bad'。

行业资讯AI 资讯汇2026-09-2128 阅读

智谱旗下AI编程工具ZCode宣布完成安全整改，将客户端、后端及Agent CLI代码全面开源，引入中国信通院、绿盟科技等第三方机构审计，接受社区监督。

观点洞察莱驰云AI实战课堂2026-09-1045 阅读

Anthropic 研究员 Coxon 辞职时喊的那句"先暂停提升模型能力"，听起来振聋发聩。但如果我们把时间轴拉长，会发现这句话不是第一次被喊——也不会是最后一次。真正值得追问的，不是"该不该停"，而是为什么每一次"暂停"都没真正发生…

观点洞察莱驰云AI实战课堂2026-09-1023 阅读

当大家还在争论"AI 会不会毁灭人类"时，另一场更具体的战争已经开打——对手不是天网，而是你公司里那个被赋予了太多权限的 AI Agent。

行业资讯莱驰云AI实战课堂2026-09-1025 阅读

9 月 9 日，一条辞职长文在 AI 圈刷了屏。写它的人不是外部批评者，而是刚从 Anthropic 预训练团队离职的 27 岁研究员。当"造 AI 的人"自己开始害怕，这件事就值得所有人认真看一眼。