AI撞上内存墙:KV缓存9个月涨10倍,HBM装不下前沿模型了
Marvell高管透露推理KV缓存9个月涨10倍,单机架HBM装不下前沿模型,光互连和光子内存成必选项。

Marvell高管透露推理KV缓存9个月涨10倍,单机架HBM装不下前沿模型,光互连和光子内存成必选项。

界面新闻披露:OpenAI按当前烧钱速度,3月完成的1220亿美元融资最早2028年见底,资金缺口约2780亿美元,算力开支已超过公司五年总收入。

9月18日,AI 基础设施公司 Crusoe 宣布完成一笔高达 39 亿美元 的融资,这是今年规模最大的私募融资之一。钱花在哪里?答案是:数据中心和“小型模块化 AI 工厂”。一个信号越来越明显——AI 竞赛的主战场,正在从“比谁的模型聪明”转向“比谁的算力底座硬”。 什么是“AI 工厂”? 如果把 AI 模型比作“汽车”,算力数据中心就是“高速公路和加油站”。Crusoe 要做的事情,就是大规模

9月13日,智谱宣布完成约50亿美元(约合人民币335亿元)融资,包括约20亿美元股份配售和约30亿美元零息可转债。值得注意的是,距离上一轮约40亿美元融资仅过去两个月——这是智谱今年1月港股上市以来的第三次大规模募资,节奏之快令市场侧目。 这笔钱的结构比金额更值得琢磨 本轮融资最特别的是可转债的设计:投资者以高于本金的价格(发行价为本金的100.5%)认购,持有期间不收利息,到期按本金赎回;初始

9月17日,华为全联接大会2026在上海开幕。华为副董事长、轮值董事长汪涛在主题演讲中,正式发布全球首个采用NPO(近封装光互连)技术的超节点——昇腾960超节点,为十万亿参数规模的大模型训练和推理提供算力底座。 为什么大模型需要“超节点”? 大模型越做越大,单台服务器已经装不下。把成千上万块AI芯片像“一个大脑”一样高效协同起来,就是“超节点”要解决的问题。芯片之间的数据交换速度越快、能耗越低,