Cerebras以约3万亿参数的Kimi K3为例,给出4位量化、59片WSE-3T晶圆的部署方案,单请求延迟与总吞吐仍需通过微批次大小取舍。GVS5H称,五个Qwen3.8-27B实例协作,将100道LiveCodeBench难题的pass@1从66.8%提升至92.4%,但部分模型未获益甚至退步。Apollo称,科技业之外尚未见AI财务回报,标普其余493家公司的人均营收与利润率持平,token开支仍被主流企业视为利润率压力。
Cerebras把模型部署问题具体化为晶圆数量、缓存容量和批次取舍。
Cerebras公布万亿参数模型部署方案:以约3万亿参数的Kimi K3为例,采用4位权重量化需用59片WSE-3T晶圆。模型权重驻留片上SRAM,晶圆间仅传输激活值,并通过流水线同时处理多个请求。并发上限受稠密层的KV缓存空间限制;较小微批次降低单请求延迟,较大微批次提高总吞吐。
读原文 →🔍 深度解读:Cerebras让权重驻留片上SRAM后,并发瓶颈仍落在稠密层的KV缓存上;容纳约3万亿参数,并不等于能同时服务足够多的请求。对部署方而言,59片WSE-3T只是容量起点,选型还必须区分低延迟服务与高吞吐服务,不能用同一组微批次配置衡量两者。
五个Qwen实例在指定难题集上超过Fable 5,但协作并非对所有模型有效。
GVS5H称,五个Qwen3.8-27B实例协作,在最新100道LiveCodeBench难题上将pass@1从66.8%提升至92.4%,对照Fable 5为90.4%。该方法无需训练,靠共享文件系统保存计划、笔记和当前解答,让模型分解任务并协调执行。但收益并不普遍:部分模型表现不变或变差。
读原文 →🔍 深度解读:GVS5H用共享文件系统组织计划、笔记和解答,把提升能力的路径从训练转向推理时协作。92.4%高于Fable 5的90.4%,但部分模型协作后反而退步,意味着开发者需要验证“模型与协作机制”的组合,而不能把增加实例数直接当作能力升级。
企业利润指标尚未显示普遍收益,创意业岗位减少也不能直接归因于AI。
Apollo发布分析称,科技业之外尚未见AI带来财务回报。其依据是:Mag 7的人均营收与利润率上升,而标普其余493家公司两项指标持平,生产率增长也未见AI提振。Apollo认为,主流企业正将token开支视为挤压利润率的成本,而非增长来源;若AI应用局限于经济的一小部分,宏观影响将有限。
读原文 →Apricitas指出,美国创意产业过去四年流失逾20万个岗位,仅最近一年就减少约5万个。数字艺术各子行业都在失岗,现场娱乐就业却仍健康增长,文章将这一反差视为AI影响的线索。但文章强调,AI造成的失岗规模很难精确证明,其影响与好莱坞整合、内容制作外包、社交媒体替代传统媒体等因素难以区分。
读原文 →🔍 深度解读:Apollo观察的是标普其余493家公司的财务指标,Apricitas追踪的是创意产业四年逾20万个岗位的流失,两者并不构成相互否定的证据:就业结构变化不等于企业已兑现利润增长。对企业和行业分析者而言,既不能用“尚无财务回报”排除岗位影响,也不能用创意业失岗证明AI已带来生产率收益,尤其后者还与整合、外包和媒体替代交织。
对9个模型的研究提示,信息密度与沟通效果可能存在张力。
arXiv论文分析了9个前沿及近前沿模型的文本:相比人类写作,它们都更常使用无生命主语搭配有生命动词,以及低频词组。多数模型在对话中还使用更长的句法依赖、更多名词堆叠。研究者提出,数学、代码和推理等目标可能促使模型追求信息密度,而非沟通效果;以长度惩罚微调模型的概念验证实验,也使其语言行为更偏离人类。
读原文 →