DeepSeek的成功证明了开源模型相较于闭源模型具有一定的优越性，随着模型的智能化趋势演进，模型体量的增加仍然会是行业发展的主要趋势之一。为了完成千亿、万亿参数规模AI大模型的训练任务，通用的做法一般会采用Tensor并行（TP）、Pipeline并行（PP）、和Data并行（DP）策略来拆分训练任务。随着MoE（Mixture of Experts，混合专家）模型的出现，除了涉及上述并行策略外 ...

智通财经APP获悉，财通证券发布研报称，Scaling Law作为实验科学的产物，目前面临数据资源枯竭的挑战，Transformer架构也未能完全表达人脑的思考机制。该行认为，对Scaling ...

代文林，中国人民大学统计与大数据研究院预聘副教授，国家治理大数据和人工智能创新平台副主任。主要研究方向为非参数统计、复杂数据分析与应用统计。以主要作者身份在Journal of the American Statistical Association ...

但是卡多有个好处，就是能压缩实验新想法和训练大模型基座的时间周期。比如你总得探索一些不同的算法、参数或数据配比的模型进行各种实验，你有10个新想法，如果只有2000张卡，可能得跑5天才能得出结论，要是有几万张卡，可能1天就能得出结论，所以卡多对于探索 ...

你以为人工智能的故事始于硅谷？不，它的根须深植于五亿年前的生命起源。

东京通勤铁路网是地球上最复杂的技术基础设施之一，塞得满满的车厢和那些遵守纪律的通勤乘客也是其中为人称道的“特色”。本书作者细致入微地透视了东京通勤铁路网，向我们展示了，融入一种一直在超负荷边缘运转的系统将如何对一个共同体带来生理和心理的严重不良影响，但与此同时，融入这种系统也创造了一种集体的生活方式——这种生活方式有着独特的局限性和可能性。

以人工智能(AI)为基础的整形外科全周期解决方案开发公司Connective20日表示,成功吸引了总规模达140亿韩元的系列A投资。此次投资阶段共有9个风险投资(VC)参与。 现有投资公司DSC Investment、施密特、Stone Bridge ...

媒体风向变化太快，让人目不暇接。早上还在夸Deepseek成本低，性价比高，预训练Scaling Law死了，不需要太多机器和GPU卡，性价比优先，英伟达休矣；中午Grok 3一出来，说是用了10万张英伟达H100卡，效果力压OpenAI o3 mini和Deepseek R1，就转向说Scaling ...

幻方量化的最新规模到底有多少成为今天资本圈热议的话题。 2月20日，一张“幻方量化规模缩水到100多亿”的图片在市场上流传，也有媒体报道称目前规模在200多亿元。对此，澎湃新闻记者联系的幻方量化多位相关人士均表示，这些都为不实消息。对于幻方量化 ...

YOLO 系列模型的结构创新一直围绕 CNN 展开，而让 transformer 具有统治优势的 attention 机制一直不是 YOLO 系列网络结构改进的重点。这主要的原因是 attention 机制的速度无法满足 YOLO ...

近日，国内首家对标英伟达“NVLink&NVSwitch”的互联通信方案提供商北京探微芯联科技有限公司（以下简称“ 探微芯联 ”）宣布完成数千万人民币天使轮融资。本轮融资由 麟阁创投 ...

【重要讲话】 加快产品更新换代是推动高质量发展的重要举措，要鼓励引导新一轮大规模设备更新和消费品以旧换新。 Speeding up product upgrading is an important measure for promoting high-quality development. Efforts should be made to encourage and guide a new ...