Houyi Li
保持好奇,持续探索

AGI 研究学习笔记与工作解读

由对 AGI 的好奇心和使命感驱动:解读自己的论文和项目,也记录自己对 AGI 的学习过程。

全部研究

2 篇文章
置顶 论文解读 · P1

能否训出和 Dense 总参相同、性能相同的 MoE 模型?

ICLR 2026 Oral Paper的解读:MoE 需要更加激进的 Data Scaling 策略

MoEPretrainLLMICLR 2026 oralData ScalingData Reuse
阅读全文
能否训出和 Dense 总参相同、性能相同的 MoE 模型? figure
附录 · P2

附录:能否训出和 Dense 总参相同、性能相同的 MoE 模型?

ICLR 2026 Oral Paper的解读:MoE 需要更加激进的 Data Scaling 策略

MoEPretrainLLMICLR 2026 oralData ScalingData ReuseAPPENDIX
阅读全文
附录:能否训出和 Dense 总参相同、性能相同的 MoE 模型? figure
已浏览全部文章,新的研究还在继续。