发布于 2025-02-17
摘要
深度倾向得分模型（Deep Propensity Score Models, DPSM）是一种基于深度学习的方法，用于估计倾向得分 …
Article
发布于 2025-02-17
摘要
01 大学毕业后在南京工作两年后，我辞掉工作，退掉租的房子，准备回家考研。那时，母亲要上班，平时不在家，想到要长期和父亲共处一室， …
发布于 2025-02-15
摘要
0. 引言 本篇讲讲deepseek在MoE（Mixture-of-Experts）上的演进过程。DeepSeek是MoE稀疏模型 …
发布于 2025-02-15
摘要
0.引言 最近整理deepseek的技术线，针对MTP（Multi-Token Prediction）方法做了些扩展的阅读和学 …
发布于 2025-02-15
摘要
deepseek最近比较出圈，本人也一直关注deepseek发布的一些技术报告。在模型训练、推理性能和计算成本上一直能给大家惊喜。 …
发布于 2025-02-15
摘要
最近 Reasoning Model（推理模型）异常火爆，Kimi 和 DeepSeek 陆续推出自家的产品 K1.5 和 R1， …
发布于 2025-02-15
摘要
已经用了两篇文章讲解了PPO的源码解读： 训练整体过程 经验数据采集过程 最后我们在来看看模型训练过程的一些细节。 1.PPO训练 …
发布于 2025-02-15
摘要
0. 引语 上一篇文章中『基于OpenRLHF源码理解PPO单机训练』已经介绍了PPO训练的完整过程，训练过程如图1所示 图1、P …
发布于 2025-02-15
摘要
0.OpenRLHF简介 本人对PPO一直停留在“理论”和“实践”层面， 看过PPO的原理，训过PPO的模型，但一直没有从源码角度 …
发布于 2025-01-04
摘要
省流，可以直接看图片（在底部），还是比较直观的。 最近老是听说AI Agent，仿佛是一条万能的智慧流水线，能直接提供产品和结果（ …