百度这次发了一份36页的文心5.0技术报告，信息密度相当高，直接登上了HuggingFace 2月论文趋势榜第一。我花了不少时间认真啃完，说说我的真实感受：有几个点确实做得扎实，但也有些地方需要冷静看。 先说定位。文心5.0的claim是"首个生产级万亿参数统一自回归模型，同时支持多模态理解与生成"注意这个说法加了不少限定词。原生多模态从零训练这条路，Gemini其实走得更早。但百度做的事情是把这条技术路线推到了更大规模，并且做了系统性的工程落地，这个工作量本身是实打实的。 我对百度AI的印象一直是"技术底子不差，但产品化上吃了亏"。这次文心5.0的技术报告至少让我看到了他们确实在认真思考和创新：弹性训练的思路很实用，模态无关路由的分析有学术价值，RL后训练的工程技巧解决的是真实痛点。 作为一个原生全模态模型，能在理解和生成上同时做到这个水平，不用为每个模态单独搞一套系统，这件事本身就有很大的工程价值。在超稀疏MoE的弹性训练这个方向上，文心5.0的方案可能是目前公开资料里最完整的。 当然，距离"遥遥领先"还有距离，细节上还需要优化。但公平地说，百度在大模型底层技术上的积累，确实比很多人刻板印象里要深。 #互联网大厂 #AI #大模型 #技术报告 #文心5 #小红书热点观察团 #科技 #行业研究 #百度 #带你一起读论文