知识密度

声明:本文来自于微信公众号 光子星球，作者:郝鑫 面壁智能，是中国大模型行业中的“另类”。 在国内外大肆流行Scaling Law（规模定律），即奉行参数越大、数据越多、算力越强，模型能力就越强的时候。 面壁智能则反其道行之，遵循“知识密度”，即用更少的参数实现更强的能力;以及“密度法则”，即在有限算力下，持续提升模型能力密度。 一个是“大力出奇迹”，一个是“以小博大”，这注定一开始面壁就与主流的“AI六小龙”走上了不同的道路。 有趣的是，面壁智能与“AI六小龙”的命运，在无形中形成了一个大写的“X”。交汇点是大模型洗牌期，早期风头无两的零一万物和百川智能，出现了明显掉队的迹象，智谱、Mini...