Table of Contents
把强模型的输出喂给弱模型,弱模型能快速获得类似能力——这个逻辑本身成立,Lambert 没有否认。但他指出了一个没人说清楚的问题:蒸馏的天花板到底在哪里,取决于你想要的是什么类型的能力。
,详情可参考电影
Виктория Кондратьева (Редактор отдела «Мир»)
Opens in a new window
专注于提供最新行业资讯与深度分析报道
· 王芳 · 来源:dev资讯
Table of Contents
把强模型的输出喂给弱模型,弱模型能快速获得类似能力——这个逻辑本身成立,Lambert 没有否认。但他指出了一个没人说清楚的问题:蒸馏的天花板到底在哪里,取决于你想要的是什么类型的能力。
,详情可参考电影
Виктория Кондратьева (Редактор отдела «Мир»)
Opens in a new window