微软主打小参数的高质量语言模型系列,以『教科书级』数据训练路线闻名。
Phi-3 是微软推出的小参数语言模型系列(从数亿到数十亿参数),主打『小模型也可强』的『教科书级』数据训练路线。
它用经过筛选与合成的高质量数据训练,在参数量远小于主流大模型的情况下,在常识、推理与代码等基准上达到可观水平。
证明数据质量可弥补参数量,是端侧/小模型方向的代表作,与 Gemma、Llama 轻量版同台。
登录 后参与讨论
暂无讨论，来发表第一条评论吧
