Phi-3 Mini是一个轻量级的顶尖开源模型,建立在Phi-2使用的合成数据和过滤网站之上,专注于高质量的推理密集型数据。这个模型属于Phi-3系列,mini版本有两个变体支持4K和128K上下文长度。该模型经过了严格的增强过程,包括监督式微调和直接偏好优化,以确保精准遵循指令和强大的安全措施。这些经过ONNX优化的Phi-3 Mini模型可在CPU、GPU和移动设备上高效运行。微软还推出了ONNX Runtime Generate() API,简化了Phi-3的使用。
需求人群:
• 机器学习研究人员和开发人员,可利用这个优化模型提高推理性能
• 需要在不同设备(服务器、Windows、Linux、Mac、移动设备)上部署大型语言模型的企业和组织
• 对话系统、问答系统、内容生成等任务的从业者,可使用该模型生成高质量输出
• 任何需要进行自然语言处理的应用程序,都可受益于该模型强大的性能
使用场景示例:
1. 一家技术公司可以使用Phi-3 Mini模型构建高性能的对话代理,为客户提供自动化问答服务。
2. 一家新闻机构可以利用该模型自动生成高质量的新闻文章摘要和标题。
3. 研究人员可以使用该模型进行自然语言处理相关的实验和研究,探索语言模型的新用途。
浏览量:13