什么是 GPT-4o Mini？其工作原理、用例、API 等

[mostakimvip06]

OpenAI 发布了 GPT-4o mini，这是功能强大的GPT-4o的更易于使用版本。这款新型号旨在平衡性能与成本效益，满足企业和开发人员希望以更低的价格获得强大的 AI 解决方案的需求。

2024 年，围绕人工智能的叙述似乎正在从更大、更好的模型转向更具成本效益的选择，尤其是对于 B2B 应用而言。从基于云的人工智能转向本地人工智能，使得较小的模型变得更加重要。

到目前为止，自 GPT-3.5 以来，OpenAI 一直缺乏该领域的 保加利亚赌博数据 有力候选人。GPT-4o mini 改变了这一现状，它使强大的 AI 变得易于访问且价格合理，可以集成到每个应用程序和网站中。

在本文中，我们将探讨 GPT-4o mini 的主要功能、它与其他类似 LLM 的比较以及此次发布对 AI 发展的意义。

OpenAI 基础知识
开始使用 OpenAI API 及更多功能！

什么是 GPT-4o Mini？
GPT-4o mini 是通过提炼过程从较大的 GPT-4o 模型中衍生而来的。此过程涉及训练较小的模型来模仿较大、更复杂模型的行为和性能，从而产生具有成本效益但功能强大的原始版本。

主要特色
大上下文窗口：GPT-4o mini 保留了 GPT-4o 的 128k 令牌上下文窗口，使其能够有效处理长文本。这对于需要大量上下文的应用程序（例如分析大型文档或维护对话历史记录）来说是理想的选择。
多模态功能：该模型可处理文本和图像输入，未来计划支持视频和音频输入和输出。这种多功能性使其适用于从文本分析到图像识别的各种应用。
降低成本：GPT-4o mini 比其前代产品便宜得多。它每百万输入代币的成本为 0.15 美元，每百万输出代币的成本为 0.60 美元，比 GPT-4o 型号便宜得多，后者的价格为每百万输入代币 5.00 美元，每百万输出代币 15.00 美元。与 GPT-3.5 Turbo 相比，GPT-4o mini 便宜了 60% 以上。
安全性增强：该模型包含与 GPT-4o 相同的安全特性，并在 API 中首次采用指令层次结构方法。这提高了其对越狱、提示注入和系统提示提取的抵抗力，使其在各种应用中使用更安全。
GPT-4o 迷你竞赛
GPT-4o mini 与Llama 3 8B、Gemini 1.5 Flash 和 Claude Haiku 等模型以及 OpenAI 自己的 GPT-3.5 Turbo 竞争。这些模型提供类似的功能，但通常成本较高或性能指标较低。

Gemini 1.5 Flash ：虽然Gemini 1.5 Flash的输出速度略高，但GPT-4o mini的质量更胜一筹，对于同时需要速度和高精度的应用来说，它是一个更均衡的选择。
Claude 3 Haiku 和 Llama 3 (8B) ：GPT-4o mini 在质量和输出速度方面均优于这些型号，展示了其效率和有效性。
GPT-3.5 Turbo ：GPT-4o mini 在输出速度和整体质量方面优于 GPT-3.5 Turbo，并提供 GPT-3.5 Turbo 所缺乏的视觉功能。
GPT-4O迷你比赛

来源：人工分析

GPT-4o Mini 的工作原理：蒸馏机制
GPT-4o mini 通过一种称为模型蒸馏的过程实现了性能和效率的平衡。本质上，这涉及训练一个更小、更精简的模型（“学生”）来模仿更大、更复杂的模型（“老师”）的行为和知识。

在本例中，更大的模型 GPT-4o 已在大量数据上进行了预训练，并且对语言模式、语义甚至推理能力具有深刻的理解。然而，其庞大的规模使其计算成本高昂，不太适合某些应用。

模型蒸馏通过将较大的 GPT-4o 模型的知识和功能转移到较小的 GPT-4o mini 来解决此问题。这通常是通过让较小的模型学习在多样化的输入数据集上预测较大模型的输出来实现的。通过这个过程，GPT-4o mini 有效地从其较大的模型中“提炼”出最重要的知识和技能。