机器之心报道
机器之心编辑部
大模型向小了。
还没「休息」几天,AI 大模型再次卷起来了。
刚刚,OpenAI 突然宣布了「Mini」版本的 GPT-4o 模型。该公司表示,新的轻量级版本旨在让更多公司和项目能够获得最先进的技术。
这款名为 GPT-4o mini 的新模型立即上线,它在 MMLU 上的得分为 82%,目前在 LMSYS 排行榜的聊天方面分数优于 GPT-4。
除了立即在 ChatGPT 免费版、付费版上可用以外,GPT-4o mini 的商用价格是每百万输入 token 15 美分,每百万输出 token 60 美分 —— 比之前的 SOTA 模型便宜一个数量级,比 OpenAI 此前最便宜的 GPT-3.5 Turbo 还要便宜 60% 以上。
OpenAI CEO 山姆・奥特曼对此的形容是:通往智能的成本已经「too cheap to meter」。
GPT-4o mini 凭借其低成本和低延迟的性能实现了广泛的任务,例如链接或并行化多个模型调用的应用程序、将大量上下文传递给模型或通过快速、实时的文本响应与人互动。
OpenAI 表示,目前 GPT-4o mini 在 API 中支持文本和视觉,很快也将支持文本、图像、视频和音频输入和输出。该模型具有 128K token 的上下文窗口,知识截至 2023 年 10 月。得益于与 GPT-4o 共享的改进版 tokenizer,处理非英语文本能力也更加经济高效。
OpenAI 将新模型的推出描述为努力让 AI「尽可能广泛普及」计划的一部分,但这也反映了 AI 技术供应商之间日益激烈的竞争,以及人们对小型和免费开源大模型的兴趣。另有消息称,Meta 预计将于下周推出 Llama 3 的最大体量版本。
在人们看来,GPT-4o mini 可以替代 GPT-3.5 Turbo,对标的是 Claude 3 Haiku 和 Gemini 1.5 Flash—— 作为后来者,GPT-4o mini 毫无疑问的比这两者更便宜,性能也更好。
「OpenAI 的全部意义在于安全地构建和分发 AI,并使其广泛普及,」OpenAI 负责新模型的产品经理 Olivier Godement 表示。「以更低的成本提供智能是我们实现目标的有效方法之一。」
Godement 表示,该公司通过改进模型架构、优化训练数据和训练方案,开发出了 GPT-4o 的这个最新版本。它在几个常见的基准测试中也优于市场上其他的「小体量」模型。
小模型中最能打的
GPT-4o mini 在文本智能和多模态推理方面,在学术基准上超越了 GPT-3.5 Turbo 和其他小型模型,并支持与 GPT-4o 相同范围的语言。
GPT-4o mini 还在函数调用方面表现出强大的性能,使开发人员能够构建应用程序,以获取数据或执行操作。
值得注意的是,与 GPT-3.5 Turbo 相比,GPT-4o mini 提高了长上下文性能。
GPT-4o mini 已在多个关键基准测试中进行了评估,包括:
推理任务:GPT-4o mini 在涉及文本和视觉的推理任务上优于其他小型模型,在文本智能和推理基准 MMLU 上得分为 82.0%,而 Gemini Flash 为 77.9%,Claude Haiku 为 73.8%。
数学和编码能力:GPT-4o mini 在数学推理和编码任务方面表现出色,优于以前的小型模型。在 MGSM 上,对于数学推理任务,GPT-4o mini 得分为 87.0%,而 Gemini Flash 为 75.5%,Claude Haiku 为 71.7%。编码性能方面,GPT-4o mini 在 HumanEvalji'zhun 上得分为 87.2%,而 Gemini Flash 的得分为 71.5%,Claude Haiku 的得分为 75.9%。
多模态推理:GPT-4o mini 在多模态推理评估 基准 MMMU 上表现出强劲的性能,得分为 59.4%,而 Gemini Flash 为 56.1%,Claude Haiku 为 50.2%。
作为模型开发过程的一部分,OpenAI 也与一些合作伙伴合作测试了 GPT-4o mini,发现 GPT-4o mini 在一些任务上明显优于 GPT-3.5 Turbo,例如从收据文件中提取结构化数据,或者生成高质量电子邮件回复。
安全对齐
从一开始,OpenAI 就在模型中内置了安全措施,并在开发过程中的每一步都加以强化。
在前期训练中,团队会过滤掉他们不希望模型学习或输出的信息,如仇恨言论、成人内容、主要汇集个人信息的网站和垃圾邮件。在后期训练中,会使用 RLHF 等技术使模型的行为与自身策略保持一致,以提高模型响应的准确性和可靠性。
GPT-4o mini 内置了与 GPT-4o 相同的安全缓解措施,OpenAI 根据 Preparedness Framework 和自愿承诺,通过自动和人工评估对其进行了仔细评估。70 多名社会心理学和错误信息等领域的外部专家对 GPT-4o 进行了测试,以确定潜在风险,这些问题的解决方法会在即将发布的 GPT-4o system card 和 Preparedness 记分卡中分享。这些专家评估得出的见解有助于提高 GPT-4o 和 GPT-4o mini 的安全性。
在这些经验的基础上,团队还利用研究中获得的新技术努力提高 GPT-4o mini 的安全性。
API 中的 GPT-4o mini 是第一个应用指令分层 (instruction hierarchy) 方法的模型,该方法有助于提高模型抵御越狱、提示注入和系统提示提取的能力。这使得模型的响应更加可靠,有助于在大规模应用中更安全地使用。
价格降低
OpenAI 表示,GPT-4o mini 现在可在 Assistant API、Chat Completions API 和 Batch API 中作为文本和视觉模型使用。每 100 万输入 token 价格为 15 美分,每 100 万输出 token价格为 60 美分。
OpenAI 也计划在未来几天推出 GPT-4o mini 微调版本。
在 ChatGPT 中,Free、Plus 和 Team 用户今天起就能够取代 GPT-3.5 Turbo 访问 GPT-4o mini。从下周开始,企业用户也将可以访问。
OpenAI 表示,在过去的几年里,人工智能有了显著进步,成本也大幅降低。例如,自 2022 年 OpenAI 推出功能较弱的模型 text-davinci-003 ,至如今的 GPT-4o mini ,每个 token 成本已下降了 99%。OpenAI 致力于降低成本同时增强模型能力。
OpenAI 设想未来模型可以无缝集成到每个应用程序、每个网站中。GPT-4o mini 为开发人员更高效、更经济地构建和扩展强大的 AI 应用程序铺平了道路。
参考内容:
https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/
https://www.wired.com/story/openai-gpt-4o-mini/
https://www.theverge.com/2024/7/18/24200714/openai-new-cheaper-smarter-model-gpt-4o-mini