OpenAI预览Ultrafast模式:GPT-5.6 Sol速度提升14倍
发生了什么
OpenAI 官方发布预览公告,推出名为 Ultrafast 的新 API 服务层级,该层级运行 GPT-5.6 Sol 模型,速度提升高达 14 倍。
具体变化
- 速度提升:相比标准模式,Ultrafast 模式将 GPT-5.6 Sol 的推理速度提升至原来的 14 倍。
- 输出速率:该模式支持高达 每秒 750 个输出 token,大幅缩短响应时间。
- 技术基础:该服务由 Cerebras 硬件提供支持,体现了专用硬件在加速 AI 推理方面的潜力。
对用户的影响
对于依赖 GPT-5.6 Sol 进行实时交互、大规模生成或对延迟敏感的应用,Ultrafast 模式将显著提升用户体验和业务效率。开发者可以通过 OpenAI API 接入该服务,以更快的速度获得模型输出,从而支持更流畅的对话、更快的代码生成等场景。
官方来源
- 来源:OpenAI 官方公告
- 链接:Previewing Ultrafast mode: GPT-5.6 Sol at up to 14X the speed