OpenAI预览Ultrafast模式:GPT-5.6 Sol速度提升14倍

发生了什么

OpenAI 官方发布预览公告,推出名为 Ultrafast 的新 API 服务层级,该层级运行 GPT-5.6 Sol 模型,速度提升高达 14 倍。

具体变化

  • 速度提升:相比标准模式,Ultrafast 模式将 GPT-5.6 Sol 的推理速度提升至原来的 14 倍。
  • 输出速率:该模式支持高达 每秒 750 个输出 token,大幅缩短响应时间。
  • 技术基础:该服务由 Cerebras 硬件提供支持,体现了专用硬件在加速 AI 推理方面的潜力。

对用户的影响

对于依赖 GPT-5.6 Sol 进行实时交互、大规模生成或对延迟敏感的应用,Ultrafast 模式将显著提升用户体验和业务效率。开发者可以通过 OpenAI API 接入该服务,以更快的速度获得模型输出,从而支持更流畅的对话、更快的代码生成等场景。

官方来源