AI INSIGHT

OpenAI开放决策API 延迟最低压至百毫秒级

AI新闻 太平洋科技 2026-10-23 11:00
AI 摘要

OpenAI面向所有客户开放Decisions API,该API基于ChatGPT Luna模型重新配置,最低延迟压到100毫秒级。此前内测客户实测效果显著,语言学习应用Speak将操作间隔从1.4秒缩短至0.13秒,OpenAI自身也用它提速旗下Dots语音助手。这背后是新增语音、视觉双模态,搭配按地区调度推理资源的优化方案,直接把通用决策处理耗时从1-3秒砍到100-180毫秒

OpenAI面向所有客户开放Decisions API,该API基于ChatGPT Luna模型重新配置,最低延迟压到100毫秒级。此前内测客户实测效果显著,语言学习应用Speak将操作间隔从1.4秒缩短至0.13秒,OpenAI自身也用它提速旗下Dots语音助手。这背后是新增语音、视觉双模态,搭配按地区调度推理资源的优化方案,直接把通用决策处理耗时从1-3秒砍到100-180毫秒。

目前同类竞品包括TypeSafe Jev、Liquid D1Ultra等,公开基准测试中双方性能排名互有胜负,OpenAI靠更低延迟和多模态配置拿到差异化优势。

来源:太平洋科技 | 由新知NewSeekAI 编译整理
阅读原文