|
OpenAI面向所有客户开放Decisions API,该API基于ChatGPT Luna模型重新配置,最低延迟压到100毫秒级。此前内测客户实测效果显著,语言学习应用Speak将操作间隔从1.4秒缩短至0.13秒,OpenAI自身也用它提速旗下Dots语音助手。这背后是新增语音、视觉双模态,搭配按地区调度推理资源的优化方案,直接把通用决策处理耗时从1-3秒砍到100-180毫秒。 目前同类竞品包括TypeSafe Jev、Liquid D1Ultra等,公开基准测试中双方性能排名互有胜负,OpenAI靠更低延迟和多模态配置拿到差异化优势。 |
AI INSIGHT
OpenAI开放决策API 延迟最低压至百毫秒级
AI 摘要
OpenAI面向所有客户开放Decisions API,该API基于ChatGPT Luna模型重新配置,最低延迟压到100毫秒级。此前内测客户实测效果显著,语言学习应用Speak将操作间隔从1.4秒缩短至0.13秒,OpenAI自身也用它提速旗下Dots语音助手。这背后是新增语音、视觉双模态,搭配按地区调度推理资源的优化方案,直接把通用决策处理耗时从1-3秒砍到100-180毫秒