使用 OpenAI WebSockets 和 AI SDK 可将首次字节时间节省高达 40%。
OpenAI Developers
OpenAI Developers2月24日 04:04
在响应 API 中引入 WebSockets。 为低延迟、长时间运行的代理和大量工具调用而构建。
并排查看性能差异:
22