Giới thiệu WebSockets trong API Responses. Được xây dựng cho các tác nhân dài hạn, độ trễ thấp với nhiều cuộc gọi công cụ.

WebSockets giữ một kết nối liên tục với API Responses, cho phép bạn chỉ gửi các đầu vào mới thay vì phải gửi lại toàn bộ ngữ cảnh trong mỗi lượt. Bằng cách duy trì trạng thái trong bộ nhớ giữa các tương tác, nó tránh công việc lặp lại và tăng tốc độ chạy của các tác nhân với hơn 20 cuộc gọi công cụ từ 20%-40%.