持久的人工智能代理。速度提升高达 40%。
每次代理轮流时,您都会重新发送完整的上下文。再次。这种开销会迅速增加。响应 API 的 WebSocket 模式可保持持久连接,仅发送增量输入,并将繁重的工具调用工作流程中的端到端延迟减少高达 40%。
还没有人点赞