Hindsight Models and Inference API

Hindsight Models and Inference API

用于重新排序、嵌入和决策的小型、快速模型

Product screenshot

关于产品

围绕 LLM 的步骤的托管模型:重新排名、嵌入和类型化决策。将您的 Cohere 或 OpenAI 客户端指向 inference.hindsight.vectorize.io 并保留您的代码。 hs-rerank-1 和 hs-embed-1 是我们的基准测试中最准确的小型开放模型,并且在 CPU 上运行速度快; hs-decide-1-flash 在 167 毫秒内回答是 / 否、选择一个和可能性如何的问题,而不是法学硕士通话。每 100 万代币 0.005 美元起,免费信用 5 美元,Hugging Face 上开放权重。