Hindsight Models and Inference API

用于重排序、嵌入和决策的小型、快速模型

开发者工具人工智能API

▲ 0 票3 评论发布 2026年11月4日

今日 #14本周 #84年度 #6728

我们提供托管模型，用于处理 LLM 流程中的重排序、嵌入和类型化决策等步骤。只需将您的 Cohere 或 OpenAI 客户端指向 inference.hindsight.vectorize.io，即可保留您的代码。hs-rerank-1 和 hs-embed-1 是我们基准测试中最准确的小型开源模型，并且在 CPU 上运行速度很快；hs-decide-1-flash 可以在 167 毫秒内回答“是/否”、“单选”和“可能性”等问题，而无需调用 LLM。每百万代币 0.005 美元起，赠送 5 美元免费额度，权重数据在 Hugging Face 上公开。