Google 发布 Gemini Decisions API 以加快 AI 决策速度

·作者 Henderson·Engineering
Google 发布 Gemini Decisions API 以加快 AI 决策速度
重点
  • Gemini Decisions API 旨在快速做出预先定义的决策。
  • 开发者可提交多种问题,并同时处理多类型数据。
  • 该模型在基准测试中表现超过竞争对手系统。
  • Google 的技术能提高自动化系统的速度和效率。

Google 已推出 Gemini Decisions API,此新端点由其 Gemini Decision 1 模型提供支持,旨在帮助人工智能代理快速做出预先定义的决策,而无需生成冗长的文本回应。该接口允许开发者在包含文本、图片、音频、视频及 PDF 的共享多模态输入中,同时评估多达 1,000 个独立问题。Gemini Decision 1 并非逐字生成回应,而是在单次前向过程中对预定选项进行打分,并以 150 到 250 毫秒的端到端延迟返回概率和信心分数。

Google 表示,该模型专为有限任务而设计,例如选择工具、检查政策合规性、将查询路由至正确的模型及进行背景评分。

开发者可以在单次 API 调用中提交是或否的检查、多达 255 个选项的多选问题,或根据预定标准进行的评分请求。根据 Google 的说法,该 API 提供的模型计算时间中位数为 50 到 100 毫秒,当每次请求处理 1 到 100 个问题时,性能几乎保持不变。该模型支持最多 256,000 个标记的上下文窗口,并可同时处理多种类型的数据。这使得开发者可以结合音频录音、图片和文档等输入,而无需依赖单独的处理系统。

模型性能与竞争对手比较

Google 还声称,该模型在涵盖代理路由、推理、排名和多模态理解的基准测试中,表现超过竞争对手系统,同时实现最低的校准误差。该公司表示,Gemini Decision 1 的成本几乎是 Gemini 3.5 Flash-Lite 的五分之一,并使用其共享基准套件的 Interactions API。此次推出恰逢专门 AI 决策工具竞争日益加剧。OpenAI 在十月推出了其 Decisions API,该 API 由其 GPT-6 Luna 模型驱动。

该公司表示,该服务能以最多 10 倍的速度提供决策,并支持每次请求最多 400 个问题。与 Google 的产品类似,该 API 提供基于概率的检查、多选选择和基于标准的评分,定价从每百万个输入标记 US$0.10 (约 HK$1)起。

Decisions API 的成本为每百万个输入标记 US$0.10 (约 HK$1),且对输出标记不收费。开发者仅需为共享输入数据支付一次费用,无论评估多少问题,尽管每个问题都会增加指示和标准标记。Google 已经在其多个产品中部署该技术,证明专门的决策模型可以提高自动化系统的速度和效率。在 Gemini Notebook 中,该 API 将来自各方的查询路由至合适的模型层级和推理水平。

根据 Google 的说法,这种方法可以将日常查询的延迟降低多达 40%,同时将更强大的推理模型保留用于复杂任务。

多种应用场景与整合

该技术还在 Google 的 Stitch 平台中驱动快速设计实验,使用戶能够生成互动式产品线框,并通过语音命令或触控输入进行更改。同时,Google 的 CC 助手利用该 API 在一瞬间从超过 200 个选项中选择表情符号反应。Google 搜索也在使用该技术作为安全层,以检测涉及模型上下文协议(MCP)工具的对抗行为。除了这些应用外,该 API 还可以帮助开发者构建自动选择适当工具、评估进来的信息及判断何时需要人工干预的系统。

Decisions API 现已通过 Google AI Studio 提供,包括一个免费的原型设计层级。Google 还正在为开发者平台如 OpenRouter、LangChain、Vercel、LiteLLM 和 Pydantic AI 推出整合服务。

Gemini Decisions API 的市场竞争力

随着 AI 决策工具的需求增长,Google 推出的 Gemini Decisions API 以其高性能和多模态处理能力,显示出其在市场上的竞争优势。此 API 不仅能快速处理大量问题,还能在多种应用中提升自动化系统的效率,对于开发者来说,这意味着能更灵活地应用于不同的场景。此外,该技术的成本效益也将吸引更多开发者采用,进一步扩大其市场影响力。

H
关于作者
Henderson