Databricks 推出用于构建可扩展且可靠的 AI 代理的新工具

– 加强治理、监控和扩展能力，支持企业更稳定地部署AI代理

数据和人工智能公司Databricks推出了新工具，帮助企业成功地将人工智能代理从试点阶段部署到大规模运营环境中。目标是帮助企业在高附加值用例中更可靠、更有效地使用人工智能。

目前，全球 85% 的企业都在使用生成式人工智能，但由于缺乏对业务特定数据的了解，即使是最先进的模型也难以提供针对业务的系统性结果。今天宣布的新工具旨在帮助企业将人工智能代理部署到高价值、关键业务的应用程序中，重点确保准确性、治理和易用性。主要特点如下：

AI模型的集中治理：支持在一个地方管理所有 AI 模型（开源和商业模型），并通过 Mosaic AI Gateway 利用自定义的大规模语言模型 (LLM) 提供程序。这提供了跨模型的一致的治理、监控和集成功能。

轻松与现有应用程序工作流程集成：AI/BI Genie 对话 API 套件使开发人员能够将基于自然语言的聊天机器人直接集成到自定义应用程序或流行的生产力工具（如 Microsoft Teams、SharePoint 和 Slack）中。此外，Genie API 允许用户以编程方式提交提示并获得与 Genie UI（用户界面）相同的见解。此外，该 API 是有状态的，允许它维护对话线程中多个后续问题的对话上下文。

简化人机交互工作流程：升级后的代理评估审查应用程序使领域专家能够更轻松地评估 AI 代理的性能，提供个性化反馈，发送标记跟踪并自定义评估标准。专家无需使用 Excel 电子表格或单独的自定义应用程序即可高效收集系统反馈，从而有助于持续改进 AI 性能并系统地提高准确性。特别是，它减少了在现实操作环境中评估人工智能代理的性能所需的大量时间和精力。

无需配置的批量推理：模型选择、治理和评估对于构建高质量的 AI 代理至关重要，但简化用户体验对于技术的顺利普及也很重要。此新增功能支持使用 Mosaic AI 中的单个 SQL 查询进行批量推理，并无缝集成非结构化数据，无需单独设置基础设施。

Altana 首席技术官 Ian Cadieu 表示：“批处理 AI 和 AI 功能简化了我们的 AI 工作流程。它们使我们能够将大规模 AI 推理与简单的 SQL 查询集成在一起，而无需管理基础设施。它们直接集成到我们的数据管道中，从而降低了成本并减少了配置开销。自实施该解决方案以来，我们在将传统 ETL 和数据管道与 AI 推理工作负载相结合时，已经看到开发速度的大幅提升。”

Databricks 的 AI/ML 产品高级总监 Craig Wiley 表示：“由于对准确性、管理和安全性的担忧，许多企业仍然难以为高价值用例部署 AI 代理。对于这些企业来说，最大的障碍不是技术本身，而是他们对是否可以信任 AI 的信心。”“这些新工具正面解决了这个问题，使企业能够超越试点阶段，在全面生产环境中部署值得信赖的 AI 代理。”

目前，Mosaic AI Gateway、Genie Conversational API Suite、Agent Rating Review App 和 Batch AI 均已提供公共预览版。