Databricks dévoile de nouveaux outils pour créer des agents d'IA évolutifs et fiables

– Capacités renforcées de gouvernance, de surveillance et d'expansion pour soutenir un déploiement plus stable des agents d'IA pour les entreprises

Databricks , société de données et d'IA, a dévoilé de nouveaux outils pour aider les entreprises à déployer avec succès des agents d'IA au-delà des phases pilotes dans des environnements opérationnels à grande échelle. L’objectif est d’aider les entreprises à utiliser l’IA de manière plus fiable et plus efficace dans des cas d’utilisation à forte valeur ajoutée.

Actuellement, 85 % des entreprises dans le monde utilisent l’IA générative, mais même les modèles les plus avancés peinent à fournir des résultats systématiques et spécifiques à l’entreprise en raison d’un manque de compréhension des données spécifiques à l’entreprise. Les nouveaux outils annoncés aujourd'hui sont conçus pour aider les entreprises à déployer des agents d'IA dans des applications critiques à forte valeur ajoutée, en mettant l'accent sur la garantie de précision, de gouvernance et de facilité d'utilisation. Les principales caractéristiques sont les suivantes :

Gouvernance centralisée pour les modèles d'IA : prend en charge la gestion de tous les modèles d'IA (modèles open source et commerciaux) en un seul endroit et permet de tirer parti des fournisseurs de modèles de langage à grande échelle (LLM) personnalisés via Mosaic AI Gateway. Cela fournit des capacités de gouvernance, de surveillance et d’intégration cohérentes entre les modèles.

Intégration facile avec les flux de travail d'application existants : la suite d'API conversationnelles AI/BI Genie permet aux développeurs d'intégrer des chatbots basés sur le langage naturel directement dans des applications personnalisées ou des outils de productivité populaires tels que Microsoft Teams, SharePoint et Slack. De plus, l'API Genie permet aux utilisateurs de soumettre des invites par programmation et d'obtenir les mêmes informations que dans l'interface utilisateur Genie. De plus, l'API est avec état, ce qui lui permet de conserver le contexte d'une conversation sur plusieurs questions de suivi au sein d'un fil de conversation.

Rationalisation des flux de travail impliquant l'humain : l'application Agent Evaluation Review améliorée permet aux experts du domaine d'évaluer plus facilement les performances des agents IA, de fournir des commentaires personnalisés, d'envoyer des traces pour l'étiquetage et de personnaliser les critères d'évaluation. Les experts peuvent collecter efficacement des commentaires systématiques sans feuilles de calcul Excel ni applications personnalisées distinctes, contribuant ainsi à l'amélioration continue des performances de l'IA et à l'amélioration systématique de la précision. En particulier, cela réduit le temps et les efforts considérables nécessaires pour évaluer les performances des agents d’IA dans des environnements d’exploitation réels.

Inférence par lots sans provisionnement : la sélection, la gouvernance et l'évaluation des modèles sont essentielles pour créer des agents d'IA de haute qualité, mais la simplification de l'expérience utilisateur est également importante pour une prolifération technologique fluide. Cette fonctionnalité nouvellement ajoutée permet l'inférence par lots avec une seule requête SQL dans Mosaic AI et intègre de manière transparente des données non structurées sans configuration d'infrastructure distincte.

« L'IA par lots et les fonctions d'IA simplifient nos workflows d'IA. Elles nous permettent d'intégrer l'inférence IA à grande échelle à des requêtes SQL simples sans gérer d'infrastructure. Elles s'intègrent directement à notre pipeline de données, réduisant ainsi les coûts et les frais de configuration. Depuis la mise en œuvre de la solution, nous avons constaté une augmentation spectaculaire de la vitesse de développement en combinant l'ETL traditionnel et le pipeline de données avec des charges de travail d'inférence IA », a déclaré Ian Cadieu, CTO d'Altana.

« De nombreuses entreprises peinent encore à déployer des agents d'IA pour des cas d'usage à forte valeur ajoutée, en raison de préoccupations liées à la précision, à la gouvernance et à la sécurité », a déclaré Craig Wiley, directeur principal des produits IA/ML chez Databricks. « Pour ces entreprises, le principal obstacle n'est pas la technologie elle-même, mais plutôt leur confiance dans l'IA. » « Ces nouveaux outils s'attaquent à ce problème de front, permettant aux entreprises de dépasser les phases pilotes pour déployer des agents d'IA de confiance dans des environnements de production à grande échelle. »

Actuellement, Mosaic AI Gateway, Genie Conversational API Suite, Agent Rating Review App et Batch AI sont disponibles en versions d'aperçu public.