Déploiement d’un agent de support informatique LangGraph ReAct avec IBM Granite sur watsonx.ai

Dans ce tutoriel, vous allez créer un agent IA ReAct (raisonnement et action) avec le cadre d’exigences open source LangGraph en utilisant un modèle IBM Granite via l’API IBM watsonx.ai  en Python. Le cas d’utilisation consiste à gérer les tickets d’assistance informatique existants et à en créer de nouveaux.

Un agent d’intelligence artificielle (IA) désigne un système ou un programme capable d’exécuter des tâches de manière autonome pour le compte d’un utilisateur ou d’un autre système, en concevant son workflow agentique et en utilisant les outils disponibles. Les agents d’IA générative utilisent les techniques avancées de traitement automatique du langage naturel (NLP) des grands modèles de langage (LLM) pour comprendre et répondre aux entrées utilisateur, étape par étape, et déterminer quand faire appel à des outils externes. Le raisonnement est l’un des principaux composants des agents IA. Lors de l’acquisition de nouvelles informations par le biais d’un appel d’outil, d’une intervention humaine ou d’autres agents, le paradigme de raisonnement guide les prochaines étapes de l’agent.

À chaque action et réponse d’outil, le paradigme ReAct (raisonnement et action) demande aux agents de « réfléchir » et de planifier les étapes suivantes. Ce raisonnement lent, étape par étape, nous donne des informations sur la façon dont l’agent utilise le contexte actualisé pour formuler des conclusions. Comme ce processus de réflexion est continu, il est souvent appelé « boucle de réflexion, d’action et d’observation » et constitue une forme de prompting par chaîne de pensée.

Ce tutoriel utilisera LangGraph, un cadre d’exigences open source conçu pour créer, déployer et gérer des workflows complexes d’agent d’IA générative. La fonction prédéfinie create_react_agent fournie par LangGraph permet de créer facilement un agent simple et personnalisé. Les agents ReAct simples, comme celui de ce tutoriel décrit à la figure 1, sont composés de deux nœuds. L’un des nœuds est responsable de l’appel du modèle et l’autre de l’utilisation des outils. Parmi les outils courants figurent l’outil prédéfini LangChain Wikipedia, l’outil DuckDuckGoSearchRun et même la génération augmentée de récupération (RAG). Dans les cas avec une entrée d’action complexe, un autre nœud peut être ajouté (voir figure 2) pour s’assurer que l’agent renvoie une production structurée.

Dans LangGraph, la fonctionnalité « état » sert de banque de mémoire qui enregistre et suit toutes les informations précieuses traitées par chaque itération du système d’IA. Ces graphiques avec état permettent à l’agent de se rappeler d’informations antérieures et d’un contexte précieux. La structure cyclique du graphique ReAct est exploitée lorsque le résultat d’une étape dépend des étapes précédentes de la boucle. Les nœuds ou « acteurs » du graphique encodent la logique de l’agent et sont connectés par des edges. Ces edges sont essentiellement des fonctions Python qui déterminent le prochain nœud à exécuter en fonction de l’état actuel.

Vous avez besoin d’un compte IBM Cloud pour créer un compte watsonx.ai projet.

Pour utiliser l’interface de programmation d’applications (API) watsonx, vous devrez suivre les étapes suivantes. Notez que vous pouvez également accéder à ce tutoriel sur GitHub. 

1. Se connecter à watsonx.ai en utilisant votre compte IBM Cloud.

2. Créez une instance de service d’exécution watsonx.ai (sélectionnez votre région et choisissez le plan Lite, qui est une instance gratuite).

3. Générez une clé d'interface de programmation des applications.

Pour vous lancer facilement dans le déploiement d’agents sur watsonx.ai, clonez ce référentiel GitHub et accédez au projet d’agent ReAct d’assistance informatique. Pour ce faire, vous pouvez exécuter la commande suivante dans votre terminal.

Ensuite, installez Poetry si ce n’est pas déjà fait. Poetry est un outil permettant de gérer les dépendances et l’empaquetage Python.

Puis, activez votre environnement virtuel.

Au lieu d’utiliser la commande pip install , le paquet Poetry nous permet d’ajouter des dépendances en exécutant la commande suivante dans le terminal. Cette étape installe les dépendances du référentiel reflétées dans le fichier pyproject.toml dans votre environnement virtuel distinct.

L’ajout d’un répertoire de travail à PYTHONPATH est nécessaire pour les étapes suivantes. Dans votre terminal, exécutez :  

Pour configurer votre environnement, suivez les instructions du fichier README.md sur Github. Cette configuration nécessite l’exécution de plusieurs commandes sur votre IDE ou votre ligne de commande.

Dans le fichier config.toml , vous trouverez les identifiants vierges suivants, que vous devez remplir avant de tenter de déployer votre agent. Vos watsonx_apikey et watsonx_url ont été initialisées à l’étape 1 de ce tutoriel. Ensuite, suivez le formulaire simple qui se trouve sur la page Accès développeur pour sélectionner votre espace de déploiement ou en créer un nouveau. Vous pourrez y récupérer votre space_id nécessaire pour connecter notre agent au déploiement de watsonx.ai. Enfin, votre model_id est défini sur le modèle IBM Granite 3.2.

Notre agent a besoin d’une source de données pour fournir des informations actualisées et ajouter de nouvelles données. Nous stockerons notre fichier de données dans IBM Cloud Object Storage.

1. Tout d’abord, connectez-vous à IBM Cloud. Ensuite, créez un nouveau projet.
2. Dans le menu de gauche, sélectionnez Liste des ressources. À l’aide du bouton Créer une ressource, créez une nouvelle instance de Cloud Object Storage ou utilisez simplement ce lien.
3. Ouvrez votre nouvelle instance de stockage IBM Cloud et créez un nouveau compartiment. Pour ce tutoriel, vous pouvez sélectionner Smart Tier, qui est la version gratuite. Lorsque vous y serez invité, importez votre fichier. Pour le fichier d’exemple, reportez-vous au fichier tickets.csv du référentiel GitHub fourni en lien à l’étape 2.

Pour fournir une fonctionnalité de gestion de tickets informatiques à l’agent ReAct, nous devons nous connecter à notre source de données dans IBM Cloud Object Storage. Pour cette étape, nous pouvons utiliser la bibliothèque ibm_boto3 .

Dans tools.py , les COS_ENDPOINT , COS_INSTANCE_CRN , BUCKET_NAME et CSV_FILE_NAME doivent être remplis avec les informations appropriées en utilisant les détails du compartiment qui se trouvent dans votre instance Cloud Object Storage sous l’onglet Configuration. 

Notre agent pourra à la fois lire et écrire des données dans notre fichier. Commençons par créer l’outil de lecture de données à l’aide du décorateur@tool LangChain. 

Nous avons ajouté cet outilfind_tickets au fichiertools.py . Cet outil récupère l’objet de données du Cloud Object Storage et le renvoie sous forme de dataframe Pandas. Sinon, une exception est déclenchée. 

Ensuite, nous avons ajouté l’outil create_ticket . 

Cet outil tient utilise la description du problème par l’utilisateur et l’urgence du problème comme arguments. Une nouvelle ligne est ajoutée à notre fichier dans COS avec ces informations et un nouveau ticket est ainsi créé. Sinon, une exception est déclenchée. 

Le dernier outil que nous devons ajouter à notre fichier tools.py est get_todays_date , qui utilise le module datetime pour renvoyer la date du jour au format MM-JJ-AAAA. Cet outil sera utile pour accéder à la date du jour, que l’agent n’a aucun autre moyen de récupérer puisque le LLM n’a pas été entraîné sur ces données. 

Pour permettre à nos agents d’accéder à ces outils, nous les avons ajoutés à la liste TOOLS dans le fichier du module extensions nommé init.py . Cette liste doit constituer le sommaire de votre fichier init.py dans le répertoire src/langgraph_react_agent .

Ces outils sont importés dans le fichier agent.py et transmis à la fonction LangGraph prédéfinie create_react_agent  servant d’exécuteur d’agent. Parmi les autres paramètres figurent le grand modèle de langage initialisé en utilisant la classe ChatWatsonx , qui permet de faire un appel d’outil sur watsonx.ai, l’économiseur de mémoire et l’invite du système. Notez que certains prompts se comporteront mieux que d’autres et qu’un certain niveau de prompt engineering peut donc être nécessaire selon le LLM choisi. 

Avant de déployer votre agent, pensez à ajouter toutes les informations nécessaires dans le fichier config.toml . 

Il existe trois façons de discuter avec votre agent.

Option 1. Interroger l’agent localement

Exécutez le script d’exécution du service d’IA local.

Option 2. Déployer l’agent sur l’interface de chat intégrée dans watsonx.ai

La dernière option consiste à accéder à l’agent dans l’espace Déploiements de watsonx.ai. Pour ce faire, sélectionnez « Déploiements » dans le menu de gauche. Choisissez ensuite votre espace de déploiement, cliquez sur l’onglet « Actifs », sélectionnez votre actifonline ai_service , sélectionnez une nouvelle fois l’actif portant l’étiquette « wx-agent » et ouvrez l’onglet « Aperçu ». Vous pouvez maintenant discuter avec l’agent dans l’interface de chat interactive. Chacune de ces trois options doit donner une production similaire.

Option 3. Déployer et discuter avec l’agent dans votre IDE

Pour exécuter le script de déploiement, initialisez la variable deployment_id  dans le fichier query_existing_deployment.py .

Vous pouvez obtenir le deployment_id de votre déploiement en exécutant le fichier scripts/deploy.py .

Exécutez ensuite le script de déploiement. 

Puis, exécutez le script pour interroger le déploiement.

Pour les besoins de ce tutoriel, choisissons l’option 2 et interrogeons notre agent déployé sur watsonx.ai sous la forme d’un chatbot agentique. Fournissons à l’agent des prompts qui nécessiteraient l’utilisation d’outils. En suivant les étapes de l’option 3, vous devriez voir une interface de chat sur watsonx.ai. Nous pouvons y saisir notre prompt. 

Commençons par vérifier si l’outil create_ticket est invoqué. Demandons à l’agent de créer un nouveau ticket.

Comme vous pouvez le voir dans la réponse finale de l’agent, le système d’IA a bien utilisé la résolution de problèmes pour créer un nouveau ticket avec l’outil create_ticket . Il est utile d’avoir une visibilité sur les appels d’outil pour le débogage. Maintenant, vérifions si le ticket a bien été ajouté à notre fichier de données servant de base de connaissances à l’agent. 

Super ! L’agent a bien ajouté le ticket au fichier.

Dans ce tutoriel, vous avez créé un agent avec le cadre d’exigences ReAct, qui utilise la prise de décision pour résoudre des tâches complexes telles que la récupération et la création de tickets d’assistance. Il existe plusieurs modèles IA qui permettent un appel d’outil agentique, tels que Gemini de Google, Granite d’IBM et GPT-4 d’OpenAI. Dans notre projet, nous avons utilisé un modèle IA IBM Granite via l’API watsonx.ai. Le modèle s’est comporté comme prévu, localement et lors du déploiement sur watsonx.ai. Pour aller plus loin, consultez les modèles multi-agents LlamaIndex et crewAI disponibles dans le référentiel GitHub watsonx-developer-hub pour créer des agents IA.