C’est la troisième session d’information que nous organisons sur l’IA à l’attention des TPE / PME. La première portait sur l’IA générative, la deuxième, sur les agents IA comme assistants métiers et celle d’aujourd’hui, sur les agents conversationnels.
Début juillet, nous avons aussi organisé une matinée dédiée à la transition numérique des TPE / PME avec nombre de partenaires et 3 ateliers sur la cyber-sécurité, la sobriété numérique et un Café IA (https://www.epec.paris/service-d-appui-aux-tpe-pme-l-etape-parisienne-du-tour-france-num-s-est-deroulee-a-l-epec)
Aujourd’hui, Jérôme REMINIAC, co-fondateur de Gensai et activateur France Num, va nous expliquer en quoi les agents conversationnels constituent le « couteau suisse » IA pour l’entreprise. Il décrira ce qu’est un agent conversationnel, proposera des illustrations concrètes et réalistes de ses usages dans l’entreprise et nous montrera comment les mettre en place et les utiliser en toute sécurité et sobriété.
Jérôme REMINIAC, co-fondateur de Gensai et activateur France Num
Qu'est qu'un agent conversationnel ?
Un agent conversationnel n'est pas un Chatbot / Voicebot
Un "Chatbot" ou un Voicebot = un assistant virtuel pour effectuer une réservation par exemple qui vous demande d'écrire votre problème ou bien d'exprimer à l'oral votre demande qu'il ne comprend pas parfois.
Aujourd'hui, le Chatbot / Voicebot est à même de répondre en langage naturel.
On communique avec eux par internet, par téléphone.
Dans tous les cas, ils répondent.
Un agent conversationnel agit
Un agent conversationnel comprend ce que vous lui avez demandé.
Il peut consulter votre agenda, regarder les dossiers clients, les stocks...
Il agit (réserver une date dans votre agenda, la modifier, envoyer une information...)
Il passe la main à un humain quand il en a besoin.
Un exemple
Nous souhaitons déplacer un rendez-vous :
Le Chatbot propose des horaires et demande d'appeler à tel numéro. Il n'agit pas.
L'agent conversationnel peut prendre le nouveau rendez-vous que vous pouvez valider.
Comment fonctionne-t-il ?
L'agent, c'est-à-dire le modèle de langage IA comprend votre demande et conserve la mémoire de vos demandes antérieures.
Il connaît votre entreprise car vous lui aurez donné accès à des informations et il saura les rechercher.
Il agit avec vos outils car il y sera connecté. C'est comme si vous branchiez des ports USB à votre ordinateur.
Créer son agent conversationnel ou en faire réaliser un sur mesure ?
Cela dépend de votre besoin.
Des plateformes sont prêtes à l'emploi pour assembler son agent et démarrer avec un cas d'usage standard.
Un développement spécifique sur-mesure intégré à vos outils et à vos processus est pertinent pour un besoin complexe. Gensai le propose en prenant en compte sobriété et sécurité numériques.
Le bon usage est celui qui soulage votre quotidien
Les types d'usage et leurs outils
Les assistants généralistes : ChatGPT, Claude, Gemini, Le Chat (Mistral).
Les assistants autonomes : OpenClaw, Hermès, Manus : ils agissent seuls, sont puissants et donc à cadrer.
Les solutions métiers : les agents intégrés à vos outils. Elles sont les plus sûres pour un usage professionnel.
Les différents cas d'usage par secteur d'activité
Restaurant : prendre les réservations par téléphone ou par what's app, prendre en compte les annulations, envoyer un rappel sms sur la réservation, répondre aux questions fréquentes et fonctionner pendant que tout le personnel est en service.
Artisan : automatiser des devis, pré-qualifier la demande du client en posant des questions.
Commerce de détail : savoir si le produit est en stock même en dehors des horaires d'ouverture, renseigner sur l'état de la commande.
Profession libérale : qualifier un besoin, estimer un budget, préparer les rendez-vous, préparer un compte-rendu de réunion et le ranger.
Associations, organisations : préparer des dossiers.
Ce qui est en train d'arriver : des agents vont se parler entre eux pour résoudre un problème spécifique
Côté client, l'agent peut rechercher le produit pour vous.
Côté commerce, l'agent peut répondre sur la disponibilité par exemple.
Des prestations réalisées par Gensai
Un cabinet réglementaire : un assistant sécurisé répond aux clients depuis des documents sécurisés en toute confidentialité. Il peut faire un résumé, prendre rendez-vous avec un expert si la question est complexe. La majorité des questions passe par l'outil et les juristes de l'entreprise ne vont rappeler que les clients dont les cas nécessitent une information plus complète.
Une entreprise dans le secteur immobilier : un outil permet de faire une recherche très ciblée de biens immobiliers et d'envoyer un récapitulatif de la recherche aux acheteurs potentiels.
Un cabinet dentaire : un répondeur intelligent qui comprend et qualifie la demande pendant que les assistants dentaires ne sont pas disponibles. Il propose des rendez-vous en temps réel, peut prévenir l'équipe si le patient a du retard. S'il s'agit d'une urgence, le message est envoyé en priorité directement au dentiste.
Comment démarrer ?
Les questions à se poser
Est-ce que telle tâche professionnelle est :
fréquente
avec un volume important d'informations à traiter chaque jour
prend du temps
est cadrée, c'est-à-dire facilement identifiable et circonscrite ?
Est-ce que je dispose d'informations liées à cette tâche ? (documents, procédures...)
Est-ce qu'une erreur est facile à rattraper ? (= si l'IA commet une erreur, qu'elle ne soit pas trop dommageable pour le client ou l'entreprise)
Exemple : ne pas autoriser l'IA à effectuer un remboursement
Exemple : l'IA d'une compagnie aérienne a remboursé trop de clients mécontents et la compagnie a perdu son procès au tribunal car c'est elle qui est responsable de son IA
A faire
Trouver un cas simple, ne pas chercher à tout automatiser.
Veiller à ce que les salariés sentent qu'ils seront allégés d'une charge de travail.
Mesurer le gain en temps, en satisfaction.
A vérifier
Où sont hébergées mes données ? (France, Europe, Etats-Unis)
Quel modèle de langage est utilisé et mes données servent-elles à l'entraîner ?
Qui a accès à des données chez moi et chez le prestataire ?
Avoir en tête
Le RGPD et à l'IA Act européen qui imposent certaines obligations.
Les actions possibles
Mieux utiliser : des bonnes questions aux outils.
Mieux choisir pour l'entreprise : le bon outil, le bon périmètre, le bon premier cas.
Mieux concevoir : quelle architecture technique ? Sobre avec des données maîtrisées.
Les réflexes de sécurité : l'IA utile est celle qui reste sous contrôle
Protéger : ne pas exposer de données sensibles aux outils grand public.
Garder la main : l'humain doit valider une décision à impact.
Choisir souverain : des solutions souveraines françaises ou à tout le moins, européennes.
Les réflexes de frugalité
Pour analyser un document, pour une question simple, réaliser un tri ou une extraction : utiliser un petit modèle de langage (SLM) à héberger sur votre serveur et vous n'aurez pas de token (= mot, morceau de texte) à payer contrairement aux gros modèles de langage (LLM) où les token sont chers car les raisonnements, plus complexes.
Hébergement souverain : Scaleway, OVHCloud.
Modèles de langage en SLM ou LLM : Mistral (français).
Pour la voix : Gradium (français).
Echange avec les entreprises
Un agent doit avoir accès aux données de l'entreprise : où est-il hébergé ? Où sont-elles hébergées ?
Gensai a dupliqué les bases de données du client pour les vectoriser afin que l'agent recherche les informations plus rapidement. L'agent est hébergé en Europe sur le serveur sécurisé Azure.
L'agent était déconnecté d'internet et allait chercher les informations dans la base de données du client.
Pour un autre client, Gensai a ouvert un serveur sur Scaleway. Pour être le plus souverain et le plus RGPD possibles, nous avons travaillé avec Mistral et hébergé le LLM (grand modèle de langage) et la base de données sur Scaleway qui est une entreprise française.
Pour le cabinet dentaire, il y a des informations médicales et personnelles. Il faut des serveurs conformes pour stocker les données de santé.
Qu'est-ce que vectoriser ?
La base de données est non structurée, en trois dimensions, ce qui permet à l'IA de rechercher plus facilement l'information. Cela peut être des PDF, des photos, du texte... Par exemple, la base de données pour la recherche d'appartements était très volumineuse avec du texte, des images etc... Elle a été "déstructurée", vectorisée pour permettre à l'IA de rechercher plus facilement les informations.
Comment démarrer concrètement ? Comment faire émerger son besoin ? L'EPEC peut-il nous accompagner ?
Parfois, l'entreprise sait qu'elle a un problème avec son service après-vente mais ne sait pas très bien analyser par exemple En échangeant avec les équipes, on parvient à qualifier le besoin.
Le SARH peut vous proposer un rendez-vous pour réaliser une analyse de votre activité à partir de questions ouvertes et faire ainsi émerger des points qui pourraient être améliorés grâce à l'IA.
Le premier travail à faire : bien organiser sa base de connaissances pour que I'IA s'y retrouve.
Cliquez ICI pour télécharger le support d'animation présenté.
Cliquez sur l'image ci-dessous pour consulter le support d'animation présenté.
Accédez au site de Gensai : https://gensai.ai/