Gollum : l’IA qui sait dire je ne sais pas grâce aux processus gaussiens de l’EPFL
Les modèles de langage bluffent par leur éloquence, mais ils souffrent d’un défaut critique : une confiance à toute épreuve, même quand ils inventent. Pour y remédier, des chercheurs de l’EPFL ont conçu Gollum, une approche qui pousse l’IA à douter d’elle-même. En combinant grands modèles de langue et modèles gaussiens, Gollum apprend à évaluer la fiabilité de ses propres réponses, ouvrant la voie à une intelligence artificielle plus prudente et plus sûre.
Pourquoi les grands modèles de langue doivent apprendre à douter
Un LLM classique génère du texte en estimant la probabilité du prochain mot, mais cette probabilité ne reflète pas sa certitude épistémique. Résultat : face à une question pointue ou ambiguë, il peut produire une réponse très assurée… et complètement fausse. Ce phénomène, connu sous le nom d’hallucination, limite dangereusement l’usage des IA dans des domaines critiques comme la médecine, le droit ou l’ingénierie.
Le vrai enjeu n’est donc pas seulement d’améliorer la précision des réponses, mais d’enseigner à la machine quand elle doit se taire. Un système capable de quantifier son incertitude et de s’abstenir en cas de doute faible gagnerait immédiatement en crédibilité. C’est précisément ce que propose l’équipe de l’EPFL avec Gollum, en intégrant une couche de modélisation probabiliste avancée au cœur de l’architecture des LLM.
Gollum : un cadre gaussien pour mesurer la confiance des prédictions
Le nom Gollum désigne un pipeline d’optimisation par processus gaussiens (Gaussian process Optimization for Large Language Uncertainty Modelling). L’idée centrale consiste à ne plus traiter la sortie d’un LLM comme une simple réponse, mais comme une distribution de probabilités complète. Concrètement, au lieu de prédire uniquement le mot le plus vraisemblable, le modèle apprend à générer une moyenne (la réponse) et un écart-type (le niveau d’incertitude associé).
Durant l’entraînement, Gollum utilise des processus gaussiens – des fonctions mathématiques capables de modéliser des distributions complexes – pour estimer la variance liée à chaque prédiction. Le modèle est entraîné à minimiser non seulement l’erreur de réponse, mais aussi un coût qui pénalise les réponses fausses données avec une confiance élevée. À l’inférence, cette approche permet d’obtenir un score de confiance calibré : si l’incertitude dépasse un seuil critique, le système peut refuser de répondre ou demander une clarification.
Cette méthode surpasse les techniques classiques de calibration comme le temperature scaling ou le dropout Monte-Carlo, car elle n’ajuste pas a posteriori les probabilités de sortie, mais apprend intrinsèquement à modéliser l’incertitude pendant la phase d’apprentissage. En pratique, les chercheurs ont constaté que Gollum améliore significativement la fiabilité sans dégrader la qualité des réponses, rendant le doute véritablement utile.
Une IA humble : vers des applications critiques plus sûres
En dotant un LLM de la capacité à exprimer son propre doute, l’EPFL ne crée pas seulement un modèle plus performant, mais un véritable changement de paradigme. Dans un assistant médical, par exemple, une réponse accompagnée d’un indice de confiance faible incitera le praticien à vérifier l’information, plutôt que de suivre aveuglément une suggestion erronée. Dans le domaine juridique, une IA qui s’abstient quand elle n’est pas sûre évite des conseils dangereux.
Les implications dépassent le simple filtrage des hallucinations. Le fait de quantifier l’incertitude de manière gaussienne permet aussi d’identifier les zones de connaissance lacunaires du modèle et d’orienter les futurs entraînements vers les données les plus informatives. Gollum incarne ainsi une vision plus humble et plus honnête de l’intelligence artificielle : une IA qui sait dire « je ne sais pas » inspire bien plus confiance qu’une machine péremptoire et faillible.
En résumé, Gollum transforme la faiblesse du doute en une force opérationnelle pour les grands modèles de langue. En s’appuyant sur des processus gaussiens pour estimer la fiabilité de chaque réponse, les chercheurs de l’EPFL offrent aux IA un véritable baromètre interne. Savoir se taire quand l’incertitude est trop élevée constitue une avancée majeure vers des systèmes plus transparents, plus sûrs et, au final, bien plus dignes de confiance.