Organisation dédiée à l'éducation, la recherche, et la diffusion d'informations sur les enjeux de l’intelligence artificielle.

Centre pour la Sécurité de l'IA

 (Centre pour la sécurité de l'IA) et l'association 

 de CentraleSupélec co-organisent une réunion sur le thème "Grands Modèles de Langue et Interprétabilité", sous l'éclairage les enjeux fondamentaux de la sécurité des intelligences artificielles.

Au programme, deux présentations sur ce sujet, la première par un membre bénévole du CeSIA, et la seconde par un étudiant de CentraleSupélec, suivies de discussions et d'un rafraichissement.

Première présentation : L'Intelligence Artificielle en générale, et les grands modèles de langue à travers les robots conversationnels en particulier, ont envahi pratiquement tous les aspects de la société, qui réclame des garanties de confiance, de robustesse et de sécurité. La satisfaction de ces attentes implique le domaine de l'interprétabilité, qui a pour objectif d'apporter les éléments d'explications sur leur fonctionnement, leur comportement et les résultats générés selon la demande et de contexte. Après une introduction rapide sur l'interprétabilité en général, éclairée par la motivation du besoin de sécurité, les méthodes propres aux LLMs seront abordées, et plus particulièrement la "mechanistic interpretability", théorie et pratique.

Seconde présentation : La puissance des LLMs soulève des questions cruciales sur leur capacité à biaiser ou influencer les utilisateurs de manière subtile. Cette conférence explore un sujet émergent : le "raisonnement machiavélique", c'est-à-dire l’utilisation de mécanismes manipulatoires dans les réponses générées par ces modèles. Cette présentation s’appuiera notamment sur le récent article d’Apollo Research (fin 2024), qui a mis en lumière les mécanismes de manipulation consciente intégrés aux LLMs. Nous étudierons des cas concrets puis nous discuterons des implications de ces découvertes, notamment en termes de régulation, d'interprétabilité et de confiance en ces technologies.

Jeud'IA Saclay 2 - LLMs et Interpétabilité