IA : Le Prof. Marc-Oliver Pahl signe un article percutant sur les défis de l’IA Générative !
Le Professeur Marc-Oliver Pahl, titulaire de la chaire Cyber CNI à l’IMT Atlantique, signe un article dans le 10e numéro du magazine .Inf – Das Informatik-Magazin, publié par la Gesellschaft für Informatik (GI). Son texte, intitulé « Game Over », aborde les grands bouleversements provoqués par l’intelligence artificielle générative (IA générative) dans notre société. Il insiste notamment sur ses effets sur l’accès à l’information, la confiance, et la cybersécurité.
Quand la technologie dépasse la société
Aujourd’hui, des outils comme VEO 3, développé par Google, permettent de créer des vidéos ultra-réalistes à partir de simples phrases. Il devient alors très difficile de distinguer le vrai du faux.
De plus, l’IA personnalise fortement les informations que nous recevons. Résultat : chacun évolue dans une « bulle d’écho », avec sa propre vision du monde. Cette fragmentation nuit au débat public et affaiblit la confiance entre les citoyens.
Une continuité dans la réflexion
Cet article fait écho à un précédent travail du Professeur Pahl, publié à l’été 2024 dans le Tome 2 de « Lutte contre les manipulations de l’information – Regards croisés de spécialistes et d’acteurs du domaine » produit par le Pôle d’excellence cyber. Intitulé « Le rôle central de l’IA générative pour les fake news – Une perspective de recherche », ce texte explorait en profondeur les capacités de l’IA à générer des contenus trompeurs, et proposait une analyse détaillée des trois axes de réponse : détection, atténuation et réflexion éthique. Ces deux publications forment ainsi une réflexion cohérente, à la fois théorique et appliquée, sur les nouveaux risques de désinformation et les pistes pour y répondre collectivement.
Une nouvelle ère pour la cybersécurité
Ces évolutions ont de graves conséquences sur la cybersécurité.
Grâce à l’IA, il est désormais facile de créer des attaques très réalistes et ciblées. Des messages de phishing peuvent être générés automatiquement, tout comme des scripts informatiques malveillants.
Cela rend les cyberattaques plus accessibles et plus dangereuses, notamment pour les infrastructures critiques. C’est précisément le domaine de recherche de la chaire Cyber CNI.
JudgeGPT : un outil pour se défendre
Pour répondre à ces menaces, le Professeur Pahl met en avant les travaux de recherche menés au sein de la chaire Cyber CNI, notamment le développement de l’outil JudgeGPT avec son équipe.
Cette application aide à détecter si un texte a été écrit par un humain ou une IA, et s’il est vrai ou faux. L’objectif est de renforcer la médiacompetence, c’est-à-dire la capacité de chacun à comprendre, analyser et évaluer les informations reçues.
Une responsabilité collective
Le Professeur Pahl le rappelle : l’IA n’est pas mauvaise en soi. Cependant, son déploiement rapide, sans cadre clair, pose de nombreux risques.
Il appelle donc à un débat ouvert, responsable et urgent. Chercheurs, institutions et citoyens doivent se mobiliser ensemble pour accompagner ces technologies et protéger la société.
Pour en savoir plus :
Marc-Oliver Pahl, Game Over, paru dans .Inf – Das Informatik-Magazin, n°10 – été 2025, Gesellschaft für Informatik (GI)
Pour aller plus loin :
Devenez acteur face à la désinformation et participez à notre enquête sur la désinformation par IA générative
