Pour ce 923ème épisode Rem reçoit Florian Barbaro, fondateur de Uncov.ai, une startup spécialisée dans la détection de contenus générés par intelligence artificielle.
Au programme : deepfakes, désinformation, manipulation de l’information… et les solutions technologiques pour restaurer la confiance dans un Internet où il devient de plus en plus difficile de distinguer le vrai du faux.
Un monde saturé de fake news et de deepfakes
Aujourd’hui, entre les réseaux sociaux, les images générées par IA et les vidéos manipulées, la désinformation se propage à une vitesse sans précédent.
Florian explique que les deepfakes sont désormais utilisés dans des stratégies d’influence étatiques, notamment dans les conflits géopolitiques et les campagnes électorales. Des réseaux de faux comptes, parfois créés ou pilotés par des services de renseignement, diffusent massivement images et vidéos manipulées afin d’orienter l’opinion publique.
Le problème est aggravé par le modèle actuel de l’information : la logique de breaking news pousse les médias à publier très vite, parfois avant d’avoir eu le temps de vérifier les sources.
Uncov.ai : détecter les contenus générés par IA
Pour répondre à ce défi, Florian a créé UncovAI.com , une solution capable d’analyser: les images, les textes, les audios, les vidéos… afin de déterminer s’ils ont été générés par une intelligence artificielle.
Mais le vrai défi n’est pas seulement de détecter une image à sa création : c’est de pouvoir la reconnaître après qu’elle ait circulé sur les réseaux, compressée, repostée et modifiée plusieurs fois.
Deepfake : un risque économique majeur
Les deepfakes ne sont pas seulement un problème politique ou médiatique; Ils représentent aussi un risque financier colossal pour les entreprises :
fraude au président avec des deepfakes audio
faux documents générés par IA
arnaques à l’assurance avec des images falsifiées
faux candidats générés par IA lors de recrutements à distance
Selon les estimations évoquées dans l’épisode, la fraude liée aux deepfakes pourrait coûter près de 40 milliards de dollars aux États-Unis, avec un coût moyen d’environ 600 000 dollars par incident pour les entreprises.
Crypto, NFT et vérification de l’information
Est ce que la blockchain et les NFT pourraient serir à certifier l’authenticité des contenus ?
Une image stockée sur blockchain peut être certifiée… mais dès qu’elle est compressée, recadrée ou repostée, elle devient techniquement différente et la vérification devient beaucoup plus complexe.
Des initiatives existent néanmoins, notamment autour du standard C2PA, porté par plusieurs grands acteurs technologiques, qui vise à tracer le cycle de vie d’un contenu numérique.
Restaurer la confiance sur Internet
Au-delà de la technologie, l’enjeu principal est sociétal :
dans un monde où tout peut être généré artificiellement, la confiance devient une infrastructure critique d’Internet.
Des solutions comme Uncovai.com pourraient devenir essentielles pour :
les entreprises (banques, assurances…)
les médias
les gouvernements
et même les citoyens.
💬 LA phrase clé de l’épisode :
« Le but n’est pas de dire qu’un contenu généré par IA est forcément faux, mais de prévenir : faites attention, cette information a été générée par une intelligence artificielle. »
