Revenir
Revenir

Prolongements

Les images créées par l'intelligence artificielle, également connues sous le nom de "deepfakes" ou d'"hypertrucages",...

Sommaire

Comment l'IA créé-t-elle des photos ultra-réalistes ?Des images hyper-réalistes créées de toute pièceExemple d'image créée par MidjourneyRéseaux antagonistes génératifs - Article
Quels risques pour la génération d'images par IA ?Générateur de visage aléatoire - SiteEnjeux éthiques des réseaux antagonistes génératifs
Comment repérer une image générée par l'IA ?Comment repérer les "deepfakes" ? - VidéoDétecter une photo générée par intelligence artificielle - VidéoQuelques astuces pour repérer une image générée par une IA
AI or Not - Site

Comment l'IA créé-t-elle des photos ultra-réalistes ?

Des images hyper-réalistes créées de toute pièce

Les images créées par l'intelligence artificielle, également connues sous le nom de "deepfakes" ou d'"hypertrucages", ont commencé à se développer auprès du grand public en 2017. C'est à cette époque que des progrès significatifs ont été réalisés dans le domaine de l'apprentissage automatique.
Depuis, de nombreux sites permettent de générer des images qui peuvent ressembler à des photographies réelles, mais ont été composées intégralement par des logiciels d'intelligence artificielle. 
Ces images sont générées aléatoirement à partir de phrases descriptives que l'on appelle des "prompts". 
Un enjeu aujourd'hui est de différencier les "vraies" images, traitées ou légèrement retouchées, de celles qui ne reposent pas sur une véritable capture d'image. 

Exemple d'image créée par Midjourney

Le "prompt" ayant permis de générer cette image avec le logiciel Midjourney est le suivant : 
"Experiment with double exposures on a Fujifilm X-T4, capturing both the carousel and the surrounding park scenery in a single image, using a 35mm lens for a wider perspective. Play with different exposure settings and shutter speeds to create a dynamic and surreal composition. –q 2 –s 750 –v 5"
(expérience de double exposition sur un Fujifilm X-T4, en capturant à la fois le carrousel et le paysage environnant du parc en une seule image, en utilisant un objectif de 35 mm pour une perspective plus large. Jouer avec différents paramètres d'exposition et vitesses d'obturation pour créer une composition dynamique et surréaliste.)

Réseaux antagonistes génératifs - Article

Réseaux antagonistes génératifs
Image générée par le réseau antagoniste génératif StyleGAN, à partir d'une analyse de portraits.
En intelligence artificielle, lesréseaux antagonistes génératifs (RAG) parfois aussi appelésréseaux adverses génératifs (en anglaisgenerative adversarial networks ouGANs) sont une classe d'algorithmes d'apprentissage non supervisé. Ces algorithmes ont été introduits par Goodfellowet al. 2014. Ils permettent de générer des images avec un fort degré de réalisme.
Un GAN est un modèle génératif où deux réseaux sont placés en compétition dans un scénario de théorie des jeux. Le premier réseau est le générateur, il génère un échantillon (ex. une image), tandis que son adversaire, le discriminateur, essaie de détecter si un échantillon est réel ou bien s'il est le résultat du générateur. Ainsi, le générateur est entrainé avec comme but de tromper le discriminateur. L'apprentissage peut être modélisé comme un jeu à somme nulle.
L'apprentissage de ces réseaux est difficile en pratique, avec des problèmes importants de non convergence.

Quels risques pour la génération d'images par IA ?

Générateur de visage aléatoire - Site

Générateur de faux portraitsLes gens ont tendance à ne pas penser à l'effet que les réseaux de neurones ont sur nos vies, car généralement, nous voyons le résultat de son travail et non le "visage" d'un réseau de neurones. C'est peut-être pour cette raison que le générateur de fausses photos est devenu le principal sujet de discussion pendant plusieurs semaines dans les médias consacrés à la technologie fin 2020. Tout le monde n'était pas capable de deviner que l'IA pouvait générer un visage réaliste d'une personne inexistante en quelques secondes. Les faux portraits ont l'air très réalistes et c'est effrayant. Si l'IA peut créer des visages pour elle-même et peut envoyer des SMS comme de vraies personnes, que va-t-il se passer ensuite?Générateur de faux visages d'humains inexistants
Nous parlons du site web thisperson‌doesnotexist.com ("cette personne n'existe pas dot com") et vont raconter l'histoire et les domaines d'application. Le fonctionnement du générateur sera expliqué plus en détail.Le générateur de visages IA est alimenté par StyleGAN, un réseau de neurones de Nvidia développé en 2018. Le GAN se compose de 2 réseaux de neurones concurrents, l'un génère quelque chose, et le second essaie de savoir si les résultats sont réels ou générés par le premier. L'entraînement se termine lorsque le premier réseau de neurones commence à tromper constamment le second.Un point intéressant est que la création de photographies de personnes inexistantes était un sous-produit: l'objectif principal était d'entraîner l'IA à reconnaître les faux visages et les visages en général. L'entreprise en avait besoin pour améliorer les performances de ses cartes vidéo en reconnaissant automatiquement les visages et en leur appliquant d'autres algorithmes de rendu. Cependant, depuisle code StyleGAN est accessible au public, un ingénieur d'Uber a pu le prendre et créer un générateur de visage aléatoire qui a secoué Internet.À propos du générateurPour l'utilisateur, tout fonctionne très simplement. Dès que vous êtes sur le site, un visage aléatoire est généré. Vous pouvez télécharger l'image si vous le souhaitez. Actualisez la page si vous n'aimez pas la personne que vous voyez. Si vous voyez le même visage, attendez quelques secondes et actualisez à nouveau la page. Le site Web montre les résultats du travail du générateur (qui sont mis à jour toutes les 2-3 secondes) et non le générateur lui-même.Comment reconnaître une image d'une fausse personne
Il est presque impossible de reconnaître l'image d'une fausse personne. L'IA est tellement développée que 90% des contrefaçons ne sont pas reconnues par une personne ordinaire et 50% ne sont pas reconnues par un photographe expérimenté. Il n'y a pas de services de reconnaissance. Parfois, un réseau de neurones fait des erreurs, c'est pourquoi des artefacts apparaissent: un motif mal plié, une couleur de cheveux étrange, etc.La seule chose que vous devez faire est de regarder de plus près: les systèmes de traitement visuel des humains sont bien plus puissants que les ordinateurs, il est donc possible de reconnaître la falsification par détection.Jevin West et Carl Bergstrom ont créé un site Web intitulé "Quel visage est réel", qui vise à apprendre aux gens à être plus analytiques sur les portraits potentiellement faux. Avant de suggérer qu'une personne sur une photo existe, il y a plusieurs choses à considérer.L'un des plus courants est les problèmes symétriques, en particulier les lunettes et les boucles d'oreilles.
Les mêmes problèmes inégaux avec les dents sont également assez courants. Recherchez des caractéristiques étranges comme des pixels et des incisives répétées. Les faux cheveux, en général, peuvent sembler avec un peu d'éclat autour d'eux ou sembler trop raides et striés, encore une fois, avec une asymétrie visible.
Étudiez attentivement le contexte. Si c'est faux, cela peut inclure des distorsions inhabituelles dans les formes et les lignes, ou avoir une apparence déchirée dans l'ensemble. Le saignement se produit dans des couleurs vives qui ressortent de l'arrière-plan sur la tête d'une fausse personne.
Une autre caractéristique distinctive de “l'algorithme StyleGAN "de NVIDIA est les “taches d'eau" brillantes.

Enjeux éthiques des réseaux antagonistes génératifs

Les réseaux antagonistes génératifs (GAN) ont apporté d'énormes progrès tant au niveau de la création visuelle que de contenus, mais ils soulèvent également d'importantes questions éthiques. Voici quelques-uns d'entre eux soulevés par les GAN.
Désinformation et fausses informations
Les GAN peuvent être utilisés pour créer des images et des vidéos réalistes qui semblent réelles, mais qui sont en réalité fabriquées. Cela peut être utilisé pour créer de fausses informations, de fausses images et de fausses vidéos, ce qui peut avoir de graves conséquences sur la confiance du public et la diffusion des informations. 
Contenu offensant ou illégal
Les GAN peuvent être utilisés pour créer des contenus offensants, discriminatoires, diffamatoires ou illégaux. Cela inclut la création de fausses accusations, de discours de haine et d'autres types de contenus préjudiciables. 
Violations de la vie privée
Les GAN peuvent être utilisés pour créer des images réalistes de personnes qui n'ont jamais existé. Cela peut être utilisé pour créer de faux profils en ligne ou pour usurper l'identité de quelqu'un.
Propriété intellectuelle
La création automatisée de contenu soulève des questions liées aux droits de propriété intellectuelle. Par exemple, si le GAN est utilisé pour créer une œuvre d'art ou un design, qui en est le véritable propriétaire ? 
Biais et discrimination
Les GAN peuvent reproduire des biais présents dans les données d'entraînement, ce qui peut conduire à la création de contenus trompeurs ou discriminatoires. Si les données d'entraînement contiennent des stéréotypes, le GAN peut les répliquer dans les images générées. 
Contournement de systèmes de sécurité
Les GAN peuvent être utilisés pour générer des images de visages, d'empreintes digitales, d'iris afin de contourner les systèmes de sécurité basés sur la reconnaissance faciale ou biométrique.
Attaques et piratages
Les GAN peuvent apporter de légères modifications aux données d'entrée (comme des images) afin de tromper les modèles d'apprentissage automatique. En particulier, ils peuvent être utilisés pour générer ces perturbations, rendant les modèles incapables de classer correctement les données.

Comment repérer une image générée par l'IA ?

Comment repérer les "deepfakes" ? - Vidéo

https://www.youtube.com/watch?v=9CFxc2Zy5zI

https://www.youtube.com/watch?v=9CFxc2Zy5zI

Détecter une photo générée par intelligence artificielle - Vidéo

https://www.youtube.com/watch?v=I6ixufR_wSI

https://www.youtube.com/watch?v=I6ixufR_wSI

Quelques astuces pour repérer une image générée par une IA

Détecter une image générée par une IA peut parfois être un défi, car les progrès de la génération d'images à l'aide de réseaux de neurones ont permis de produire des images de plus en plus réalistes. Cependant, il existe plusieurs astuces que vous pouvez utiliser pour essayer de détecter de telles images.
Analyse des motifs récurrents
Les modèles génératifs sur lesquels s'appuient les IA ont tendance à reproduire des motifs récurrents dans les images fabriquées. Si vous voyez des éléments ou des arrangements qui semblent trop parfaits ou trop cohérents, cela pourrait indiquer que l'image a été fabriquée artificiellement par une IA. 
Examen des détails
Les images générées par les IA peuvent parfois manquer de détails réalistes, ou à l'inverse,elles peuvent contenir des détails inhabituels ou irréalistes.Recherchez les anomalies dans les textures, les ombres, les reflets, etc. Par exemple, les mains des personnes présentent souvent un aspect anormal, les branches des lunettes peuvent sembler fusionner avec la peau. Une symétrie trop parfaite au niveau d'un visage peut également être un indice.
Incohérences spatiales
Les modèles génératifs utilisés par les IA peuvent avoir des difficultés à saisir les relations spatiales réelles. Si vous remarquez des incohérences dans la perspective, les proportions ou l'espacement, cela peut indiquer une image fabriquée par une IA.
Vérification de la base de données
Si vous suspectez qu'une image a été fabriquée par une IA, vous pouvez la rechercher sur Internet en utilisant des outils de recherche d'images inversées. Si l'image apparaît sur plusieurs sites différents, il est possible qu'elle ait été fabriquée artificiellement.
Identification de la source
Certains outils de génération d'images, comme Midjourney ou Bing Creator, peuvent inclure des marques ou des signatures spécifiques (filigranes) dans les images générées. 
Utilisation d'outils spécialisés
Il existe des outils et des logiciels qui peuvent analyser des images pour détecter des anomalies ou des traces de génération automatique. Ces outils peuvent se baser sur des différences statistiques ou des caractéristiques typiques des images fabriquées.

AI or Not - Site

Privacy Preference Center
When you visit websites, they may store or retrieve data in your browser. This storage is often necessary for the basic functionality of the website. The storage may be used for marketing, analytics, and personalization of the site, such as storing your preferences. Privacy is important to us, so you have the option of disabling certain types of storage that may not be necessary for the basic functioning of the website. Blocking categories may impact your experience on the website.
Manage Consent Preferences by Category
These items are required to enable basic website functionality.
These items are used to deliver advertising that is more relevant to you and your interests. They may also be used to limit the number of times you see an advertisement and measure the effectiveness of advertising campaigns. Advertising networks usually place them with the website operator’s permission.
These items allow the website to remember choices you make (such as your user name, language, or the region you are in) and provide enhanced, more personal features. For example, a website may provide you with local weather reports or traffic news by storing data about your current location.
These items help the website operator understand how its website performs, how visitors interact with the site, and whether there may be technical issues. This storage type usually doesn’t collect information that identifies a visitor.