SCANDALE : il gagne un concours international avec une fausse photo !

Bonjour à toutes et à tous et bienvenue dans cette nouvelle vidéo sur Apprendre.Photo. Vous vous en souvenez peut-être, en janvier dernier, j’avais fait une vidéo sur l’intelligence artificielle. Depuis, il y a eu BEAUCOUP de nouveautés, alors que ça ne fait que quelques mois. Je vais donc vous parler des quelques scandales qu’il y a eu depuis, de ce que ça implique à mon avis pour la photographie, et de comment mon avis a évolué depuis.

Les derniers mois ont été absolument FOUS dans le domaine de l’intelligence artificielle.

Je vous avoue que je ne sais pas vraiment dans quelle mesure cette information a atteint le grand public. Dans les cercles que je fréquente, et avec les personnes de mon entourage proche, c’est sans doute devenu le sujet de conversation principal, et pour cause : les choses vont très vite.

Je vais me concentrer sur la photo aujourd’hui, mais je ne peux pas complètement passer sous silence l’arrivée de GPT4. Vous le savez si vous avez vu ma vidéo de janvier : en décembre est sorti ChatGPT, un logiciel qui vous permet en gros de converser avec une intelligence artificielle.

En janvier, je n’étais pas très convaincu. Les réponses de ChatGPT n’étaient pas très fiables, pas très originales, et même si ça restait impressionnant techniquement, il était un peu difficile d’y voir un usage pratique réel. Sans compter les considérations éthiques évidentes.

Mi mars, OpenAI a sorti GPT4, leur nouveau modèle, et a permis d’accéder à un ChatGPT propulsé par ce nouveau “moteur” en payant un abonnement de 20$/mois. Pour beaucoup de gens c’est un peu cher pour tester un truc amusant, mais je peux vous dire que c’est TRÈS LARGEMENT meilleur que GPT3.5. Ce qui est un peu rassurant, c’est qu’il faut savoir bien réfléchir pour en sortir quelque chose de qualitatif, donc j’ai le sentiment que ça va plutôt aider les gens qui savent déjà faire du bon contenu à produire mieux et plus vite, plutôt qu’aider des gens qui n’ont pas grand chose à dire à faire du bon contenu.

Je ne vais pas la faire trop longue là-dessus, mais c’est réellement un logiciel extrêmement impressionnant. Non pas pour nous remplacer, mais pour accélérer le travail. La dernière fois que j’ai été autant halluciné par une technologie, c’est la première fois que j’ai eu accès à un ordinateur (donc il y a plus de 20 ans). C’est vraiment absolument fabuleux, et la plupart des critiques que vous verrez ici et là sont le fait de gens qui n’ont pas vraiment testé et répètent juste ce qu’ils ont dit. La majorité des défauts sont déjà résolus ou sur le point de l’être.

Les IA de génération d’images

Mais BREF, ce qui nous préoccupe aujourd’hui, ce sont plutôt les IA de génération d’images, comme MidJourney. Depuis janvier, il y a eu pas mal de news de ce côté. Notamment Adobe a sorti Firefly, qui est pour l’instant sur liste d’attente, mais a l’air assez prometteur. Si Adobe s’y met, c’est bien qu’on est sur quelque chose de significatif.

Mais MidJourney restent pour le moment les leaders (avec une équipe de seulement 11 personnes !), et ont sorti la version 5 de leur modèle, qui est encore meilleure que la version 4, et notamment extrêmement capable de sortir des photos très réalistes à partir d’une simple commande. Le logiciel n’est maintenant plus accessible gratuitement, mais il a fait pas mal de remous ces derniers mois.

Tout d’abord, vous avez peut-être vu ces photos du Pape en grosse doudoune blanche… qui ne sont pas réelles ! C’est une photo entièrement générée par MidJourney (et c’est très simple). Moins crédible, on a également vu des photos de Macron en éboueur ou en manif, ou de Trump en tenue orange de prisonnier.

Ces quelques photos ne sont pas en soit toutes problématiques :

• soit elles sont anecdotiques comme celles du Pape
• soit elles ne sont pas crédibles comme Macron en éboueur (bien que Trump ait été pris pour argent comptant par des personnes moins éduquées aux manipulations possibles de l’image)

Mais évidemment, il n’a pas fallu bien longtemps pour avoir un premier cas d’image largement partagée malgré son caractère complètement factice.

Vous l’avez peut-être vue, il s’agit de cette image d’un homme âgé manifestement ensanglanté dans une manif.

Pourtant, son créateur l’a publiée au sein d’un ensemble d’images clairement fictionnelles intitulées “2043 : Manifestation contre la réforme des retraites à 98 ans (réalisé via intelligence artificielle)”. Je vous mets le liens vers la publication Facebook ici.

Cette photo a été très largement partagée sur les réseaux, et il a fallu une journée pour que l’AFP confirme qu’elle avait bien été créée par intelligence artificielle. Il y avait des indices, mais suffisamment faibles pour que ça passe inaperçu.

Bref, ce n’est pas le futur, c’est déjà là : il est désormais impossible de faire confiance à la preuve photographique quand vous voyez quelque chose sur internet. Toute image qui n’est pas confirmée par une source un peu sérieuse comme par exemple l’AFP doit être considérée comme étant potentiellement fausse.

J’aimerais que la conséquence soit que tout le monde développe un peu plus d’esprit critique, mais vu les années qui ont précédé, j’en doute fortement…

(et qu’on ne me dise pas que c’est “facilement reconnaissable” : les quelques indices qui subsistent PARFOIS seront probablement absents à la version 6 de Midjourney au rythme où ça avance. Qui sera peut-être même sortie quand cette vidéo sera publiée, puisque je l’enregistre quelques semaines à l’avance)

Donc ça, c’était mon premier point : nous entrons dans une époque où l’image de presse n’est plus une preuve. Ca pouvait déjà être manipulé subtilement précédemment, comme je l’avais démontré dans ma vidéo sur la vérité en photo, mais on entre vraiment au stade supérieur.

Les scandales autour de photographes

Ensuite, il y a eu un certain nombre de scandales autour de photographes qui ont utilisé l’IA.

Le premier à ma connaissance est ce concours photo organisé par Digidirect, un gros magasin de photo australien. Le 1er février, le cliché gagnant pour le thème “Eté” était annoncé sur leur compte instagram.

Sauf que cette photo… n’en est pas une ! Elle a été créée par l’entreprise australienne Absolutely AI, qui a voulu faire un coup de comm, et prouver que les images générées par intelligence artificielle pouvaient gagner une compétition de photo.

Et il faut bien dire que leur coup de comm est réussi : ils ont prouvé aux yeux du monde entier que non seulement l’usage de l’IA passait inaperçu, mais arrivait même à remporter le concours !

Ca ne m’étonne pas des masses, dans le sens où ce type de concours photo récompensent souvent des images de type jolies, plaisantes immédiatement à l’oeil, et assez consensuelles. Il n’y a rien de mal à ça en soi, simplement c’est évidemment là que l’IA a toute sa force : étant entraînée sur les images trouvables sur internet, elle peut facilement reproduire ce qui est très courant. Autrement dit, un coucher de soleil : très facile.

Ca rejoint ce que je dis depuis des années : si évidemment on peut prendre un plaisir perso en tant qu’amateur à faire “juste de jolies photos”, elles ne sont pas très différentes de celles du voisin. Au point qu’un robot peut faire les mêmes.

Est-ce que ça change quelque chose pour les amateurs ?

Pas vraiment. Ca fait un long moment que toutes les photos peu originales n’ont un intérêt que pour leur auteur. Quand vous prenez une photo dans une pratique amateur, ce que vous pouvez y trouver, c’est :

• le plaisir de prendre la photo et de la retoucher bien sûr
• le côté souvenir : c’est VOTRE photo, du moment que VOUS avez vécu
• Le partage avec vos proches pour la même raison
• Et éventuellement le plaisir de décorer chez vous avec votre création personnelle

Par contre, ces images n’ont en général pas d’intérêt artistique en soi, dans la mesure où il n’y a pas de propos particulier au-delà de “j’ai vu ça” (et c’est normal hein, c’est tout ce qu’on leur demande).

Par contre, ça indique un danger réel pour certains types de photographie professionnelles. Par exemple la photo de stock : comment vendre des photos stock alors qu’on peut maintenant générer absolument ce qu’on veut juste en tapant une commande ? Ca paraît difficile d’imaginer que cette activité perdure encore dans 10 ans.

Autre affaire intéressante : Jos Avery crée un compte Instagram en octobre 2022, et amasse rapidement des dizaines de milliers de followers avec de magnifiques portraits en noir et blanc. Chaque portrait est accompagné du nom du sujet, et d’une anecdote à propos de leur vie.

Et vous me voyez venir : tous ces portraits sont générés par MidJourney ! Sur certains, ça se voit si on a l’oeil un peu exercé (et encore, on pourrait avoir le même résultat avec un vrai portrait et un abus de Photoshop), mais pour d’autres, franchement, c’est impossible. Regardez celui-ci par exemple :

A une taille de visualisation comme Instagram, impossible de voir la différence. Il y a même un grain argentique !

Si on regarde bien, ses yeux sont un peu trop nets. Mais il faut le voir…

Il a fini par avouer, mais c’est bien la preuve qu’il est maintenant possible de facilement tromper les gens.

Mais il y a une affaire plus récente qui me semble de loin la plus intéressante du lot : celle de Boris Eldagsen.

L’image que vous voyez à l’écran a gagné un prix aux Sony World Photography Awards. Ce n’est pas un petit concours, puisqu’il y a quand même eu 450 000 photos soumises depuis 200 pays !

Et pourtant, elle est générée par intelligence artificielle ! Ca a créé la polémique, car Boris Eldagsen s’est rendu à la cérémonie de remise des prix, et… a refusé d’accepter son prix !

En effet, on a ici affaire à un profil très différent des cas précédents, où on avait des gens qui ont fait passer ces images pour des photos soit pour rigoler, soit pour manipuler l’opinion, soit pour des raisons commerciales ou d’intérêt personnel.

Ici, Eldagsen, un peu comme Jonas Bendiksen avec The Book of Veles, dont je vous avais parlé il y a déjà plus d’un an, avait une démarche plus profonde, qu’il explique notamment dans une interview sur le site “Riding the Dragon”, que je vous mets ici vous lisez l’anglais.

Dans cette interview, il explique qu’il a soumis des images générées par IA à plusieurs concours, pour voir s’ils les accepteraient. Lorsqu’il a été contacté par CREO, l’entreprise organisatrice du prix, il a fourni toutes les informations demandées sur son travail, notamment en insistant sur le fait que son image était générée par IA. Et malgré ça, les organisateurs n’ont pas réagi à sa proposition de débattre de la question !

Eldagsen a donc refusé le prix lors de la cérémonie, en montant sur scène pour expliquer la raison de son geste. Il déplore que les organisateurs aient mis le sujet de l’IA sous le tapis, et estime qu’ils devraient se préparer à faire face à davantage d’images générées par IA dans les concours à venir.

Il est aussi conscient des problématiques de droits d’auteur, et des problèmes qu’elle pose pour les démocraties qu’on a évoqués auparavant avec les fausses images de presse.

Il faut savoir qu’il n’est pas contre l’usage de l’IA en soi (on va reparler de son travail artistique juste après), mais considère simplement qu’il est important de distinguer les images générées par IA de la photographie traditionnelle. Il suggère d’ailleurs le terme de “promptographie” (puisque la commande qu’on tape dans Midjourney ou autre s’appelle un prompt).

Et effectivement, il faut souligner une chose : ces images ne sont PAS des photographies, dans le sens où elles n’ont pas de lien au réel. Le propre de la photographie c’est de découper quelque chose dans le réel, ce qui n’est évidemment pas ce qui se passe là. Est-ce que pour autant elles n’ont aucune valeur et on ne peut rien en faire ? Je ne pense pas. Il faut tout simplement les distinguer comme une nouvelle manière de produire des images.

Il faut savoir qu’Eldagsen est photographe depuis plus de 30 ans, et qui n’a pas besoin de ça pour faire parler de lui. Il a par exemple reçu le Prix Voies Off d’Arles en 2013, enseigné dans plusieurs universités… ce n’est pas un inconnu qui cherche juste un coup de pub pour son compte Insta. L’IA s’inclut dans sa démarche photographique et dans son projet artistique.

En effet, la fameuse image qui a gagné le concours fait partie de la série PSEUDOMNESIA: Fake Memories.

Voici comment il décrit lui-même son travail dans une des newsletters de FlakPhoto (dont je vous mets aussi le lien ici) :

PSEUDOMNESIA est le terme latin pour pseudo-souvenir, comme un faux souvenir d’événements qui n’ont jamais eu lieu, par opposition à un souvenir simplement inexacte.

Les images ont été coproduites à l’aide de générateurs d’images par intelligence artificielle.

En utilisant le langage visuel des années 40, je produis mes images comme de faux souvenirs d’un passé qui n’a jamais existé, que personne n’a photographié. Ces images ont été imaginées par le langage et rééditées entre 20 et 40 fois à l’aide de générateurs d’images par IA, en combinant les techniques d'”inpainting”, d'”outpainting” et de “prompt whispering”.

Vous voyez qu’on est quand même assez loin de “je fais un joli coucher de soleil” ou “je génère des portraits en noir et blanc de jolies filles ou de vieux monsieurs ridés et marqués par la vie”. Il y a une démarche intellectuelle de l’artiste qui va plus loin, et un vrai travail pour obtenir exactement l’image qu’il veut.

Certes sans photographier, mais… peu importe au final ? Tant que la démarche est transparente, et qu’il lui fait dire ce qu’il veut, ça peut être un travail intéressant.

Est-ce que ça va transformer la photographie ?

Andy Adam, qui est l’auteur de la newsletter dans laquelle j’ai entendu parler de ce projet, ouvre le sujet en parlant de “post-photographie”, un terme qui désigne les pratiques artistiques qui remettent en question la définition traditionnelle de la photographie en combinant celle-ci avec d’autres médias.

Ce n’est pas nouveau en soi, mais sans doute avec le projet de Jonas Bendiksen dont je vous avais parlé, c’est là qu’on a vu l’IA entrer dans le monde de l’art pour la première fois, et sans doute pas la dernière.

Personnellement, je suis impatient de voir ce qui va être créé grâce à ça. C’est une nouvelle forme de création visuelle, et je ne crois pas que ça va tuer la photographie. De la même manière que la photographie n’a pas tué la peinture, mais au contraire l’a obligée à sortir d’un style proche de la réalité.

Par contre, est-ce que ça va transformer la photographie ? Sans aucun doute. Mais pas de la même façon selon la pratique :

• Tout d’abord, je ne pense pas que la photographie amateur sera transformée. Vous aurez toujours envie de faire des photos de vos vacances, de vos proches, ou simplement de choses qui vous attirent l’oeil. Le plaisir là-dedans ne sera pas remplacé par taper “coucher de soleil” dans MidJourney.
• La photographie artistique va je pense simplement s’enrichir. Il y aura toujours des photographes qui ne produiront qu’à partir d’un appareil photo. Vont venir s’ajouter des artistes utilisant entièrement l’intelligence artificielle. Et puis bien évidemment des formes hybrides : des photographes qui utilisent l’IA pour enrichir un projet basé sur de vraies images. Mais aussi pourquoi pas des artistes IA qui utilisent la photo comme base.
• La photo professionnelle est sans doute le domaine qui sera le plus touché. Je pense que les photographes évènementiels sont saufs pour l’instant : une IA ne va pas vous générer des photos de votre mariage. Les portraits sans doute aussi (même s’il y a déjà des logiciels qui produisent des portraits convaincants à partir de simples selfies pris au smartphone). Mais beaucoup de domaines vont être complètement bouleversés par ça.

Cela dit, un petit bémol à ça : il y a toujours une inertie de la société, et donc même une technologie qui serait 100% prête aujourd’hui ne sera pas adoptée instantanément partout. Comme on dit, le futur est déjà là, mais il n’est pas également réparti.

Voilà, c’est tout pour aujourd’hui, et c’est déjà pas mal, il y avait beaucoup de choses à dire !

Et puis bien sûr, profitez-en pour donner votre avis, débattre, etc.

À bientôt, et bonnes photos !

Laurent Breillat

J'ai créé Apprendre.Photo en 2010 pour aider les débutants en photo, en créant ce que je n'avais pas trouvé : des articles, vidéos et formations pédagogiques, qui se concentrent sur l'essentiel, battent en brêche les idées reçues, tout ça avec humour et personnalité. Depuis, j'ai formé plus de 14 000 photographes avec mes formations disponibles sur Formations.Photo, sorti deux livres aux éditions Eyrolles, et édité en français des masterclass avec les plus grands photographes du monde comme Steve McCurry.