FAUSSES photos : le SCANDALE de l’année

Bonjour à toutes et à tous, ici Laurent pour Apprendre la Photo, et désolé pour ce titre un peu accrocheur, mais aujourd’hui on va parler de quelque chose qui a pas mal secoué le monde de la photo l’année dernière : le projet The Book of Veles de Jonas Bendiksen.

Beaucoup en ont parlé rapidement pour surfer sur l’actualité, souvent en racontant n’importe quoi dessus. Mais j’ai voulu acheter le livre pour avoir un avis plus poussé et aller un peu plus loin, parce que vous me connaissez, je n’aime pas rester à la surface.

Revenons sur l’affaire d’abord.

Jonas Bendiksen est un photojournaliste norvégien né en 1977, et membre de l’agence Magnum. Il fait ce métier depuis 20 ans, et a notamment couvert la guerre en Afghanistan, la crise des réfugiés en Europe, et a beaucoup travaillé dans les Balkans.

Il a également publié plusieurs livres photo chez Aperture précédemment, qui n’est pas exactement un petit éditeur, et a également gagné de nombreux prix prestigieux, dont une récompense au World Press Photo, sans doute le plus prestigieux des prix pour photojournalistes.
Bref, ce n’est pas n’importe qui, il a une réputation avec lui.

Depuis l’élection de Trump, il était frustré par le tournant que prenait le traitement de l’information dans les médias (c’est-à-dire les énormes mensonges permanents), et le fait qu’on puisse parler de “faits alternatifs” sans que tout le monde hurle (pour rappel, un fait c’est un fait, soit c’est arrivé soit ce n’est pas arrivé).

Il fait des recherches sur le sujet, les ingérences russes, le rôle des réseaux sociaux dans ces phénomènes de société, et entend parler de la ville de Vélès en Macédoine, qui est devenue un centre de la désinformation en ligne, en produisant une gigantesque quantité de fake news pendant la campagne de Trump en 2016.

Il se prend de passion pour cette étrangeté : une ville inconnue de Macédoine a une influence majeure dans le paysage politique de la première puissance mondiale.

Il se met donc à travailler sur le sujet, on verra comment dans un instant, et sort en avril 2021 un livre chez GOST Books, un excellent éditeur. Ses collègues de Magnum aiment beaucoup le projet, et il obtient même une projection des images du livre au festival Visa pour l’Image, un festival de photojournalisme de renommée internationale, qui attire 300 000 visiteurs à Perpignan chaque année.

Mais quelques jours après le festival, il révèle dans un article sur Magnum que… ses photographies sont toutes fausses ! Eh oui, il a réussi à duper tout le monde, et aucune des photographies de son livre n’est une représentation de scènes réelles.

Honte pour la profession de n’avoir pas su le voir, scandale à l’un des plus grands festivals de photojournalisme du monde.

Évidemment, tout le monde s’est fendu de son avis sur le sujet sans avoir lu son article explicatif en entier. Comme souvent, jugement hâtif et manque de réflexion ont dominé les “débats”, si on peut appeler ça ainsi quand aucun jus de cerveau n’y est mis.

Maintenant que ça fait plusieurs mois et que les esprits sont refroidis, parlons un peu plus de la réalisation de ce projet d’abord (et notamment en quoi ces photos sont fausses), et aussi de l’objet livre en lui-même.

Revenons donc sur la genèse du projet. Je vous ai dit que Bendiksen s’intéressait au sujet de la création de fake news, et avait découvert l’existence de la ville macédonienne de Vélès, ou des adolescents dans une ville ruinée par le chômage avaient trouvé moyen de faire de l’argent en produisant des fake news destinées à un public américain, payés par la campagne de Trump.

Je ne vais pas vous paraphraser toute l’intro du bouquin (et d’ailleurs on verra pourquoi après), mais ce contexte suffit pour comprendre la suite de la création du projet. À part une chose : le titre du livre.

En faisant des recherches sur la ville, Bendiksen découvre que Vélès n’est pas seulement le nom d’une ville, mais aussi celui d’un ancien dieu de la mythologie slave, décrit dans les mythes comme sournois, métamorphe, un dieu du chaos et de la tromperie. Si ça vous fait penser à Loki, je ne sais pas si c’est un hasard, car je ne suis pas spécialiste des mythologies européennes d’avant Jésus-Christ, mais en tout cas c’est un peu le même délire.

Donc déjà, hasard amusant : la capitale de la fake news porte le nom de l’ancien dieu de la tromperie.

Mais en plus de ça, Bendiksen découvre l’existence du Book of Veles, le Livre de Vélès, un ancien manuscrit supposément découvert en 1919 par un officier de l’armée russe, sur des tablettes en bois brûlé.

Cette tablette portait des inscriptions en proto cyrillique difficiles à déchiffrer, qu’un scientifique russe finit par comprendre, et où il découvre un conte épique sur le peuple slave et le fameux dieu Vélès. Ce manuscrit est considéré comme quasi sacré dans les cercles nationalistes slaves notamment.

Mais ce manuscrit est aujourd’hui largement reconnu par les historiens et les linguistes comme étant une complète contrefaçon, montée de toute pièce par l’officier l’ayant soi-disant découvert, et le scientifique l’ayant soi-disant décrypté.

Avant que la mascarade ne soit découverte, le Livre de Vélès a d’ailleurs été traduit en anglais, parsemé de notes sur l’importance historique de certains passages, ce qui est quand même savoureux.

Bref, Bendiksen se retrouve devant un amoncellement fascinant de circonstances qui tournent autour de la production de fausses informations, jusqu’à un siècle en arrière.

Et il se pose une question fondamentale, qu’il faut bien comprendre si on veut apprécier ce travail : à partir de quel moment on ne pourra plus du tout voir la différence entre du vrai photojournalisme et un “documentaire” créé de toute pièce grâce à l’imagination du photographe et un ordinateur ? Est-ce que ce ne serait pas déjà le cas ? Est-ce que la communauté de photographes serait capable de faire la différence ?

Il en a tellement peur qu’il décide d’essayer de le faire lui-même : créer un documentaire de toutes pièces, basé sur des faits réels, mais avec l’aide des technologies récentes.

Tout le sens de son projet est là : creuser les questions que posent les nouvelles technologies qui permettent de générer des visages réalistes via l’intelligence artificielle, ou même de créer les deep fakes, ces fameuses vidéos hyper réalistes où vous pouvez faire dire quelque chose à quelqu’un dont vous avez réuni suffisamment d’images réelles. (Comme on l’avait vu avec Obama il y a quelques années, avec un exemple technique qui était quand même assez bluffant.)

Bendiksen se déplace donc à Vélès, où il photographie des espaces vides : appartement, bureaux, bancs dans des parcs, bref toute scène qui l’intéresse. Avec un critère : aucun humain dans la scène.

Mais il ne se contente pas de ça : il capture la manière dont la scène est éclairée avec une caméra 360 degrés spéciale et avec des méthodes issues des effets spéciaux au cinéma. Je vous mets le lien en description d’une vidéo qui explique comment le cinéma procède pour que les effets spéciaux rajoutés dans une scène réelle aient l’air réalistes : c’est en gros le même principe.

La méthode consiste ensuite à combiner les photographies avec les données de la caméra 360, de manière à créer un espace en 3D sur l’ordinateur.
Il peut ensuite y placer des personnages virtuels comme il le souhaite dans la scène, et comme la lumière est modélisée, elle tombe bien sur le modèle 3D et correspond à la scène photographiée, ce qui résout le principal problème quand on essaie d’insérer quelqu’un avec Photoshop dans une scène : c’est que la lumière ne matche pas.

Ces modèles de 3D de personnes, c’est lui-même qui les crée ! Il se met à apprendre l’utilisation de divers outils utilisés notamment dans le jeu vidéo pour créer des avatars réalistes de personnes, qu’il peut faire tourner, poser, animer et éclairer comme il le souhaite.

Il achète des personnages de base qu’il transforme ensuite de plein de façons pour créer une myriade de personnages réalistes, et ensuite les habille.
(Donc, contrairement à ce que certaines personnes qui n’ont aucune éthique de travail ont raconté, non, il n’a embauché aucun acteur, ce sont des personnages 3D, et non, ce n’est pas “franchement du travail d’amateur sous Photoshop”, puisque 1) il n’a pas utilisé Photoshop, et 2) il y a passé énormément de temps pour rendre les photos réalistes, justement. D’ailleurs, ce n’est pas du tout facile à voir, comme vous le verrez sur les photos, car je vais vous montrer le livre après, pas d’inquiétude. 🙂 )

Ce qui est en quelque sorte très bien tombé pour lui, c’est que son dernier voyage là-bas est tombé juste avant le covid : il a donc eu un an où il ne pouvait de toute façon rien faire d’autre que créer soigneusement ses scènes dans le logiciel.

Ayant beaucoup de temps devant lui, il rajoute encore une couche à cette création de faux reportage : le texte. En effet, tout bon livre de reportage propose en général du texte explicatif pour en poser le contexte.

Et il découvre l’outil GPT-2, un outil extrêmement performant d’intelligence artificielle (enfin plutôt de machine learning), entraîné sur des millions de sites web à générer du texte réaliste. Il suffit de lui donner une source, et il va produire quelque chose de similaire. Si vous lui donnez du Shakespeare, il va produire du texte qui sonne comme du Shakespeare.

Pour produire le texte du livre, il nourrit donc GPT-2 avec tous les articles qu’il peut trouver sur l’industrie des fake news à Vélès, et demande au logiciel d’écrire un essai de 5 000 mots dessus, qui constitue… la totalité de l’introduction du livre. Il a quand même choisi les morceaux pour qu’ils aient un ordre logique, mais ce texte est entièrement généré par une intelligence artificielle, et donc, en soi, il est faux ! Il est inspiré d’articles réels sur la ville de Vélès, mais rien de ce qui est dit dedans ne correspond exactement à la réalité.

Il a également nourri le logiciel avec la traduction du fameux livre de Vélès, et il a pu ainsi produire une quantité infinie de “texte ancien” pour enrichir le livre.
Bref, il a produit un faux livre à propos des fausses informations. Il a raconté une fausse histoire à propos de jeunes Macédoniens qui racontent des fausses histoires à des Américains. Ce qui, je trouve, est une mise en abîme fabuleuse, et très intéressante sur ce que ça dit de notre société.

L’histoire du centre de fake news à Vélès est vraie. L’histoire de la fausse découverte et des faussaires du premier livre de Vélès est vraie. Mais tout le contenu… est faux. Et pourtant il raconte quand même l’histoire.

J’ai beaucoup aimé ce travail pour la profondeur de niveau de lecture que ça apporte sur les questions de la fausse information, mais aussi pour deux autres raisons :
• La première raison est historique : à ma connaissance, c’est le premier projet photographique majeur à utiliser le machine learning pour sa réalisation.

• La seconde est esthétique : je trouve les images très intéressantes visuellement, et le livre en tant qu’objet est une vraie réussite.

Justement, il est temps de le feuilleter ensemble, maintenant que vous avez le contexte en tête, qui pour moi est vraiment très important pour comprendre ce projet.

Donc, pour commencer, le livre a une couverture un petit peu en espèce de faux cuir. Évidemment, c’est toujours un défi de montrer ça en vidéo ; vous voyez qu’il y a cet aspect-là sur tout le tour, avec ce symbole derrière qui est sans doute issu du Livre de Vélès original, on va dire.

Ensuite, quand vous l’ouvrez, vous avez une capture d’écran, légèrement bleutée, de la page Wikipédia de Vélès.

Et ensuite celle du Livre de Vélès, puis ici le livre tel qu’il a été traduit en anglais, comme je vous en ai parlé.

Vous avez les photos de la tablette, sur un papier qui est très fin ; d’ailleurs il est presque transparent. Je ne sais pas si vous voyez, mais ici on voit deux bandes derrière qui correspondent à ces bandes ici.

Et là, vous avez des photos de la traduction anglaise de ce fameux Livre de Vélès, qui était faux, pour rappel. Toujours sur ce papier très très fin. De couleur assez chaude, mais surtout très fin, on est presque sur du papier bible, vraiment pas loin.

Vous avez un cahier comme ça avec ça.

Et ensuite vous avez la première photo du livre, sur un papier différent, qui est plus épais, relativement mat. Je pense que c’est un papier non couché sans doute.

Une photo, vous voyez, pas abstraite, mais en tout cas très poétique dans son approche.

Et les pages suivantes continuent avec des photos comme ça qui sont assez évocatrices du décor et pas forcément… qui ne font pas très reportage, on va dire. Vous voyez, ce ne sont pas des photos avec des gens dedans et ses fameux personnages 3D qu’il a placé dans les scènes ; ce n’est pas encore là qu’ils apparaissent.

Donc vous avez ces photos à fond perdu qui apparaissent pendant quelque temps.

Et là, même ce personnage, ici, est créé en 3D. Il faut savoir que même pour les petits personnages dans les photos, aucun n’est humain.

Et vous avez enfin la page titre du livre. Avec la petite signature, parce que, évidemment, je l’ai acheté signé.

Et puis, ensuite, vous avez donc ce fameux texte dont je vous ai parlé, qui est sur ce même papier non couché, texte qui a entièrement été généré par une intelligence artificielle.

Alors, quand on le lit on ne s’en rend pas compte et on le lit naturellement en étant intéressé par l’histoire, etc. Par contre, quand on sait que ça a été généré par une IA et que c’est faux, ça ne met plus, on va dire, la même portée sur ce texte. Et vous voyez qu’il dure quand même quelques pages, c’est un vrai texte qui aurait pu être contexte pour un livre comme ça, mais qui du coup est complètement faux.

Et donc ici, vous avez des pages du Livre de Vélès qui sont a priori des fausses pages générées par l’intelligence artificielle. Alors, je ne sais pas dans quelle mesure il a pris des vrais scans de la traduction anglaise, ou s’il les a refaites complètement. Je pense que le livre étant censé être faux, il a refait ça entièrement.

Et ici vous avez, je pense, des faux titres de sites américains, mais qui ont été générés par l’intelligence artificielle pour ressembler à des vrais titres.

Et puis là commencent un peu plus les photos du livre, et notamment avec ces personnes.

Ce n’est pas forcément évident, vous voyez que la photo est assez petite sur le bouquin, qui fait la taille de ma main. Ce n’est pas non plus un très grand livre, et la photo elle-même a pas mal de bord blanc autour, donc ce ne sont pas des photos très grandes, et sur le moment, surtout que les photos ont beaucoup de grain, une lumière assez particulière, ce n’est pas du tout évident que c’est des modèles 3D.

Quand on le sait et qu’on regarde de près, on se dit oui, OK, mais voilà. C’est le genre de chose qu’on sait quand on est déjà au courant, mais quand on ne l’est pas, on ne le voit pas forcément.

Toutes les citations ici sont fausses, tout ça a été généré par rapport à des articles trouvés en ligne, etc.

Je trouve que le fait d’avoir mis un mannequin ici est un peu un indice. C’est un indice subtil, mais c’est un peu un indice.

Et le bouquin continue comme ça, avec, vous voyez, de temps en temps une feuille sur ce papier plus fin, qui systématiquement reprend le Livre de Vélès, qui est sans doute faux. Et puis un faux titre de fake news, mais qui pour le coup est relativement vrai.

Même le chien, ici, est faux. Tous les êtres vivants dans le livre sont faux.

Sur une photo comme ça, on ne peut pas du tout deviner que ce sont des personnages rajoutés en 3D, ça ne se voit absolument pas. Je mets au défi quiconque de les repérer à l’aveugle.

Et il y a certaines photos avec un ours, et en fait il s’est un peu amusé, parce qu’il s’est rendu compte que l’animal du dieu Vélès, c’était l’ours, et du coup il s’est amusé à en mettre dans quelques photos, pour donner un peu, pas vraiment un indice, mais en tout cas faire une petite référence.

Je ne vais pas vous faire le livre en entier, mais vous voyez qu’il continue comme ça plus ou moins sur le même principe, avec de temps en temps des grandes photos d’ambiance en double page.

Voilà, ça continue plus ou moins comme ça tout du long. Ce que je voulais vous montrer, c’était surtout la page des remerciements, à la fin.

Il y a pas mal de remerciements ici, des gens qui l’ont aidé dans le projet. Mais surtout, ce que je voulais vous montrer, c’était la dernière ligne des remerciements : « Thanks to OpenAI, Daz, Blender and NVIDIA. What fun toys. » « Merci à OpenIA (qui est l’outil d’intelligence artificielle), Daz (je ne sais pas ce que c’est), Blender (c’est un logiciel de 3D) et NVIDIA (c’est un fabricant de cartes graphiques). Quels jouets amusants. »

Donc c’est un petit peu évident, mais effectivement, qui lit les remerciements dans un bouquin ?

Et puis le livre se termine comme au début avec des extraits de la page Wikipédia du Book of Veles, du fait qu’il soit faux, et puis sur le dieu Vélès, le dieu de la tromperie.
Donc encore quelques petits indices à la fin, même si ceux-ci sont, on va dire, assez subtils.

Maintenant que vous avez vu l’objet photographique, il me reste deux choses dont je voudrais parler.

Au début je ne l’ai pas dit, car je n’avais pas encore révélé qu’il avait trompé tout le monde, mais il faut savoir qu’après avoir sorti son livre en avril, et voyant que personne ne captait la supercherie, il a essayé d’orienter les gens pour se faire découvrir.

Au début, il pensait qu’en quelques semaines, quelqu’un découvrirait le pot aux roses. Mais rien ne se passe. Il décide d’orchestrer une attaque contre lui-même, et achète un faux profil Facebook crédible (donc pas quelqu’un avec zéro amis), et l’infiltre dans la communauté photographique. En quelques semaines, cette “Chloé Miskin” qui n’existe pas devient “amie Facebook” avec 600 éditeurs, photographes, curateurs et autres personnes du milieu (ça fait un peu de monde, quand même).

Et sur ce profil, dans les 24 heures qui suivent la projection à Visa pour l’Image, il poste une accusation comme quoi il aurait payé ses sujets pour apparaître, de manière à inciter les gens à regarder les photos de plus près. Il se dit que ça va se finir très vite, mais à sa grande surprise, personne ne capte rien, et des gens prennent même sa défense.

Ce que je comprends dans l’absolu : rien n’indique particulièrement sur les photos que les sujets aient été payés, et la supercherie est plutôt discrète, voire invisible par endroits.

Il en remet donc une couche sur Twitter avec ce même faux profil, et là, une personne repère enfin que l’une des photos de ce faux profil de Chloé Miskin porte les mêmes vêtements qu’une des personnes du bouquin. Puisque les deux ont été générées grâce aux personnages 3D.

Et donc, quelques jours plus tard, il publie son interview détaillée sur Magnum où il révèle tout en détail.

Ce qu’il faut bien comprendre, c’est que le projet était conçu depuis le départ pour que la vérité soit mise au jour. Il avait laissé des indices, notamment dans les remerciements du livre, comme on l’a vu, où il remercie le fabricant de sa carte graphique et les logiciels qu’il a utilisés. Sauf que personne ne lit les remerciements. ^^

Son but n’était pas d’enfreindre l’éthique journalistique, comme les gens qui n’ont pas pris le temps de comprendre sa démarche l’ont prétendu, mais de questionner sur notre rapport à la réalité aujourd’hui. D’ailleurs, plusieurs magazines ont voulu publier le reportage, et il les a évincés sous de faux prétextes pour éviter de dépasser cette ligne qui lui semblait aller trop loin éthiquement (de carrément publier dans un magazine). Il voulait tromper la communauté de la photo, pas le grand public.

Et la dernière chose dont je voudrais parler, c’est la question ou la remarque que je vais inévitablement avoir en commentaire : “est-ce que c’est vraiment de la photographie ?”

Je fais exprès d’en parler à la fin pour voir ceux qui sont allés au bout. 😉

Je pense qu’ici, la réponse est : on s’en fout. Tout le point de ce projet, c’est de montrer comme la réalité et la fiction peuvent se mêler, et comme même les plus expérimentés peuvent se laisser avoir par un fake bien fait.

C’est un projet photographique, dans le sens où il se base avant tout sur des photographies, où tout le langage visuel et la composition sont ceux du photoreportage, où c’est conçu par un photojournaliste, publié chez un éditeur photo, et diffusé dans un festival de photographie.

Et en même temps, ça utilise des technologies qui ne sont pas photographiques en soi, même si elles servent à créer de l’image.

Ce qui me plaît aussi, c’est que ça renvoie à ce que j’ai déjà répété plusieurs fois sur la chaîne : la photographie n’est JAMAIS une représentation de la réalité.
C’est un cas extrême, bien sûr, mais même une simple photographie peut déjà largement tricher avec le cadrage et les outils de composition, sans passer par un logiciel, sans faire des personnage 3D créés de toutes pièces. J’en avais d’ailleurs parlé précédemment dans une vidéo où je vous montrais des photos de journalistes qui mentaient tout en montrant la réalité. Je vous mets le lien…ici.

Voilà, j’espère que ce sujet vous aura intéressé, car il pose des questions très contemporaines, mais qui renvoient à des réflexions aussi vieilles que la photographie, puisqu’elle a été utilisée dès le début pour représenter de la fiction, par exemple avec le fameux “autoportrait de noyé” d’Hippolyte Bayard réalisé en… 1840 ! Donc c’est pas tout récent.

Et vous, qu’en pensez-vous ? Est-ce que vous avez envie d’acheter ce livre pour vous faire votre avis ? Est-ce que cette fiction vous intéresse ou vous repousse ? Est-ce que vous refusez encore d’accepter que la photographie n’est pas une représentation de la réalité ?

Dites-moi tout en commentaire, les débats sont ouverts. Pour le coup, c’est vraiment un sujet qui s’y prête.

Je vous dis à plus dans la prochaine vidéo, et d’ici là à bientôt, et bonnes photos !