Arles : l'IA au coeur des débats et des préoccupations de l'UPP

Lors des dernières Rencontres de la photographie à Arles, les enjeux soulevés par l’intelligence artificielle (IA) ont occupé une place centrale dans les échanges entre professionnels du secteur. Si les possibilités offertes par ces technologies sont nombreuses, elles suscitent également des interrogations profondes, encore loin d’être épuisées, tant sur le plan juridique qu’éthique.

L’UPP s’est investie depuis l’émergence des IAg dans les discussions relatives l’encadrement de ce nouveau media.Les photographes, après tout, sont précurseurs : ils sont acclimatés à ces outils numériques déjà intégrés dans leurs logiciels de prise de vue et de retouche, et avec lesquels ils sont habitués à travailler.

Aussi l’UPP a saisi l’opportunité des Rencontres d’Arles pour exprimer, à plusieurs reprises, ses positions sur ces sujets :

• Invitée par l’ADAGP à une table ronde consacrée à l’identification des contenus générés par IA, Stéphanie de Roquefeuil, Directrice des affaires publiques et juridiques, a porté la voix de l’UPP sur les enjeux juridiques et éthiques afférents.
• Stéphanie de Roquefeuil a également participé, aux côtés du président de l’UPP, Matthieu Baudeau, à une soirée d’échanges organisé par Google réunissant les parties prenantes de l’écosystème IA : représentants de sociétés d’auteurs, interlocuteurs au cabinet du Premier ministre et au ministère de la culture, opérateurs de la culture et de la diffusion … Au cours de ce dîner, les représentants de Google ont partagé leurs éléments de langage sur l’IA. Ils ont également pu entendre les créateurs exprimer leur volonté de construire un écosystème sécure, fiable et éthique. Cette nouvelle rencontre pave le chemin vers une meilleure compréhension croisée.
• Enfin, Emmanuel Perret, Secrétaire général de l’UPP, a animé une table ronde dédiée à la création par IA. Les artistes présents y ont souligné les potentialités expressives de ce nouvel outil, tout en appelant les photographes à s’en saisir activement. Car les photographes ont un « œil », ils comprennent, ressentent ce qui rend une image forte, expressive, éloquente. Si l’IA est abandonnée aux amateurs, elle produira des contenus sans relief. Seuls des auteurs pleinement conscients de leur regard peuvent y insuffler du sens.

1. Les grands enjeux juridiques en débat

Protection des œuvres dans les bases d’entraînement des IA

Les œuvres photographiques, protégées par le droit d’auteur, sont aujourd’hui massivement intégrées dans les bases de données utilisées pour entraîner les IA génératives. Sur ce point la position de l’UPP est claire : elle a eu à plusieurs reprises l’occasion de réaffirmer l’importance primordiale du droit d’auteur, et encore récemment par la voix de sa Directrice des affaires publiques et juridiques, Stéphanie de Roquefeuil, au Parlement de la Photo en juin. Les photographies ne sont pas un produit comme les autres. Issues de l’esprit de leur créateur, elles reflètent son individualité, révèlent sa vision du monde, partagent les messages qu’il souhaite porter, et portent l’empreinte de sa personnalité. Ces œuvres ne peuvent donc être utilisées sans son autorisation expresse. La question de l’autorisation (ou de l’opposition) est encadrée par le droit européen, notamment l’article 4 de la directive DAMUN et l’article 53 du Règlement IA. Les modalités d’expression du refus d’utilisation – prévu par les textes européens est un sujet majeur de discorde avec les opérateurs d’IA qui refusent à ce stade la mise en œuvre de toute solution d’opt-out. La transparence sur les données d’entrainement des IA est un prérequis essentiel pour leur permettre l’application du régime de droit d’auteur prévu par les textes.

En outre, les photographies protégées par le droit d’auteur constituent aujourd’hui la « matière première » qu’utilisent les IA pour générées des images synthétiques. Comme dans tout marché économique, il est essentiel que les créateurs, comme tous les acteurs de la chaine de valeur technologique (développeurs, fournisseurs de serveurs, plateformes, etc.), puissent être rémunérés à la hauteur de leur contribution au produit fini.

Identification des contenus générés

L’article 50 du règlement intelligence artificielle impose aux systèmes d’IA d’étiqueter comme tel tout contenu généré par IA dans un format lisible par la machine, mais de l’indiquer également aux personnes physiques concernées, de manière claire et reconnaissable, au plus tard lors de la première interaction / exposition.

L’UPP travaille ainsi sur les moyens d’assurer le respect de cette obligation requise par la réglementation européenne dès le 1er aout 2026.

Ce marquage est indispensable à la sécurité juridique. En effet, les créations humaines bénéficient d’une protection claire au titre du droit d’auteur. Les contenus générés par IA, en revanche, relèvent d’un régime juridique incertain. Dans l’attente d’une régulation dédiée, les droits de propriété et les responsabilités sont diluées entre les créateurs des systèmes, les prompteurs et les diffuseurs. Ils sont donc source d’insécurité juridique pour leurs utilisateurs, entreprises, entités publiques et privées. Pour l’UPP, il est donc fondamental de les distinguer pour que les utilisateurs sachent dans quel cadre juridique ils évoluent.

Les litiges récents (procès opposant Disney à Midjourney ou encore l’action engagée par le SNE, la SGDL et le SNAC contre Meta) illustrent la gravité du problème. Lorsqu’une entité et appuient leur communication sur la renommée d’un artiste sans licence ni rémunération, elle s’inscrit dans une logique de captation illicite de valeur. Elle exploite des œuvres préexistantes pour générer des visuels d’intelligence artificielle et elle capitalise sur le travail d’autrui , « s’immisçant dans son sillage afin d’en tirer profit dans rien dépenser de ses efforts et de son savoir faire ». Cela qui constitue un acte de parasitisme économique, dont le préjudice pour le créateur doit être réparé. Il est donc nécessaire d’identifier les contenus à l’origine des œuvres générées, afin de faire valoir le cas échéant les droits des auteurs à une compensation équitable, mais aussi pour favoriser la conclusion d’accords entre les créateurs et ceux qui souhaitent

2. Des enjeux éthiques majeurs liés à l’identification des contenus générés par IA

Préservation de l’intégrité de l’information

Dans le domaine de la presse, l’émergence des hypertrucages, deepfakes et autres clonages de voix ou d’images menace gravement l’intégrité de l’information.  La manipulation de contenus menace la crédibilité des médias, affaiblissant leur lien avec le public, et enfermant les lecteurs dans une bulle informationnelle nocive pour le dialogue et les débats d’idées.

L’identification clair des contenus générés par IA, tant pour les citoyens que pour les robots ayant vocation à diffuser des contenus scrapés sur internet devient ainsi un impératif démocratique. En ce sens l’UPP milite pour une prise de position extrêmement ambitieuse des organes de presse, notamment ceux qui bénéficient des subventions publiques. Leur rôle les oblige, et ils doivent être exemplaire en la matière, afin que constituer une source fiable d’information.

Information du « consommateur »

L’étiquetage ne doit pas être seulement une exigence légale : c’est une question de transparence et de respect du libre arbitre des citoyens. Une tendance générale se renforce dans notre société, et elle est saine : tout un chacun souhaite aujourd’hui être conscient de ce qu’il consomme (au sens large du terme) afin de poser un choix informé : composition de ses vêtements (100% coton, ou 90% polyamide), mode de production des œufs (poules élevés en batteries, au sol, en plein air, bio…), nutriscore des aliments, provenance et circuit de production des objets.

Pour les images comme ailleurs, chaque choix est justifiable, et le propos de l’UPP n’est pas de bannir l’IA des communications, mais par l’identification des contenus générés, de permettre au public un choix éclairé.

Valorisation de l’humain et lutte contre l’effacement des visages réels

Les erreurs commises récemment par le gouvernement français dans des campagnes d'information générées par IA[1] illustrent les risques de désincarnation des messages publics. Valoriser les personnes réelles, celles qui font la richesse économique, sociale et culturelle du pays, reste le moyen le plus efficace pour susciter l’adhésion et nourrir la cohésion nationale.

Et pour les entreprises, les associations et toutes ces entités qui constituent le tissu économique et social français : qu’est-il de plus différenciant que leurs ressources humaines et comment mieux les valoriser qu’en partageant les photographies des équipes réellement à l’œuvre dans la création de richesse économique, sociale ou humaine ?

L’UPP affirme un principe fondamental : la photographie reste un medium essentiel pour documenter le réel. L’image, lorsqu’elle est ancrée dans l’humain, constitue une ressource précieuse, tant pour les entreprises que pour les institutions. C’est pourquoi, l’UPP milite activement en faveur d’un engagement des pouvoirs publics et des acteurs privés pour soutenir les photographes professionnels.

Impact social et humain

Comment ne pas évoquer ici l’importance de la législation sur les retouches corporelles dans la publicité ? Alors qu’une cohorte entière de jeunes filles se laissaient mourir de faim pour ressembler aux modèles filiformes des publicités, l’obligation d’indiquer que les corps et les visages sont retouchés a été sinon salutaire du moins nécessaire pour rappeler que les images n’étaient pas toujours conformes à la réalité.

A l’heure où le services (téléphoniques ou internet) d’accueil, qu’ils soient commerciaux, administratifs ou mêmes sociaux remplacent les opérateurs humains par des chatbots, l’identification de la nature de l’interlocuteur est lourds d’enjeux de santé mentale et sociale.  Nous sommes en droit d’attendre de la transparence sur la capacité de l’interlocuteur à nous comprendre non seulement intellectuellement mais aussi empathiquement. L’expérience humaine ne peut être simulée sans pertes : le lien

3. Une responsabilité collective à construire

Les acteurs de l’IA portent volontiers un message en faveur de l’éducation à l’image, visant à faire reposer sur ses usagers la responsabilité de distinguer les contenus issus du réel et les contenus générés par les IA génératives. Il est bien entendu essentiel que tout un chacun garde et éduque son esprit critique face à l’affluence des contenus visuels de toute nature. Pour autant, cela ne peut pas dédouaner les acteurs de l’IA de leur responsabilité, ni exonérer les producteurs de contenus et les opérateurs technologiques de leur propre devoir de transparence, de traçabilité et de loyauté.

Ce nouvel outil doit être appréhendé et encadré juridiquement dans toutes ses composantes, et l’identification des contenus générés est une première étape

La réflexion sur l’intelligence artificielle appliquée à la création visuelle n’en est qu’à ses débuts. Les discussions entre les pouvoirs publics, les plateformes technologiques, les auteurs et les organismes de gestion collective doivent se poursuivre. L’UPP y participera avec détermination, pour défendre un cadre réglementaire à la fois protecteur pour les créateurs et porteur d’innovation éthique.