Les entreprises d'IA résistent à la transparence sur leurs ressources d'apprentissage
AI développeurs devront réveler les données d'entraînement utilisées par leurs IA, d'après l'« Acte européen sur l'IA » du EU. La Commission européenne veut protéger les droits des artistes, mais beaucoup d'entreprises sont réticentes à s'y conformer.
Matthieu Riouf, PDG de Photoroom, une entreprise logicielle offrant une édition d'images aidée par l'IA, compare le secret autour des données AI à une recette de cuisine. "C'est comme la cuisine," dit-il. "Il y a une partie de la recette que les meilleurs cuisiniers ne révèlent pas : l'« je ne sais quoi », ce qui fait la différence."
L'« Acte européen sur l'IA » oblige les développeurs d'IA à rendre accessible leurs données d'entraînement aux vérifications extérieures. La loi exige également des développeurs de fournir un résumé détaillé des données utilisées pour l'entraînement. Cependant, les spécificités de ces rapports restent floues.
L'administration européenne de l'IA prévoit de publier des directives pour ces rapports à partir de début 2025, suivant des discussions avec les parties intéressées. Les entreprises s'y opposent, affirmant que leurs concurrents pourraient obtenir un avantage. La Commission européenne reconnaît la nécessité pour les développeurs d'IA de garder le secret des affaires, mais cette loi autorise également les fournisseurs de contenu à prendre des actions judiciaires contre les entreprises utilisant leur travail sans permission.
Fonctionnement sur de vastes bases de données
Depuis le lancement de ChatGPT environ un an et demi, les IA génératives ont fait la une des informations. Ces programmes peuvent générer du texte, des images ou des fichiers audio d'après des instructions minimales. Ils fonctionnent sur de vastes bases de données, qui sont probablement contenues du contenu internet.
Les développeurs d'IA ont été poursuivis en justice par des auteurs, musiciens ou réalisateurs pour violation de droits d'auteur, car leur travail n'avait pas été autorisé pour l'entraînement de l'IA. Des inquiétudes ont également été levées à propos de Meta qui utiliserait du contenu et des données personnelles de Facebook et Instagram à cette fin.
OpenAI a retiré la sortie de parole pour la dernière variante de ChatGPT en raison du protest de l'actrice Scarlett Johansson, qui disait que la « voix "Sky" » sonnait trop semblable à la sienne. Elle avait précédemment refusé une offre de la société pour prêter sa voix à « Sky ».
OpenAI a également été critiqué pour la réfusal de sa PDG Mira Murati de confirmer dans une interview de journal que la nouvelle IA vidéo "Sora" avait été entraînée à l'aide de vidéos YouTube. YouTube affirme que cela violerait leurs termes d'affaires.
Innovation avant réglementation
Pour prévenir de nouveaux procès de droit d'auteur et soulager la pression politique grandissante, plusieurs sociétés de technologie ont conclu des conventions de licence avec des éditeurs, labels musicaux, plates-formes en ligne et diffuseurs de télévision ces derniers mois. Cependant, ces engagements auto-imposés n'ont pas suffisés, d'après le parlement européen Dragos Tudorache, qui a joué un rôle significatif dans l'« Acte européen sur l'IA ».
Les rapports de transparence sont des instruments de contrôle obligatoires, dit Tudorache. "Ils doivent être suffisamment détaillés pour que Scarlett Johansson, Beyoncé ou qui que ce soit sachent si leur travail, leurs chansons, leur voix, leur art ou leur science ont été utilisés dans l'entraînement de l'algorithme."
Le gouvernement français avertit contre une réglementation excessive, craignant que l'Europe perd toucher avec la technologie AI futuriste. "L'Europe doit enfin comprendre qu'il faut d'abord créer des innovations avant de réglementer," a déclaré le ministre des Finances français Bruno Le Maire à la Conférence Viva Technology à Paris en mai. "Sinon, il y a un risque de réglementer des technologies que nous ne maîtrisons pas, ou de les réglementer mal parce que nous ne les maîtrisons pas."
