Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Cryoban]

Flippant à plusieurs niveaux...

[Qui Revient de Loin]

Harry Potter, Hunger Games : ChatGPT s'exerce en pillant des livres protégés
 

Des chercheurs ont découvert que les versions de ChatGPT avaient été entraînées sur des livres protégés par des droits d’auteur. Les résultats publiés démontrent clairement le recours à des œuvres protégées pour améliorer les capacités de l’IA. De quoi ouvrir grand les portes d’une plainte pour violation du copyright…

https://actualitte.com/article/111571/l ... s-proteges

Article source :Speak, Memory: An Archaeology of Books Known to ChatGPT/GPT-4
https://arxiv.org/abs/2305.00118

[Kandjar]

Eh bien soit les IA n'auront jamais la créativité des humains pour inventer des œuvres originales et intéressantes, et ça n'a pas grande importance ; soit les IA auront un jour la capacité de créer des choses qui égalent ou surpassent les œuvres humaines et je suis impatient de découvrir ça.
Pour ma part je n'ai pas de plus grand lien de proximité avec Joan Rowling, Claude Debussy ou Steven Spielberg que je n'en ai avec GPT...

[Cyrano]

Harry Potter, Hunger Games : ChatGPT s'exerce en pillant des livres protégés
 

Des chercheurs ont découvert que les versions de ChatGPT avaient été entraînées sur des livres protégés par des droits d’auteur. Les résultats publiés démontrent clairement le recours à des œuvres protégées pour améliorer les capacités de l’IA. De quoi ouvrir grand les portes d’une plainte pour violation du copyright…

https://actualitte.com/article/111571/l ... s-proteges

Article source :Speak, Memory: An Archaeology of Books Known to ChatGPT/GPT-4
https://arxiv.org/abs/2305.00118

Si l'IA ne manque pas de poser des questions éthiques, j'avoue que j'ai du mal à comprendre en quoi une IA apprenant en analysant des oeuvres sous copyright est moins légal qu'un jeune écrivain lisant ces mêmes oeuvres et étant naturellement inspiré par celle-ci.

[Qui Revient de Loin]

De ce que j'ai cru comprendre, c'est une question de sujet de droit : l'écrivain a des droits en tant que personne juridique, pas l'IA, en tant que "objet".

On a eu cette discussion ici, moi aussi j'ai du mal à bien comprendre.

[Tybalt (le retour)]

J'ajoute que les mécanismes grâce auxquels une IA génère du texte n'ont rien à voir avec les mécanismes de l'inspiration humaine.

Et accessoirement, un être humain qui écrit s'inspire certes de ce qu'il a lu, mais aussi d'énormément d'autres choses.

[rogre]

Harry Potter, Hunger Games : ChatGPT s'exerce en pillant des livres protégés

So what: elle a réponse à tout. Signé: "Chat".

 Le fait qu'une intelligence artificielle s'inspire de livres existants et publiés pour composer des textes peut-il être considéré comme du plagiat? 

L'utilisation d'une intelligence artificielle pour s'inspirer de livres existants et publiés afin de composer des textes soulève des questions intéressantes en matière de propriété intellectuelle et de droit d'auteur.
 En général, le plagiat est considéré comme le fait de copier le travail de quelqu'un d'autre sans attribution appropriée. Cependant, dans le cas d'une intelligence artificielle qui s'inspire de livres existants, la question de savoir si cela constitue du plagiat dépendra en grande partie de la manière dont l'IA est programmée et de la façon dont elle utilise les informations qu'elle a extraites.
 Si l'IA est programmée pour simplement copier et coller des passages de livres existants sans donner d'attribution appropriée, alors cela pourrait être considéré comme du plagiat. Cependant, si l'IA est programmée pour s'inspirer des livres existants tout en créant quelque chose de nouveau et original, alors cela ne serait pas considéré comme du plagiat.

[Altay]

Si l'IA est programmée pour simplement copier et coller des passages de livres existants sans donner d'attribution appropriée, alors cela pourrait être considéré comme du plagiat. Cependant, si l'IA est programmée pour s'inspirer des livres existants tout en créant quelque chose de nouveau et original, alors cela ne serait pas considéré comme du plagiat.

Et actuellement, on est dans le premier cas.

[Nolendur]

Si l'IA est programmée pour simplement copier et coller des passages de livres existants sans donner d'attribution appropriée, alors cela pourrait être considéré comme du plagiat. Cependant, si l'IA est programmée pour s'inspirer des livres existants tout en créant quelque chose de nouveau et original, alors cela ne serait pas considéré comme du plagiat.

Et actuellement, on est dans le premier cas.

Non, l'IA ne copie-colle rien du tout. Elle étudie des tetrazillions de textes pour apprendre les relations statistiques entre les mots. Elle apprend quel mot a le plus de chance de se retrouver après tel autre*.

Je ne dis pas qu'il ne faut pas s'en méfier, que ce n'est pas un problème. Mais le combat n'est pas du côté des droits d'auteur ou du copyright, c'est un non-sens. Notamment parce que l'IA n'est pas quelqu'un, elle ne peut pas enfreindre ces droits. Au pire il faudrait se demander si les ingénieurs qui fabriquent ces IA ont le droit d'acheter un bouquin et de s'en servir pour étudier les relations statistiques entre les mots qu'il contient. Avant l'émergence de ce type d'IA, c'était une non-question, la plupart des auteurs n'y auraient vu aucun soucis. Et avant cet émergence toujours, je doute qu'un expert en loi ait réellement pu considérer que faire étudier les relations entre les mots d'un texte pour apprendre comment ils s'enchainent ait un quelconque rapport avec une violation des droits d'auteur ou du copyright. Et à mon avis, utiliser ce que l'IA a appris des fréquences de relations entre les mots, est aussi assez difficile à faire passer pour une violation des droits, même si ça doit être plus facile que l'aspect apprentissage.

Non, si combat il doit y avoir, c'est au niveau des conséquences de l'utilisation des IA. Voir ce que leur utilisation est susceptible de causer comme dégâts pour les prévenir, protéger des professions, protéger les gens. Peu importe que le copyright soit violé ou pas (à mon avis il ne l'est pas, là est le problème), ce qui compte c'est comment on veut que notre société soit, quels types d'activités humaines on veut conserver, protéger, etc. Plutôt que d'étendre les droits intellectuels avec des critère bancals, difficiles à défendre et faciles à attaquer (ou qui vont encore créer ces situations ubuesques où on s'arroge le droit de posséder de plus en plus d'idées, concepts, connaissances au détriment du bien commun), il vaut mieux créer de nouveaux droits et de nouvelles interdictions, des mesures qui répondent à des problèmes précis et honnêtement identifiés. Comme par exemple (je vais probablement dire des bêtises, je donne juste le premier exemple qui me passe par la tête pour illustrer le type de réflexion à mener), interdire l'utilisation commerciale de quoi que ce soit produit par une IA, en inventant un principe de protection du patrimoine d'origine humaine.

* oui, c'est plus compliqué que ça, mais c'est l'idée générale.

[Altay]

Non, l'IA ne copie-colle rien du tout. Elle étudie des tetrazillions de textes pour apprendre les relations statistiques entre les mots. Elle apprend quel mot a le plus de chance de se retrouver après tel autre*.

Je sais assez bien comment ça fonctionne oui. Le fonctionnement que tu décris pousse justement au copier-coller, puisque c'est comme ça que les modèles sont entraînés : apprendre à reproduire des textes, mot par mot. Donc ce n'est pas littéralement du copier-coller mais ce n'est pas du tout un remix ou une « inspiration » comme on peut le lire ici et là. Des deux fonctionnements que décrivait @rogre, je soulignais que c'est bien le premier qui est la façon la plus honnête de décrire comment les modèles de langues autorégressifs comme GPT ou LLaMA.

[Tybalt (le retour)]

Je ne dis pas qu'il ne faut pas s'en méfier, que ce n'est pas un problème. Mais le combat n'est pas du côté des droits d'auteur ou du copyright, c'est un non-sens. Notamment parce que l'IA n'est pas quelqu'un, elle ne peut pas enfreindre ces droits.

Je ne crois pas qu'il ait jamais été question de faire condamner un programme informatique en justice. Le soupçon se porte plutôt sur leurs concepteurs et sur leurs utilisateurs

Au pire il faudrait se demander si les ingénieurs qui fabriquent ces IA ont le droit d'acheter un bouquin et de s'en servir pour étudier les relations statistiques entre les mots qu'il contient. Avant l'émergence de ce type d'IA, c'était une non-question, la plupart des auteurs n'y auraient vu aucun soucis.

Les études statistiques fondées sur des textes littéraires hors du domaine public sont un type d'étude qui s'est développé il y a bien 50 ans dans les études littéraires, portées par une branche du structuralisme. Ce type d'étude a donné lieu à d'autres genres de controverses, des questions qui pourraient bien se reposer maintenant, par exemple : "peut-on réduire le style d'un auteur à des tendances statistiques dans l'assemblage des mots ?" Il y a dix ans la question aurait fait bâiller pas mal de gens, mais, maintenant que les programmes comme ChatGPT existent, elle redevient d'actualité.

Mais, pour en rester à la question de l'utilisation des textes, la question ne se posait pas parce que les études en question n'étaient menées que dans le cadre de la recherche (ou de la pédagogie, à la limite). Lorsqu'il s'agit d'une utilisation commerciale, c'est une tout autre affaire. Et pour autant que je puisse en juger, exploiter de cette manière un texte qu'on n'a pas acheté est illégal. Tout comme l'utilisation d'images hors domaine public par les IA génératrices d'images a de fortes chances d'être illégale.

À mon sens, c'est un peu comme si quelqu'un s'autorisait à faire des samples en utilisant l'ensemble d'un morceau de musique au lieu de s'en tenir aux limites du droit de citation.

Et avant cet émergence toujours, je doute qu'un expert en loi ait réellement pu considérer que faire étudier les relations entre les mots d'un texte pour apprendre comment ils s'enchainent ait un quelconque rapport avec une violation des droits d'auteur ou du copyright. Et à mon avis, utiliser ce que l'IA a appris des fréquences de relations entre les mots, est aussi assez difficile à faire passer pour une violation des droits, même si ça doit être plus facile que l'aspect apprentissage.

De toute évidence, cela peut au moins être le cas pour certains mots de commande, si l'utilisateur demande à l'IA de produire une imitation du style d'un artiste.

Non, si combat il doit y avoir, c'est au niveau des conséquences de l'utilisation des IA.

Je suis d'accord avec tout ce que tu dis ensuite. Mais ce combat n'exclut pas les autres

[Altay]

Les études statistiques fondées sur des textes littéraires hors du domaine public sont un type d'étude qui s'est développé il y a bien 50 ans dans les études littéraires, portées par une branche du structuralisme. Ce type d'étude a donné lieu à d'autres genres de controverses, des questions qui pourraient bien se reposer maintenant, par exemple : "peut-on réduire le style d'un auteur à des tendances statistiques dans l'assemblage des mots ?" Il y a dix ans la question aurait fait bâiller pas mal de gens, mais, maintenant que les programmes comme ChatGPT existent, elle redevient d'actualité.

Un petit détail juridique : accéder à des corpus (de textes, de musiques, de vidéos) soumis à la propriété intellectuelle est généralement autorisé dans ce cadre pour la recherche. À des fins universitaires ou scientifiques, il est possible et légal d'entraîner des modèles (d'analyse ou de génération) sur des données sans nécessairement avoir l'accord des ayants-droits. Certaines entreprises comme Facebook, Google ou OpenAI ont tendance à flirter avec cette limite, en publiant des modèles entraînés sur ces données « pour la recherche », sans que l'on sache trop ce qui se retrouve in fine en production. En théorie, l'usage commercial de ces modèles est interdit, mais c'est difficile à vérifier. En tout cas, pour l'avoir constaté personnellement, le respect des licences d'usage des jeux de données est une non-question en entreprise, sur le mode « pas vu pas pris ».

[cdang]

[Plagiat] Cependant, dans le cas d'une intelligence artificielle qui s'inspire de livres existants, la question de savoir si cela constitue du plagiat dépendra en grande partie de la manière dont l'IA est programmée et de la façon dont elle utilise les informations qu'elle a extraites.

J'aimerais bien avoir un vrai avis juridique parce qu'il me semble que les tribunaux* jugent en général le résultat (l'œuvre contestée et sa proximité avec l'œuvre précédente) que la manière dont ça a été créé.

* du moins français et étatsuniens, puisque c'est en général ces affaires-là qui sortent dans les médias à ma portée

Je ne crois pas qu'il ait jamais été question de faire condamner un programme informatique en justice. Le soupçon se porte plutôt sur leurs concepteurs et sur leurs utilisateurs

En fait, le droit de la propriété intellectuelle ne s'intéresse qu'à ce qui est diffusé, publié. Dans la diffusion et la publication, il y a bien une personne, morale ou physique, qui est impliquée. Tu fais une requête à une IA GPT, c'est ta vie privée. Tu en diffuses le résultat, la justice peut avoir un œil dessus.

[Rosco]

On rgiole mais dans la serie Miss Huck, Kevin Feige est un robot avec une IA chargé d'étudier et d'analyser les production Marvel afin de trouver le scénario parfait 
Comment Marvel a accepté ce final de She-Hulk tellement "méta" | Premiere.fr

[glamourous.sam]

Hop, les 34 métiers les moins susceptibles d'être remplacés par l'IA

Bon, l'article est sacrément bidon dans les métiers mais on peut en tirer une tendance qu'il y a peu de métiers "intellectuels" dans la liste.