Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Pour discuter sereinement de l'actualité
Avatar de l’utilisateur
Cryoban
Dieu de la carbonite
Messages : 13621
Inscription : mar. mars 29, 2011 9:25 pm
Localisation : Angers

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Cryoban »

Flippant à plusieurs niveaux...
Cthulhu Invictus: Limes Obscurus. Certaines forêts sont plus sombres que d'autres
Dark Operators, un hack du BRP pour Delta Green avec sa feuille de PJ. Du poulpe et des Forces Spéciales.
Un cadavre encombrant Un prologue alternatif à La Ville en Jaune
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 11667
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Qui Revient de Loin »

Harry Potter, Hunger Games : ChatGPT s'exerce en pillant des livres protégés
 
Des chercheurs ont découvert que les versions de ChatGPT avaient été entraînées sur des livres protégés par des droits d’auteur. Les résultats publiés démontrent clairement le recours à des œuvres protégées pour améliorer les capacités de l’IA. De quoi ouvrir grand les portes d’une plainte pour violation du copyright…
https://actualitte.com/article/111571/l ... s-proteges

Article source :Speak, Memory: An Archaeology of Books Known to ChatGPT/GPT-4
https://arxiv.org/abs/2305.00118
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Avatar de l’utilisateur
Kandjar
Envoyé de la Source
Messages : 10414
Inscription : sam. févr. 05, 2005 9:32 pm
Localisation : Petit mouroir tout gris entre l'Allemagne et la vie

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Kandjar »

Eh bien soit les IA n'auront jamais la créativité des humains pour inventer des œuvres originales et intéressantes, et ça n'a pas grande importance ; soit les IA auront un jour la capacité de créer des choses qui égalent ou surpassent les œuvres humaines et je suis impatient de découvrir ça.
Pour ma part je n'ai pas de plus grand lien de proximité avec Joan Rowling, Claude Debussy ou Steven Spielberg que je n'en ai avec GPT...
Dieu des mecs un peu trop naïfs
dK synergique for ever
ImageImageImageImageImageImage
Avatar de l’utilisateur
Cyrano
Dieu de la péninsule
Messages : 4363
Inscription : ven. févr. 15, 2008 7:40 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Cyrano »

Qui Revient de Loin a écrit : dim. mai 07, 2023 11:24 am Harry Potter, Hunger Games : ChatGPT s'exerce en pillant des livres protégés
 
Des chercheurs ont découvert que les versions de ChatGPT avaient été entraînées sur des livres protégés par des droits d’auteur. Les résultats publiés démontrent clairement le recours à des œuvres protégées pour améliorer les capacités de l’IA. De quoi ouvrir grand les portes d’une plainte pour violation du copyright…
https://actualitte.com/article/111571/l ... s-proteges

Article source :Speak, Memory: An Archaeology of Books Known to ChatGPT/GPT-4
https://arxiv.org/abs/2305.00118
Si l'IA ne manque pas de poser des questions éthiques, j'avoue que j'ai du mal à comprendre en quoi une IA apprenant en analysant des oeuvres sous copyright est moins légal qu'un jeune écrivain lisant ces mêmes oeuvres et étant naturellement inspiré par celle-ci.
La violence est le dernier refuge de l'incompétence (Isaac Asimov, Fondation)
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 11667
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Qui Revient de Loin »

De ce que j'ai cru comprendre, c'est une question de sujet de droit : l'écrivain a des droits en tant que personne juridique, pas l'IA, en tant que "objet".

On a eu cette discussion ici, moi aussi j'ai du mal à bien comprendre.
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Avatar de l’utilisateur
Tybalt (le retour)
Dieu d'après le panthéon
Messages : 8516
Inscription : mer. août 22, 2012 7:33 pm
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Tybalt (le retour) »

J'ajoute que les mécanismes grâce auxquels une IA génère du texte n'ont rien à voir avec les mécanismes de l'inspiration humaine.

Et accessoirement, un être humain qui écrit s'inspire certes de ce qu'il a lu, mais aussi d'énormément d'autres choses.
Mes sites : Kosmos (un jdra sur la mythologie grecque qui a lu les auteurs antiques pour vous) ; blog de lectures ; site d'écriture.
Disclameur : j'ai écrit pour "Casus" et "Jdr Mag".
Avatar de l’utilisateur
rogre
RDieu
Messages : 5838
Inscription : jeu. déc. 06, 2007 12:53 pm
Localisation : Lyon 6è

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par rogre »

Qui Revient de Loin a écrit : dim. mai 07, 2023 11:24 am Harry Potter, Hunger Games : ChatGPT s'exerce en pillant des livres protégés
So what: elle a réponse à tout. Signé: "Chat".

 Le fait qu'une intelligence artificielle s'inspire de livres existants et publiés pour composer des textes peut-il être considéré comme du plagiat? 

L'utilisation d'une intelligence artificielle pour s'inspirer de livres existants et publiés afin de composer des textes soulève des questions intéressantes en matière de propriété intellectuelle et de droit d'auteur.
 En général, le plagiat est considéré comme le fait de copier le travail de quelqu'un d'autre sans attribution appropriée. Cependant, dans le cas d'une intelligence artificielle qui s'inspire de livres existants, la question de savoir si cela constitue du plagiat dépendra en grande partie de la manière dont l'IA est programmée et de la façon dont elle utilise les informations qu'elle a extraites.
 Si l'IA est programmée pour simplement copier et coller des passages de livres existants sans donner d'attribution appropriée, alors cela pourrait être considéré comme du plagiat. Cependant, si l'IA est programmée pour s'inspirer des livres existants tout en créant quelque chose de nouveau et original, alors cela ne serait pas considéré comme du plagiat.
La bêtise de surface est plus superficielle que la bêtise des profondeurs. Mais en même temps, elle est moins profonde. C'est le fameux "en même temps". (Goossens)
Avatar de l’utilisateur
Altay
Ascendant
Messages : 1518
Inscription : sam. mai 07, 2016 12:04 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Altay »

rogre a écrit : dim. mai 07, 2023 4:58 pm Si l'IA est programmée pour simplement copier et coller des passages de livres existants sans donner d'attribution appropriée, alors cela pourrait être considéré comme du plagiat. Cependant, si l'IA est programmée pour s'inspirer des livres existants tout en créant quelque chose de nouveau et original, alors cela ne serait pas considéré comme du plagiat.

Et actuellement, on est dans le premier cas.
Avatar de l’utilisateur
Nolendur
Dieu matters
Messages : 4900
Inscription : mar. mai 20, 2008 3:51 pm
Localisation : Bordeaux
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Nolendur »

Altay a écrit : dim. mai 07, 2023 10:03 pm
rogre a écrit : dim. mai 07, 2023 4:58 pm Si l'IA est programmée pour simplement copier et coller des passages de livres existants sans donner d'attribution appropriée, alors cela pourrait être considéré comme du plagiat. Cependant, si l'IA est programmée pour s'inspirer des livres existants tout en créant quelque chose de nouveau et original, alors cela ne serait pas considéré comme du plagiat.

Et actuellement, on est dans le premier cas.

Non, l'IA ne copie-colle rien du tout. Elle étudie des tetrazillions de textes pour apprendre les relations statistiques entre les mots. Elle apprend quel mot a le plus de chance de se retrouver après tel autre*.

Je ne dis pas qu'il ne faut pas s'en méfier, que ce n'est pas un problème. Mais le combat n'est pas du côté des droits d'auteur ou du copyright, c'est un non-sens. Notamment parce que l'IA n'est pas quelqu'un, elle ne peut pas enfreindre ces droits. Au pire il faudrait se demander si les ingénieurs qui fabriquent ces IA ont le droit d'acheter un bouquin et de s'en servir pour étudier les relations statistiques entre les mots qu'il contient. Avant l'émergence de ce type d'IA, c'était une non-question, la plupart des auteurs n'y auraient vu aucun soucis. Et avant cet émergence toujours, je doute qu'un expert en loi ait réellement pu considérer que faire étudier les relations entre les mots d'un texte pour apprendre comment ils s'enchainent ait un quelconque rapport avec une violation des droits d'auteur ou du copyright. Et à mon avis, utiliser ce que l'IA a appris des fréquences de relations entre les mots, est aussi assez difficile à faire passer pour une violation des droits, même si ça doit être plus facile que l'aspect apprentissage.

Non, si combat il doit y avoir, c'est au niveau des conséquences de l'utilisation des IA. Voir ce que leur utilisation est susceptible de causer comme dégâts pour les prévenir, protéger des professions, protéger les gens. Peu importe que le copyright soit violé ou pas (à mon avis il ne l'est pas, là est le problème), ce qui compte c'est comment on veut que notre société soit, quels types d'activités humaines on veut conserver, protéger, etc. Plutôt que d'étendre les droits intellectuels avec des critère bancals, difficiles à défendre et faciles à attaquer (ou qui vont encore créer ces situations ubuesques où on s'arroge le droit de posséder de plus en plus d'idées, concepts, connaissances au détriment du bien commun), il vaut mieux créer de nouveaux droits et de nouvelles interdictions, des mesures qui répondent à des problèmes précis et honnêtement identifiés. Comme par exemple (je vais probablement dire des bêtises, je donne juste le premier exemple qui me passe par la tête pour illustrer le type de réflexion à mener), interdire l'utilisation commerciale de quoi que ce soit produit par une IA, en inventant un principe de protection du patrimoine d'origine humaine.

* oui, c'est plus compliqué que ça, mais c'est l'idée générale.
Petits jeux et bricolages : jeux perso et aides de jeu.
_____
The presence of those seeking the truth is infinitely to be preferred to the presence of those who think they’ve found it.
-- Terry Pratchett
Croyez ceux qui cherchent la vérité, doutez de ceux qui la trouvent.
-- André Gide
Avatar de l’utilisateur
Altay
Ascendant
Messages : 1518
Inscription : sam. mai 07, 2016 12:04 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Altay »

Nolendur a écrit : lun. mai 08, 2023 1:30 pm Non, l'IA ne copie-colle rien du tout. Elle étudie des tetrazillions de textes pour apprendre les relations statistiques entre les mots. Elle apprend quel mot a le plus de chance de se retrouver après tel autre*.

Je sais assez bien comment ça fonctionne oui. Le fonctionnement que tu décris pousse justement au copier-coller, puisque c'est comme ça que les modèles sont entraînés : apprendre à reproduire des textes, mot par mot. Donc ce n'est pas littéralement du copier-coller mais ce n'est pas du tout un remix ou une « inspiration » comme on peut le lire ici et là. Des deux fonctionnements que décrivait @rogre, je soulignais que c'est bien le premier qui est la façon la plus honnête de décrire comment les modèles de langues autorégressifs comme GPT ou LLaMA.
Avatar de l’utilisateur
Tybalt (le retour)
Dieu d'après le panthéon
Messages : 8516
Inscription : mer. août 22, 2012 7:33 pm
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Tybalt (le retour) »

Nolendur a écrit : lun. mai 08, 2023 1:30 pmJe ne dis pas qu'il ne faut pas s'en méfier, que ce n'est pas un problème. Mais le combat n'est pas du côté des droits d'auteur ou du copyright, c'est un non-sens. Notamment parce que l'IA n'est pas quelqu'un, elle ne peut pas enfreindre ces droits.

Je ne crois pas qu'il ait jamais été question de faire condamner un programme informatique en justice. Le soupçon se porte plutôt sur leurs concepteurs et sur leurs utilisateurs :)

Nolendur a écrit : lun. mai 08, 2023 1:30 pmAu pire il faudrait se demander si les ingénieurs qui fabriquent ces IA ont le droit d'acheter un bouquin et de s'en servir pour étudier les relations statistiques entre les mots qu'il contient. Avant l'émergence de ce type d'IA, c'était une non-question, la plupart des auteurs n'y auraient vu aucun soucis.

Les études statistiques fondées sur des textes littéraires hors du domaine public sont un type d'étude qui s'est développé il y a bien 50 ans dans les études littéraires, portées par une branche du structuralisme. Ce type d'étude a donné lieu à d'autres genres de controverses, des questions qui pourraient bien se reposer maintenant, par exemple : "peut-on réduire le style d'un auteur à des tendances statistiques dans l'assemblage des mots ?" Il y a dix ans la question aurait fait bâiller pas mal de gens, mais, maintenant que les programmes comme ChatGPT existent, elle redevient d'actualité.

Mais, pour en rester à la question de l'utilisation des textes, la question ne se posait pas parce que les études en question n'étaient menées que dans le cadre de la recherche (ou de la pédagogie, à la limite). Lorsqu'il s'agit d'une utilisation commerciale, c'est une tout autre affaire. Et pour autant que je puisse en juger, exploiter de cette manière un texte qu'on n'a pas acheté est illégal. Tout comme l'utilisation d'images hors domaine public par les IA génératrices d'images a de fortes chances d'être illégale.

À mon sens, c'est un peu comme si quelqu'un s'autorisait à faire des samples en utilisant l'ensemble d'un morceau de musique au lieu de s'en tenir aux limites du droit de citation.

Nolendur a écrit : lun. mai 08, 2023 1:30 pmEt avant cet émergence toujours, je doute qu'un expert en loi ait réellement pu considérer que faire étudier les relations entre les mots d'un texte pour apprendre comment ils s'enchainent ait un quelconque rapport avec une violation des droits d'auteur ou du copyright. Et à mon avis, utiliser ce que l'IA a appris des fréquences de relations entre les mots, est aussi assez difficile à faire passer pour une violation des droits, même si ça doit être plus facile que l'aspect apprentissage.

De toute évidence, cela peut au moins être le cas pour certains mots de commande, si l'utilisateur demande à l'IA de produire une imitation du style d'un artiste.

Nolendur a écrit : lun. mai 08, 2023 1:30 pmNon, si combat il doit y avoir, c'est au niveau des conséquences de l'utilisation des IA.

Je suis d'accord avec tout ce que tu dis ensuite. Mais ce combat n'exclut pas les autres :)
Mes sites : Kosmos (un jdra sur la mythologie grecque qui a lu les auteurs antiques pour vous) ; blog de lectures ; site d'écriture.
Disclameur : j'ai écrit pour "Casus" et "Jdr Mag".
Avatar de l’utilisateur
Altay
Ascendant
Messages : 1518
Inscription : sam. mai 07, 2016 12:04 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Altay »

Tybalt (le retour) a écrit : lun. mai 08, 2023 9:38 pm Les études statistiques fondées sur des textes littéraires hors du domaine public sont un type d'étude qui s'est développé il y a bien 50 ans dans les études littéraires, portées par une branche du structuralisme. Ce type d'étude a donné lieu à d'autres genres de controverses, des questions qui pourraient bien se reposer maintenant, par exemple : "peut-on réduire le style d'un auteur à des tendances statistiques dans l'assemblage des mots ?" Il y a dix ans la question aurait fait bâiller pas mal de gens, mais, maintenant que les programmes comme ChatGPT existent, elle redevient d'actualité.

Un petit détail juridique : accéder à des corpus (de textes, de musiques, de vidéos) soumis à la propriété intellectuelle est généralement autorisé dans ce cadre pour la recherche. À des fins universitaires ou scientifiques, il est possible et légal d'entraîner des modèles (d'analyse ou de génération) sur des données sans nécessairement avoir l'accord des ayants-droits. Certaines entreprises comme Facebook, Google ou OpenAI ont tendance à flirter avec cette limite, en publiant des modèles entraînés sur ces données « pour la recherche », sans que l'on sache trop ce qui se retrouve in fine en production. En théorie, l'usage commercial de ces modèles est interdit, mais c'est difficile à vérifier. En tout cas, pour l'avoir constaté personnellement, le respect des licences d'usage des jeux de données est une non-question en entreprise, sur le mode « pas vu pas pris ».
Avatar de l’utilisateur
cdang
Dieu d'après le panthéon
Messages : 4638
Inscription : jeu. avr. 30, 2015 10:23 am
Localisation : Le Havre (Choisy-le-Roi, Saint-Étienne, La Rochelle)

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par cdang »

ChatGPT a écrit :[Plagiat] Cependant, dans le cas d'une intelligence artificielle qui s'inspire de livres existants, la question de savoir si cela constitue du plagiat dépendra en grande partie de la manière dont l'IA est programmée et de la façon dont elle utilise les informations qu'elle a extraites.
J'aimerais bien avoir un vrai avis juridique parce qu'il me semble que les tribunaux* jugent en général le résultat (l'œuvre contestée et sa proximité avec l'œuvre précédente) que la manière dont ça a été créé.

* du moins français et étatsuniens, puisque c'est en général ces affaires-là qui sortent dans les médias à ma portée

Tybalt (le retour) a écrit : lun. mai 08, 2023 9:38 pm Je ne crois pas qu'il ait jamais été question de faire condamner un programme informatique en justice. Le soupçon se porte plutôt sur leurs concepteurs et sur leurs utilisateurs :)
En fait, le droit de la propriété intellectuelle ne s'intéresse qu'à ce qui est diffusé, publié. Dans la diffusion et la publication, il y a bien une personne, morale ou physique, qui est impliquée. Tu fais une requête à une IA GPT, c'est ta vie privée. Tu en diffuses le résultat, la justice peut avoir un œil dessus.
--
Vous êtes mort
Rosco
Dieu d'après le panthéon
Messages : 6742
Inscription : dim. avr. 30, 2017 10:23 am

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Rosco »

On rgiole mais dans la serie Miss Huck, Kevin Feige est un robot avec une IA chargé d'étudier et d'analyser les production Marvel afin de trouver le scénario parfait 
Comment Marvel a accepté ce final de She-Hulk tellement "méta" | Premiere.fr
Image
Gork est « brutal mè ruzé » et son frère Mork est « ruzé mè brutal »
Avatar de l’utilisateur
glamourous.sam
Ascendant
Messages : 1608
Inscription : lun. janv. 27, 2014 5:14 pm
Localisation : Paris 10

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par glamourous.sam »

Hop, les 34 métiers les moins susceptibles d'être remplacés par l'IA

Bon, l'article est sacrément bidon dans les métiers mais on peut en tirer une tendance qu'il y a peu de métiers "intellectuels" dans la liste.
Répondre