Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Cryoban]

Utiliser une IA pour redessiner derrière, ça reste du pillage, non ?

Non je ne pense pas. car le pillage d'une oeuvre consiste soit à la recopier de façon visible (palgiat) soit dans le cas de l'IA d'utiliser littéralement des morceaux d'autres oeuvres et de les reproduire afin de créer des choses dans le même style. Ce que l'IA ne pourrait pas faire sans les images originelles.
Lorsqu'un artiste repeint, il créé et transforme l'oeuvre, c'est plus que de la colarisation, et donc à moins que l'image soit reconnaissable/identique un original appartenant à quelqu'un, ça devient quelque chose de nouveau. L'IA n'a servi que d'intermédiaire d'inspiration, comme lorsqu'un dessinateur utilise des photos ou des images d'autrui pour à son tour créer son dessin.

[Rui]

Non je ne pense pas. car le pillage d'une oeuvre consiste soit à la recopier de façon visible (palgiat) soit dans le cas de l'IA d'utiliser littéralement des morceaux d'autres oeuvres et de les reproduire afin de créer des choses dans le même style. Ce que l'IA ne pourrait pas faire sans les images originelles.
Lorsqu'un artiste repeint, il créé et transforme l'oeuvre, c'est plus que de la colarisation, et donc à moins que l'image soit reconnaissable/identique un original appartenant à quelqu'un, ça devient quelque chose de nouveau. L'IA n'a servi que d'intermédiaire d'inspiration, comme lorsqu'un dessinateur utilise des photos ou des images d'autrui pour à son tour créer son dessin.

"soit dans le cas de l'IA d'utiliser littéralement des morceaux d'autres oeuvres et de les reproduire afin de créer des choses dans le même style"
On l'a dit plusieurs fois dans ce fil mais ce n'est pas comme ça que les IA de génération graphique fonctionnent
Elles n'utilisent pas des bouts d'images vue quelle travaille en nuage de reference.
Elle cherche a générer une image qui va être placer dans ce nuage (par comparaison de référence) pas en utilisant des morceaux d'images déjà existant pour amalgamer du contenus et produire un contenu.

[Jérôme Isnard]

Utiliser une IA pour redessiner derrière, ça reste du pillage, non ?

Non je ne pense pas. car le pillage d'une oeuvre consiste soit à la recopier de façon visible (palgiat) soit dans le cas de l'IA d'utiliser littéralement des morceaux d'autres oeuvres et de les reproduire afin de créer des choses dans le même style. Ce que l'IA ne pourrait pas faire sans les images originelles.
Lorsqu'un artiste repeint, il créé et transforme l'oeuvre, c'est plus que de la colarisation, et donc à moins que l'image soit reconnaissable/identique un original appartenant à quelqu'un, ça devient quelque chose de nouveau. L'IA n'a servi que d'intermédiaire d'inspiration, comme lorsqu'un dessinateur utilise des photos ou des images d'autrui pour à son tour créer son dessin.

Je rebondis ici, du coup

Alors, pour avoir vu pas mal bosser d'illustrateurs à la main, pour moi,  utiliser une illus IA comme base pour refaire une illus derrière à la main, c'est pas du pillage. (et si vous regardez BIEN les illus de Jose Cano et de Maud Chalmel pour Sous la Colline, la compo et le thème sont respectés, mais tout est redessiné, c'est pas du "décalquage", et on reconnait bien le style de chacun.)

Avant cela, les illustrateurs nous montraient souvent, voire nous demandaient à nous, commanditaires, des photomontages de référence (la version avancée du benchmarking).
Comme quand tu sais pas dessiner et que tu crées ta scène à partir de découpage de photos dans Géo et Paris Match.

Je mets un exemple en bas de page, un montage pour une commande Against the Darkmaster inaboutie (écran de jeu alternatif par Rolland Barthélémy, qui a eu des soucis et n'a pas pu honorer la commande). Je ne le connais pas personnellement mais je pense aussi que c'est comme ça que fonctionne le Grumph quand il est en mode illus "un peu réaliste" - dans Bloodlust Metal, notamment, on devine presque les photomontages d'origine sous-jacents, certains visages connus dans des poses tout aussi connues, etc).
Je travaille en ce moment avec Didier Graffet, et je me trompe peut-être mais ses premiers proto avaient également beaucoup de caractéristiques rappelant des photomontages préparatoires (même si c'est griffonné par-dessus pour montrer les points de personnalisation à prévoir par rapport au montage dans les versions ultérieures).

Donc "piller" des photos/dessins dans un magazine ou sur le net pour redessiner à partir d'eux, ou partir d'un "brouillon IA", dans les deux cas, pour moi, il n'y a pas pillage car le produit final est différent, et fait main (et ça, on peut encore en discuter, existe-t-il une différence morale entre le gars qui sort son pinceau et celui qui utilise un set de brush numériques ? Débat tranché depuis les années 2000, et a priori le "non" l'a emporté).
Ou alors, tout illustrateur qui fait un photomontage pour inspiration devrait reverser des droits aux photographes et aux illustrateurs qu'il a "pillés" en faisant ses collages.

Ludiquement. L'exemple de photomontage préparatoire dont je parlais :



 

[Killing Joke]

"Amusante" faille (qui, même si ici il s'agit d'un souci purement logiciel, fait un peu penser aux failles Spectre/Meltdown qui permettaient de récupérer des infos entre machines virtuelles (pourtant censément cloisonnées et) hébergées sur un même serveur ).

[haplo]

On dirait un triste débordement de tampon digne de sites de challenges pour apprendre la sécurité informatique, c'est chaud

[Altay]

Mouais. J'attends confirmation mais à première vue, ce n'est pas une faille logicielle. Si je devais faire une analyse à chaud, je pense que le fait de mettre une longue séquence de "aaaaaaa" réinitialise le contexte de la discussion dans un état très peu probable. Du coup, ChatGPT autocomplète avec une séquence peu cohérente et de faible probabilité de son corpus. En gros, on part d'un état « hors distribution » avec beaucoup d'entropie pour forcer le modèle à produire une séquence rare.

À voir si :

1. c'est répétable,
   
2. les séquences générées sont des vraies séquences du corpus d'entraînement,
   
3. et le cas échéant, si elles viennent du corpus d'échanges avec d'autres users de ChatGPT.
   

[Killing Joke]

Pfiou, on n'a pas fini de se faire pirater avec tout çà (dans la liste des dérives d'utilisation de ces technologies, ici "juste" du deep learning par apprentissage).
https://www.bleepingcomputer.com/news/s ... -accuracy/

A team of researchers from British universities has trained a deep learning model that can steal data from keyboard keystrokes recorded using a microphone with an accuracy of 95%.

When Zoom was used for training the sound classification algorithm, the prediction accuracy dropped to 93%, which is still dangerously high, and a record for that medium.

Such an attack severely affects the target's data security, as it could leak people's passwords, discussions, messages, or other sensitive information to malicious third parties.

[Altay]

Pfiou, on n'a pas fini de se faire pirater avec tout çà (dans la liste des dérives d'utilisation de ces technologies, ici "juste" du deep learning par apprentissage).
https://www.bleepingcomputer.com/news/s ... -accuracy/

A team of researchers from British universities has trained a deep learning model that can steal data from keyboard keystrokes recorded using a microphone with an accuracy of 95%.

When Zoom was used for training the sound classification algorithm, the prediction accuracy dropped to 93%, which is still dangerously high, and a record for that medium.

Such an attack severely affects the target's data security, as it could leak people's passwords, discussions, messages, or other sensitive information to malicious third parties.

L'article de recherche est assez douteux. Le protocole expérimental n'est pas vraiment représentatif d'une attaque en monde réel, je pense que les conclusions sont assez survendues. Ce genre d'attaque par side channel est connu depuis des années, il n'y a rien de vraiment nouveau à part « on a mis des réseaux de neurones » plutôt que du machine learning classique.

[Tosheros]

J'ai failli poster dans le topic D&D, mais vu le caractère potentiellement polémique j'ai préféré poster ici, mais une petite réflexion sur l'usage des IA pour améliorer des dessins et des esquisses émerge au vu de certaines illustrations du prochain livre de la gamme D&D5, Bigby presents : Glory of the Giants.
Les images avaient déclenché de polémiques au vu des mains et pieds étranges qui avaient fait tiquer, et l'artiste à expliqué son procédé.

Un résumé ici

A noter que ça tombe mal, vu que WotC à annoncé il y a peu faire un embargo sur les illustrations faites avec des intelligences artificielles.

[Orlov]

Vu. J'ai posté ça sur le fil création IA.
J'avais suivi la discussion sur rpg.net et ils avaient notamment pointé legions of Carcossa
pourquoi avoir utilisé stable diffusion .

Je suis pas du tout convaincu par l'argumentation et persiste à penser que pour atteindre le résultat voulu, des illustrateurs humains auraient sûrement fait mieux.
Mais il y a quand même ces garde-fous pour une utilisation "éthique" :

To recap then the rules I used for Legions of Carcosa AI images were:

Images that clearly resemble the work of a public domain artist are acceptable.
Images that clearly resemble the work of an in-copyright artist are not.
Broad influence is as acceptable in this new platform as it would be in any other creative pursuit.

Pour la version rpg net du débat sur le travail d'Ilya Shipkin
C'est ici.

[Cédric Ferrand]

Petit cas pratique au Québec.

Un éditeur a fait imprimer cette couverture :



Des gens ont trouvé la composition étrange, un détail leur a fait penser que l'image avait été générée par une IA.
Serez-vous l'identifier ?

Réponse

Spoiler:

La fille semble avoir trois jambes, l'angle de son genou droit ne colle pas avec la position du reste de la guibole.

Et effectivement, en y regardant de plus près, l'éditeur a vu que l'image qu'il avait achetée dans une banque d'images était affichée comme produite par une IA, il n'y avait pas menterie mais faute d'inattention.

[Sylvestre]

On dirait qu'Amazon a fait la promo de sa série télé Fallout en générant un visuel par IA bourré de petites erreurs :

https://kotaku.com/fallout-tv-amazon-ai ... 1850772308

[Cédric Ferrand]

J'ai regardé l'image sans rien voir de géant.
Puis en lisant l'article, j'ai bien sûr constaté les erreurs pointées.
C'est vicelard.

[Cryoban]

On dirait qu'Amazon a fait la promo de sa série télé Fallout en générant un visuel par IA bourré de petites erreurs :

https://kotaku.com/fallout-tv-amazon-ai ... 1850772308

Ce qui est vraiment triste, c'est de constater que même pour un produit qui va générer des flux d'argent énormes ( attention j'ai pas frocément dit des gains) , ils préfèrent recourir à une IA plutôt que de payer un illustrateur...Où alors l'illustrateur en question est le pire des fainénants, ce qui est aussi possible, car il y'a déjà eu quelques cas d'artistes signant des travaux créés avec une IA pour se faire payer des heures inexistantes. La médocrité de l'esprit humain...ça pas besoin d'IA pour l'anticiper.

[Harfang2]

On dirait qu'Amazon a fait la promo de sa série télé Fallout en générant un visuel par IA bourré de petites erreurs :

https://kotaku.com/fallout-tv-amazon-ai ... 1850772308

Ce qui est vraiment triste, c'est de constater que même pour un produit qui va générer des flux d'argent énormes ( attention j'ai pas frocément dit des gains) , ils préfèrent recourir à une IA plutôt que de payer un illustrateur...Où alors l'illustrateur en question est le pire des fainénants, ce qui est aussi possible, car il y'a déjà eu quelques cas d'artistes signant des travaux créés avec une IA pour se faire payer des heures inexistantes. La médocrité de l'esprit humain...ça pas besoin d'IA pour l'anticiper.

Ouais.
Et bien un autre métier devenu obsolète. Bonne chance aux illustrateurs.
In fine quand on voit la qualité, malgré les erreurs, de ces illustrations d'IA, pourquoi s'emmerder encore a passer des années à apprendre à dessiner et, pis encore, à croire qu'on puisse en vivre décemment.