Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Kandjar]

Ah mais la discussion sur le fond est très ouverte, c'est bien pour ça qu'il existe un fil dédié, et les questions écologiques et éthiques sont de vrais sujets, régulièrement abordés.
Ce dont on ne peut pas se rendre compte quand on vient plus pour éructer que pour participer à une discussion (de chats bourgeois).

[OSR]

Qui a eu l'idée d'envoyer un T400 à l'ONU..sérieux les gars!

un ED-209 c'était plus risqué..

[Saladdin]

Terminator chez les chats...

En Australie, quinze robots-tueurs vont être employés pour exterminer des millions de chats.

[Rui]

Mais enfin bref, sur le cas précis de l'impact énergétique et éthique il a raison. ChatGPT, midjourney, stable diffusion etc demande énormément d'énergie pour résoudre les demandes.

Non il a pas raison dans l'absolue. Il lève un point important qui peut être vrai mais qui est pour le moment compliqué à évaluer. Il faut voir sur le long terme et par rapport à ce qui sera généré via les IA dans le futur et le temps économisé pour les résultats apporté. Bien évidement que aujourd'hui avec l'apprentissage des IA le ratio coût de l'energie utilisé par rapport au service rendu est en défaveur. Par contre a part à avoir une boule de crystal impossible de savoir si ce coût serat toujours aussi important dans le futur, si les infrastructures ne s'améliore pas etc...

Et les résultats ne sont possibles que via l'utilisation non consentie par leurs auteurs de milliards d'images et de textes. Ça a été vu, revu, admis même. Voir l'interview du ceo de Stable Diffusion qui disait franco qu'on ne pouvait pas respecter le droit des copyright à cette échelle, en tout cas pour les arts visuels car ils respectent fort les droits des musiciens dont les avocats sont habitués à défendre leurs droits.

Je veux bien avoir l'interview en question.
Et encore une fois le problème éthique n'est pas aussi évident que ça et nécessiterai de trancher légalement car le processus est celui de l'humain sur l'apprentissage. Le problème étique est plutôt dans l'utilisation qui sera fait des travails des IA (devoir l'indiqué par exemple) ainsi que le dégât sociale que sa risque d'engendré.

Il y a aux États-Unis actuellement plusieurs poursuites judiciaires contre différents générateurs d'images. Des poursuites entreprises par des compagnies (comme Getty) ou des individus artistes et écrivains via des class-actions. J

C'est des problèmes légaux par ce qu'il n'y a pas de cadre légale aujourd'hui autour de tout ceci. Ce n'est que quand tu as appropriation et exploitation directe que la lois à déjà son armement juridique.

Je ne parle même pas des deep-fakes, les voix d'acteurs ou de personnalités publiques clonés, ou des arnaques aux kidnappings où des voix d'enfants sont clonés pour faire croire dans un appel aux parents qu'ils se sont fait enlever pour demander une rançon.

ça c'est déjà couvert par la lois par exemple.

Bref parler "d'entre-soi bourgeois" dans ce contexte c'est ridicule, mais balayer les problèmes écologique et éthique des IA / LLMs en disant qu'ils ne sont pas fondés est tout aussi ridicule.

Désolé mais vue qu'il ya déjà beaucoup de débat autour de l'IA décrété que c'est non éthique me parait cavalier au mieux.
L'IA aujourd'hui dans son apprentissage ne fait que ce que fait un humain à savoir constituer une base de connaissance pour produire un contenu donnée.

C'est l'exploitation qui en est fait qui peut être problématique et qui est normalement déjà couvert sur le plan légale. Et au niveau écologique les seuls arguments que je vois c'est la comparaison basique à un instant T. Mais Quid des gains d'énergie sur le temps passé gagné par l'utilisation de l'IA par exemple et surtout de la projection potentielle sur 1, 2, 5 ou 10 ans.

La plus part des technologie pour remplacer les énergies fossiles avaient un rendement excecrables au début le temps de developper les technologies. Bien malin celui qui sera capable de calculer maintenant le coût des IA dans le futur et de savoir à coup sûr si ce sera pire, pareil ou mieux.

Et je dis pas que ça sera forcément mieux, je dis que c'est pas aussi évident que ça.

[BlackJack]

Pour parler un peu de l'utilisation de l'IA 
On participe au développement d'une IA qui extrait les données d'un dossier médical pour générer un RUM ( non pas celui qui se soigne avec un GROG ) mais un Résumé d'unité médicale.
Lors d'une hospitalisation,un patient génére des soins des actes et des pathologies.
Le médecin met ca dans un dossier et ca génére globalement le revenu généré par la prise en charge du patient

-c'est pénible
-on est pas formé
-c'est hyper pénible 
-c'est chronophage ( perso je perds une heure par garde à remplir ce foutu machin et c'est pas du tout optimisé )

L'ia nous rattrape tout ca et nous fait gagner du temps et de l'argent 

L'étape suivante serait l'IA qui va chercher les associations dangereuses de médicaments principalement sur les patients agés qui ont des listes à rallonge .

Bon par contre en radiologie elles sont globalement niveau externe premier trimestre pour celles qu'on a testé et abandonné.

Enfin j'utilise chatgpt pour certains courriers (l'Ars haut de france vient donc de recevoir une réponse à une plainte que je qualifierai d'abusive en alexandrin ) et aussi pour la mise en forme de certains textes administratifs 

[karnacier]

J’hésite à intervenir depuis un moment,mais je craque sur certaines des interventions vues ici.

Pour rappel les états Unis n'ont pas de droit légal chez nous.

En d'autres termes je ne considère pas qu'une prise de position de la justice chinoise (par exemple) me concerne en tant que Français même si je suis un utilisateur de leurs produits.

Alors pourquoi devrais-je considérer un débat/controverse actuellement fait dans un autre pays que le mien ? Sauf erreur de ma part il n'y a pas eu de condamnation de ces logiciels en France donc je ne comprends pas qu'il puisse avoir un débat sur le sujet.

Une controverse américaine ne doit pas être forcément répercuté sur le reste du monde ...

[Sylvestre]

Mais le débat sur les IA est global et ne se limite pas aux seuls USA, elles sont utilisées partout ^^

[Orlov]

Alors pourquoi devrais-je considérer un débat/controverse actuellement fait dans un autre pays que le mien ? Sauf erreur de ma part il n'y a pas eu de condamnation de ces logiciels en France donc je ne comprends pas qu'il puisse avoir un débat sur le sujet.

Une controverse américaine ne doit pas être forcément répercuté sur le reste du monde ...

Je suis pas sûr de bien comprendre, donc j'espère ne pas être à côté de la plaque mais c'est pourtant ce qui se passe
Tu peux en parler aux banques françaises qui ont fait des affaires en Iran.
Plus prosaïquement, quand TSR décide de ne plus parler de démons ou de diables pour s'éviter des problèmes avec la majorité morale, les vf d'ADD 2 sont affectées.
Et dans la mesure où une grande partie des processus d'IA sont sous droit ricain, l'expérience de l'utilisateur ailleurs dans le monde est affectée.
Bref, c'est pas comme si on avait le choix de ne pas s'intéresser à ce qui se passe là-bas.

[JPhMM]

Sauf erreur de ma part il n'y a pas eu de condamnation de ces logiciels en France donc je ne comprends pas qu'il puisse avoir un débat sur le sujet.

L'existence de débats (entre partis qui ne sont pas d'accord, bien sûr) n'est-elle pas précisément la condition sine qua non d'une approche démocratique ? En l'espèce, si tout le monde était pro, ou si tout le monde était con, alors ne peut-on pas envisager que la question sortirait du champ démocratique (donc politique) ? Je trouverais cela terrifiant.
Oui, je trouve saine l'existence d'un tel débat.
 

[Harfang2]

Pour rappel les états Unis n'ont pas de droit légal chez nous.

En d'autres termes je ne considère pas qu'une prise de position de la justice chinoise (par exemple) me concerne en tant que Français même si je suis un utilisateur de leurs produits.

Alors pourquoi devrais-je considérer un débat/controverse actuellement fait dans un autre pays que le mien ? Sauf erreur de ma part il n'y a pas eu de condamnation de ces logiciels en France donc je ne comprends pas qu'il puisse avoir un débat sur le sujet.

Une controverse américaine ne doit pas être forcément répercuté sur le reste du monde ...

En soi, tu as parfaitement raison, les controverse de tel ou tel pays n'ont pas forcément a impacter en France.

Une fois cela posé les IA et l'étendue de leurs avancées posent de très nombreuses questions existentielles. ( en tous cas, moi, m'en pose quelque soit les considérations américaines ou chinoises, et mes considérations ne sont pas optimistes)
 

[karnacier]

(exercice difficile pour moi le débat par écrit donc désolé si mon discours semble décousu je n'ai pas l'habitude de ce type d'intervention mais je me prête au jeu de bon coeur)
Un peu de contexte : je suis un technophile et j’espère bien voir de mon vivant le point de Singularité atteint (l'équivalent du premier homme sur la lune pour notre génération). Forcement, le transhumanisme et aussi selon "mon" point de vue une excellente chose et j'utilise Stable Diffusion (beaucoup) et ChatGPT (assez peu).

Que l'IA fasse peur, j'arrive à le concevoir bien entendu mais maintenant et en toute bienveillance (j'aurai bien du mal à le retranscrire par écrit mais je ne me moque absolument pas et je fais attention à mes tournures de phrases).

Nous sommes revenus au débat qu'il y a eu 100 ans en arrière : entre les fiacres et les voitures à l'arrivée de ces dernières. Je n'ai pas vraiment besoin de vous faire un cours d'histoire sur le sujet il suffit de regarder dehors ...

J'étaye un peu mon propos sur les controverses et sur la partie acquisition de données, sincèrement et en tout honnête je ne la comprends absolument pas ...

Je vous donne un exemple qui je l’espère sera parlant :
Combien d'auteurs ont mis dans leurs ouvrages (Films/livres/œuvre d'art ...) la proportion exacte d'inspiration tirée d'autres œuvres (dans ce livre il y a 30% de Dumas et 50% de Lovecraft et 20% Asimov... sérieusement ...).

Je sais bien que l'homme aime à penser être Unique mais à ce point-là ... donc pourquoi avoir un débat sur le sujet ?
Une question d'argent et de droit d'auteur peut-être ? Certes ... mais les fameux auteurs "floués" ont ils eux-mêmes reversé de l'argent aux auteurs dont il tire leurs propres inspirations ? Ouroboros ... et débat qui n'a toujours aucun sens à mes yeux.

Je reste bien entendu ouvert aux dialogues et je n'espère pas avoir été condescendant ou autres dans mes propos.
(merci les cours de communication non-violente et la oui je me moque mais de moi-même =) )

[Luven]

Non il a pas raison dans l'absolue. Il lève un point important qui peut être vrai mais qui est pour le moment compliqué à évaluer. Il faut voir sur le long terme et par rapport à ce qui sera généré via les IA dans le futur et le temps économisé pour les résultats apporté. Bien évidement que aujourd'hui avec l'apprentissage des IA le ratio coût de l'energie utilisé par rapport au service rendu est en défaveur. Par contre a part à avoir une boule de crystal impossible de savoir si ce coût serat toujours aussi important dans le futur, si les infrastructures ne s'améliore pas etc...

Devait-il avoir raison "dans l'absolu" ? Dans l'absolu, peut être que la technologie diminuera sa consommation en énergie dramatiquement et c'est ce que l'on souhaite. C'est très bien pour l'absolu, mais il se plaignait que le coût actuel de cette technologie ne soit pas sérieusement abordé alors que le problème est là, maintenant, tout de suite. Comme je n'ai pas en effet de boule de crystal je veux bien avoir de l'espoir en cette technologie mais il me parait normal de pointer du doigt une tendance qui est gênante à l'instant T.
 

Je veux bien avoir l'interview en question

Il s'agissait du fondateur de Midjourney, David Holz (pas Stable Diffusion) : https://www.forbes.com/sites/robsalkowi ... e-economy/
 Did you seek consent from living artists or work still under copyright?
 No. There isn’t really a way to get a hundred million images and know where they’re coming from. It would be cool if images had metadata embedded in them about the copyright owner or something. But that's not a thing; there's not a registry. There’s no way to find a picture on the Internet, and then automatically trace it to an owner and then have any way of doing anything to authenticate it.

 

Et encore une fois le problème éthique n'est pas aussi évident que ça et nécessiterai de trancher légalement car le processus est celui de l'humain sur l'apprentissage. Le problème étique est plutôt dans l'utilisation qui sera fait des travails des IA (devoir l'indiqué par exemple) ainsi que le dégât sociale que sa risque d'engendré.

Je suis tout à fait d'accord avec toi, le problème éthique est dans l'utilisation qui *est* (pas *sera*) fait de ces technologies. Car on ne parle pas de scénarios du futur ici, on est déjà dedans.
Mais je rajouterais que ce n'est pas juste comment on utilise ces outils, mais aussi comment ces outils sont créés qui peut être problématique. Pour rappel un générateur d'images comme Stable Diffusion utilise LAION, une base de données constituée originellement à but de recherche scientifique, à des fins commerciales. L'unique raison pour laquelle la data base LAION a pu collectionner des milliards d'images sans consentement est parce que le copyright n'a pas besoin d'être respecté dans le cadre de la recherche scientifique. Et qui a fondé LAION ? Stable Diffusion, qui utilise avec joie ce data-set a des fins commerciales. ~Loop hole~. Donc la formation et l'utilisation de certains outils qui existent actuellement sont déjà douteuses.
Le problème éthique me parait personnellement évident ici, et vu la tonne d'encre digitale qui a coulé sur le sujet, les différentes poursuites judiciaires et les débats aux plus haut niveaux (c'est d'aujourd'hui) je ne suis pas le seul à penser qu'il y a un problème.
 

C'est des problèmes légaux par ce qu'il n'y a pas de cadre légale aujourd'hui autour de tout ceci. Ce n'est que quand tu as appropriation et exploitation directe que la lois à déjà son armement juridique.

Oui d'accord. Rien à redire en effet, certaines entités ont profité d'un flou juridique pour exploiter des données qui ne leur appartiennent pas et leurs détenteurs légitimes cherchent à défendre leurs droits via un recours en justice qui par nécessité servira à disperser ce flou juridique.
 

Désolé mais vue qu'il ya déjà beaucoup de débat autour de l'IA décrété que c'est non éthique me parait cavalier au mieux.
L'IA aujourd'hui dans son apprentissage ne fait que ce que fait un humain à savoir constituer une base de connaissance pour produire un contenu donnée.

C'est l'exploitation qui en est fait qui peut être problématique et qui est normalement déjà couvert sur le plan légale. Et au niveau écologique les seuls arguments que je vois c'est la comparaison basique à un instant T. Mais Quid des gains d'énergie sur le temps passé gagné par l'utilisation de l'IA par exemple et surtout de la projection potentielle sur 1, 2, 5 ou 10 ans.

La plus part des technologie pour remplacer les énergies fossiles avaient un rendement excecrables au début le temps de developper les technologies. Bien malin celui qui sera capable de calculer maintenant le coût des IA dans le futur et de savoir à coup sûr si ce sera pire, pareil ou mieux.

Et je dis pas que ça sera forcément mieux, je dis que c'est pas aussi évident que ça.

Pour clarifier ma position personnelle (et désamorcer la conversation) je ne souhaite pas classifier les "IA" comme par essence non-éthique. Je pense que l'on peut tout à fait créer ces outils de la bonne manière mais je constate que pour l'instant ce n'est pas encore le cas. Il me parait normal de vouloir en parler. Si tu veux, au lieu de parler de problèmes on peut parler de défis, comme ça on a la compréhension que nous devons les surmonter.
Pour rappel c'est ce qu'Ookami disait, il se plaignait que les différents défis éthiques et écologiques n'étaient pas mentionnés sérieusement dans un article qu'il a lu, c'est tout. Je ne fais que dire que ces défis existent pourtant bel et bien en pointant quelques exemples.
J'espère que dans 2, 5, 10 ans nous aurons fait des progrès sur ces sujets.



 

[Rui]

Oui et moi j'indiquais que l'éthique et l'écologie n'est pas aussi évident de trancher et donc ne pas abordé ça dans un article de mag de jdr paraît normal vue l'état de la connaissance sur le reste.

Et encore une fois le côté éthique de constitution de la base de données n'est pas du tout une évidence et c'est bien pour ça que ça va être légiférer pour dire "contrairement à l'humain qui utilise le même procédé ce n'est pas légale".

[Harfang2]

(exercice difficile pour moi le débat par écrit donc désolé si mon discours semble décousu je n'ai pas l'habitude de ce type d'intervention mais je me prête au jeu de bon coeur)
Un peu de contexte : je suis un technophile et j’espère bien voir de mon vivant le point de Singularité atteint (l'équivalent du premier homme sur la lune pour notre génération). Forcement, le transhumanisme et aussi selon "mon" point de vue une excellente chose et j'utilise Stable Diffusion (beaucoup) et ChatGPT (assez peu).

Que l'IA fasse peur, j'arrive à le concevoir bien entendu mais maintenant et en toute bienveillance (j'aurai bien du mal à le retranscrire par écrit mais je ne me moque absolument pas et je fais attention à mes tournures de phrases).

Nous sommes revenus au débat qu'il y a eu 100 ans en arrière : entre les fiacres et les voitures à l'arrivée de ces dernières. Je n'ai pas vraiment besoin de vous faire un cours d'histoire sur le sujet il suffit de regarder dehors ...

J

C'est là ou, vois-tu, se pose mon problème.

A mon sens c'est l'adversité qui forge l'homme en l'obligeant a se dépasser et a acquérir de nouvelles compétences, qu'elles soient manuelles, intellectuelles ou artistiques. L'homme assisté décline. Dit autrement, l'oisiveté induite par l'assistance, que ce soit pour rédiger un argumentaire, dessiner une carte, ou fabriquer une porte amène une baisse des compétences nécessaires pour rédiger le dit argumentaire, peindre la dite carte ou fabriquer cette porte.
Pourquoi acquérir des compétences et travailler ardemment si c'est pour se rendre compte que ce travail est rendu obsolète par l'existence de machines? Autant, dans ce cas, se laisser glisser dans l'oisiveté, le divertissement, la jouissance et, donc, à terme, baisser de niveau et devenir parfaitement dépendant des machines et de la poignée de concepteurs?

Ce n'est pas tant que l'IA me fasse peur, ni que la performance technique ne soit pas intéressante, non, ce qui me pose question ce sont les conséquences pour l'évolution de l'homme et les pertes de compétences en matière intellectuelle ou manuelle.
 

[Morningkill]

Je ne parle même pas des deep-fakes, les voix d'acteurs ou de personnalités publiques clonés, ou des arnaques aux kidnappings où des voix d'enfants sont clonés pour faire croire dans un appel aux parents qu'ils se sont fait enlever pour demander une rançon.

ça c'est déjà couvert par la lois par exemple.

Le probleme n'est pas qu'il y ait une loi ou pas, c'est que le crime devienne extraordinairement plus facile et "qualitatif".

Après, on n'y peut rien, la boite de Pandore est ouverte, y a pas de solutions