Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Pour discuter sereinement de l'actualité
Répondre
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 11667
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Qui Revient de Loin »

Je n'ai plus la source, désolé. C'était en cancérologie effectivement il me semble (pas pour n'importe quel type de radio, donc).

Dans mon souvenir, le papier disait que l'utilisation de l'IA était en assistance au radiologue, pas en le remplaçant, du genre "hé, il y a la présomption de tel type de problème dans cette radio, à vérifier par vous Mr Docteur".
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Avatar de l’utilisateur
Altay
Ascendant
Messages : 1518
Inscription : sam. mai 07, 2016 12:04 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Altay »

haplo a écrit : dim. déc. 11, 2022 2:40 am Mais du coup, pour ceux qui connaissent un peu la partie production de la problématique, y a t il des développements d'outils pour ces ia relatives a la fiabilité de l'information ? Des impementations de procédés qui vont dans ce sens et seraient intégrées a leur développement ? Ou est ce un truc complètement a côté du sujet ?

Oui. Il y a des approches hybrides qui cherchent à mêler l'aspect probabiliste du langage (un mot est défini par le contexte dans lequel il apparaît) avec une approche symbolique (on manipule des concepts dont les relations se définissent par des règles logiques). Mais c'est à l'état de recherche et cela pose plein de problèmes. L'approche symbolique était celle à la mode dans les années 80/90 et ça n'a jamais vraiment décollé, parce que c'est très compliqué de demander à des humains de définir une ontologie suffisamment vaste pour recouvrir tous les champs de la connaissance.

Je pense que les solutions qui arriveront le plus rapidement sont celles qui intègrent une forme de fact-checking aux modèles de langage comme GPT-3 : un post-traitement qui va vérifier la cohérence du texte généré par l'IA avec une base de connaissances externe, comme Wikipédia.
guame
Initié
Messages : 191
Inscription : mar. mars 28, 2017 1:07 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par guame »

Il y a ce papier à propos d'une IA de Google: https://www.nature.com/articles/s41586-019-1799-6
 In an independent study of six radiologists, the AI system outperformed all of the human readers
Maintenant il n'y a pas eu beaucoup de news depuis 2018. 
 
Avatar de l’utilisateur
Altay
Ascendant
Messages : 1518
Inscription : sam. mai 07, 2016 12:04 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Altay »

guame a écrit : dim. déc. 11, 2022 4:10 pm Il y a ce papier à propos d'une IA de Google: https://www.nature.com/articles/s41586-019-1799-6
 In an independent study of six radiologists, the AI system outperformed all of the human readers
Maintenant il n'y a pas eu beaucoup de news depuis 2018. 
 

Ce genre d'affirmation est beaucoup redescendu lorsque les boîtes de la tech ont voulu les mettre en production dans des hôpitaux. Les performances sont « surhumaines » dans un cadre académique mais pas vraiment en situation réelle. Cette méta-analyse montre par exemple que les performances décrites dans les articles sont sur-évaluées et manquent généralement de validation externe sur des données réelles.
Avatar de l’utilisateur
Orlov
Dieu d'après le panthéon
Messages : 6177
Inscription : jeu. févr. 20, 2014 10:57 am

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Orlov »

Tiens on parle de mon nouveau joujou préféré dans le Guardian
Cryoban a écrit : lun. juin 26, 2023 7:56 am Le vrai problème c'est les gens.

Mildendo aka Capitaine Caverne a écrit : Faire du Jdr c'est prendre une voix bizarre et lancer des dés en racontant qu'on tue des gobs.
Avatar de l’utilisateur
Vorghyrn
Dieu des gargarismes
Messages : 8749
Inscription : jeu. févr. 03, 2011 12:00 pm
Localisation : Bamako (Mali)
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Vorghyrn »

Killing Joke a écrit : dim. déc. 11, 2022 12:09 pm Prenons un petit texte bidon en entrée (je me demande s'il n'y a pas un cas d'usage célèbre qui ressemble un peu çà) : "Une boulangerie vend des croissants à un euro pièce. Une cliente rentre dans la boulangerie avec 0.50 cts en poche pour acheter un croissant. Elle ressort les mains vides.". Question : "Pourquoi ?" (réponse bien sûr : parce qu'elle n'a pas assez d'argent).

Du coup où en es-t'on sur ce sujet :

- il est tout à fait possible que ChatGPT soit capable de répondre, mais en ayant pioché / appris sa réponse dans une somme de textes / documentations pré-existantes et ayant fait des relations qui pourront donner des résultats justes, mais sans que le système ait la moindre compréhension réelle des concepts évoqués. Pour moi on en est toujours là aujourd'hui

- un système intelligent aurait besoin de "contexte" (l'énoncé ci-avant implique énormément de données contextuelles non décrit, sur la notion de vendre, ce qu'est "un euro" = "de l'argent" = "un moyen intermédiaire de faire du troc", ce qu'est le troc, les valeurs numériques, ce que veut dire "sortir les mains vides", "rentrer dans une boulangerie", etc. : tout çà, un lecteur humain en connaît l'interprétation par apprentissage et/ou vécu). Et donc, un système intelligent aurait ce contexte, aurait la compréhension des relations entre les concepts, et aurait (sans apprentissage, sans piocher dans des données existantes) la capacité de faire des déductions / interprétations logiques (et donc à répondre à n'importe quelle question, même une question qui n'a jamais été posée nulle part). La capacité de "compréhension de texte" nécessite tout çà (sinon on est dans la solution "1" qui sera une "astuce", pourra bien sûr être utilisée dans de nombreuses situations pratiques (écrire un scénario de jdr, optimiser la circulation à un carrefour de ville, etc.), mais aura ses limites (comme la difficulté à répondre à des questions auxquelles l'homme n'a jamais répondu avant).

Alors, ça date un peu cette discussion (oui, déjà) et je ne sais plus quel était notre point de divergence. Du coup plutôt que de répondre à une question dont je ne me rappelle plus, je vais te donner des éléments de contextes.

Là où l'IA pêche c'est en effet sur la formulation du problème. Si tu sais lui formuler le problème d'une manière compréhensible pour elle, elle peut te trouver des solutions aussi bonnes voire meilleures que celles d'un experts humain (go etc...) et/ou répondre à des problèmes qu'un humain ne pourrait pas résoudre à cause de la complexité de traitement (cf ci-dessous pour un exemple sur la génomique).
L'exemple du Go montre que l'IA peut être juste meilleure que l'humain et même être "créative" (coups que les humains pensaient "faibles" mais qui ont mené vers de nouveau terrain de jeux).

Pour le côté complexité du traitement, un exemple tiré de mon travail (la génomique) qui illustre aussi comment ça marche une IA. J'essaie de faire succinct, je peut (beaaaaaaaucoup) le développer si nécessaire.
Je veux savoir quels sont les gènes qui sont des facteurs aggravants pour un type de cancer. Un spécialiste peut, théoriquement compiler toutes les info sur chaque gènes et donner un avis. Compter une bonne journée par gène, donc pour ~30000 gènes, 82 ans sans repos ni vacances. Et encore c'est théorique parce que les "fiches d'infos" sur les gènes ne sont pas exactement centralisées ni même de qualité égale. Et ça reste théorique. Plus pragmatique et avec la possibilité de sortir quelque chose de nouveau : tu prend des patients malades et non-malade, tu regarde la séquence des gènes (qui est une "bonne approximation" d'une carte d'identité du gène) et tu cherche les différences entre les deux groupes. C'est un processus cognitif humain à la base de toutes nos connaissances. Problème, une comparaison de séquences dans différent groupes (plusieurs centaines ou milliers de patients pour une étude "raisonnable"), pour chaque gène c'est long (même avec des programmes adaptés et il y a toujours 30000 gènes... C'est là que les IA entrent en jeu. Elles ne comprennent peut être rien au cancer mais si je leur formule dans leur langage un problème du genre "cherche moi les vecteurs qui, parmi ces 30000 là qui différencient le groupe A du groupe B" c'est un problème qu'elles savent attaquer. Elles font ça (biiiiiiiien) plus vite que moi et peut être même qu'elles vont utiliser des éléments auxquels un spécialiste n'aurait pas pensé. Je peux leur intégrer plus ou moins de connaissances biologiques (le vecteur qui définie un gène ça peut être juste la séquence ou une combo de la séquence et la structure voire d'autres infos). Elles n'utilisent pas de résultats d'autres études. Juste des données dont elles tirent un modèle généralisable. Le meilleur qu'on puisse espérer avec ces données et quelques paramètres que j'ai initialisé dans l'IA (son architecture les fonctions mathématiques qu'elle utilise etc...). Je peux évaluer ce modèle, déterminer si il est bon ET généralisé (de mon point de vue d'expert, en gros 90% d'efficacité, c'est bon ou insuffisant ? spoiler : ça dépend du problème ;) ). Si ça n'est pas le cas, je peux modifier les paramètres de mon IA, améliorer la qualités de mes données et recommencer.

On en revient donc à ChatGPT. Perso, je n'ai pas besoin que ChatGPT soit capable de répondre à ma question "cherche moi les vecteurs qui, parmi ces 30000 là qui différencient le groupe A du groupe B". Ca j'ai déjà. ChatGPT, c'est, pour moi, un pas vers la capacité à transformer ma question "dans ces données, quels sont les gènes qui différencient malades et non-malades" en "cherche moi les vecteurs qui, parmi ces 30000 là qui différencient le groupe A du groupe B". ChatGPT n'est pas "L'IA" c'est "un certain type d'IA" qui fait mieux que ce qu'on a jamais fait dans un certain domaine. Couplée avec d'autres sous forme de "méta-IA", ce qui est le modèle envisagé pour des tâche très complexe genre la voiture autonome), ça peut, avec quelques développements, faire un truc très puissant. ChatGPT ne manipule pas encore les concepts, mais le pas entre 0 capacité de traitement du langage naturel et ChatGPT vs celui entre ChatGPT et ChatGPT alpha zero prime ++ qui inclue la compréhension de concepts fin n'est pas si énorme.

Et pour finir, je reviens sur ton exemple, très intéressant
"Une boulangerie vend des croissants à un euro pièce. Une cliente rentre dans la boulangerie avec 0.50 cts en poche pour acheter un croissant. Elle ressort les mains vides.". Question : "Pourquoi ?" (réponse bien sûr : parce qu'elle n'a pas assez d'argent)
Ca illustre à la fois la capacité des humains à comprendre des concepts mais aussi des axiomes non-formulés, ainsi que le compromis en terme de généralisation de notre mode de fonctionnement :)

Outre les concepts de système monétaire, de commerce et des figures de style du langage (que les IA savent gérer), il y a aussi des hypothèses non-formulées qui influent sur la réponses. J'en voit au moins deux :
  • les croissants plaisaient à la cliente et si elle avait pu elle en aurait acheté
  • la boulangerie ne pratique pas le crédit
Même dans notre référentiel commun (boulangerie en France) ces hypothèses ne sont pas 100% sûres. Mais elles sont (très) raisonnables. Ce qui est drôle c'est qu'elles nous paraissent pourtant évidentes. Je doute que tu les ai envisagées en écrivant et je doute que toutes celles et ceux qui ont lu ton exemple y aient pensé de suite. Moi, en tout cas, il a fallu que je me mette a écrire ma réponse pour que ça me saute aux yeux.

Or dans l'optique de créer une IA qui répondraient à ça sans utiliser de similarité avec des questions similaires et qui le ferait à une échelle très élevée (question posée x milliers de fois par seconde dans le monde), l'absence de ces hypothèses pourrait rendre l'IA assez mauvaise puisque dans les cas où le crédit est possible mais où la raison était autre que le prix, l'IA se planterait... et nous aussi !

Et d'ailleurs, si je passe à la phrase
"Une ragvedzjv vend des cejzbdekzjh à un cjdns pièce. Une dfbh rentre dans la ragvedzjvC avec 0.50 dbfckjl en poche pour acheter un cejzbdekzjh. Elle ressort les mains vides.". Question : "Pourquoi ?"

Qui est plus ou moins ce que "voit" l'IA (je lui fait grâce des figures de style), toi aussi tu serais super embêté pour répondre. Tu pourrais faire quelque suppositions, mais tu va très vite en arriver à des hypothèses "quitte ou double", genre cjdns est une monnaie mais dbfckjl c'est une sous-division ou un multiple de cjdns ? En admettant même que tu arrive (par chance) à plus ou moins bien reformuler le problème en "agent A veut se procurer produit1 qui a une valeur de 1 mais agent A n'a que 0,5 fois cette valeur", tu ne saura toujours pas si dans ce contexte de ragvedzjv (boulangerie de mon contexte imaginaire) le crédit est pratiqué et donc si le fait de ne pas avoir la somme à un instant T est un élément suffisant pour ne pas obtenir produit1. Ou si un autre élément à pu expliquer le départ de agent A (trop de monde, autre rendez-vous, produit qui ne convient pas aux attentes etc...)

Tout ça, tu l'a appris par des données, par des exemples et des modèles que tu t'es créé toi-même, qui fonctionne bien dans certains contextes (spoiler, par chez moi ne pas avoir la somme suffisante peut ne pas être un problème si tu es un client "de confiance"). Pourquoi dénierait-on à l'IA de faire pareil ?  :charmeur
Killing Joke a écrit : dim. déc. 11, 2022 12:09 pm le fait pour AlphaGo ne combattre contre lui même est uniquement un artifice
Je ne vois pas ce que tu veux dire par là. Pour moi, il a beaucoup moins copié l'humain et appris par lui-même. Ce serait en gros l'équivalent d'un joueur de go qui s'enferme pendant 30 ans avec un jeu de go et qui joue 8h par jours contre-lui même. Je ne serais pas surpris qu'il soit fort... Et je n'appellerais pas ça "un artifice"
 
Killing Joke a écrit : dim. déc. 11, 2022 12:09 pm "do, try, repeat", pour moi çà reste toujours beaucoup çà, même si en effet c'est réutilisable / portable sur d'autres contextes
quand j'entend do, try repeat, je pense un peu à un programme qui fait le niveau 3 de super-mario 1 des millions de fois jusqu'à retrouver la meilleure séquence de saut/tuer les ennemis, prendre les bonus possible pour finir le niveau le plus rapidement possible. Evidement, ça ne marchera pas sur le niveau 4. C'est très loin du fonctionnement d'une IA qui fait un modèle "généralisable à un niveau acceptable" (compromis efficacité/généralisation). Du coup, tu peux préciser ?
Dernière modification par Vorghyrn le mar. déc. 13, 2022 6:06 pm, modifié 1 fois.
Mon blog JDR : De l'autre Côté de l'écran. critiques de JDR et techniques de jeu, surtout en solo

"la bêtise naturelle bat l'intelligence artificielle à tous les coups" 
(Terry Pratchett)
 
Avatar de l’utilisateur
Vorghyrn
Dieu des gargarismes
Messages : 8749
Inscription : jeu. févr. 03, 2011 12:00 pm
Localisation : Bamako (Mali)
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Vorghyrn »

 
KamiSeiTo a écrit : dim. déc. 11, 2022 8:46 am Peut-être en les nourrissant uniquement à des sources spécifiques (ce qui fait que ce seraient sans doute des IA différentes par domaine), genre publications scientifiques de journaux sérieux genre The Lancet ou Nature pour les questions médicales ?
Faudrait distinguer peut-être la base de données qui leur donne la structure du langage de la base de données qui leur donne le fond des informations ?

La qualité des données sont évidement un facteur clé de l'efficacité d'une IA et là où l'humain à le plus grand rôle dans la conception de l'IA. Comme on dit "garbage in, garbage out". C'est un point sur lequel les IA ne sont pas capable d'agir et de dire "là tu m'a filé des données de merde, mon modèle ne va pas t'aider". Cela dit nous non plus. Dans une conf' récente que j'écoutais, un chercheur faisait le parallèle entre le sur-apprentissage et les discriminations, par exemple le racisme. Si tu file à une IA des données où un groupe ethnique est sur-représenté parmi des criminels, avec peu de contre-exemple (des gens de ce groupe qui ne sont pas des criminels), elle va finir par dire "ce groupe = criminel" (ce qui peut s'apparenter à du racisme). Le truc c'est qu'un humain tirerait le même raisonnement. Pire, prend des gens élevé dans la tolérance jusqu'à l'age adulte. Met-les suffisamment longtemps dans la même situation (criminels qui sont très souvent d'une certaine ethnie, quasiment pas de non-criminel de cette ethnie), ce qui est une forme de "biais du survivant", je suis sûr (j'en ai croisé quelque-uns) que tu peux finir par les rendre racistes.
Et du coup, même question que au-dessus, si les humains sont sensibles à ce genre de biais, est-ce choquant que les IA le soient ? est-ce que ça veut dire qu'elles sont "nulles" pour autant ?
 
Mon blog JDR : De l'autre Côté de l'écran. critiques de JDR et techniques de jeu, surtout en solo

"la bêtise naturelle bat l'intelligence artificielle à tous les coups" 
(Terry Pratchett)
 
Avatar de l’utilisateur
Morningkill
Dieu d'après le panthéon
Messages : 2605
Inscription : mar. août 03, 2004 2:09 pm
Localisation : Libourne / Bordeaux

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Morningkill »

Du coup, GPT répond :
"Il est possible que la boulangerie ait un minimum d'achat, ou qu'elle ne vende pas de croissants à moitié prix. La cliente n'a peut-être pas eu assez d'argent pour acheter un croissant entier. Si vous voulez en savoir plus, vous devriez demander à la boulangerie directement."

On voit bien le souci avec les deux premières, cependant, la reférence au moitié prix m'intrigue. Je vais tester avec 4 et 1 euros..
Et la, GPT a répondu
"La cliente ne peut pas acheter un croissant car il coûte quatre euros et elle n'a qu'un euro en poche."
Notons que j'ai édité le premier message => je pense que du coup (mais je suis pas sur) GPT l' a pris comme une nouvelle conversation, et non la suite de la précedénte.
Et si je mets 4 euros et 70 centimes la j'ai
"La cliente ne peut pas acheter de croissant car elle n'a pas assez d'argent. Un croissant coûte 4 euros, soit 400 centimes, alors qu'elle n'a que 70 centimes."
Rosco
Dieu d'après le panthéon
Messages : 6742
Inscription : dim. avr. 30, 2017 10:23 am

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Rosco »

Pour info
GPT a réussi une partie d'un examen de droit , @Erwan G 
IA Vs juriste 11,75/20

L'IA du chat GPT développé par OpenAI vient de venir à bout d'un examen de droit sans aucune difficulté. Cet examen concluait 24h de cours sur le droit de la PI, le RGPD, l'espace extra-atmosphérique et aérien enseigné à des étudiants du M2 CSA (des ingés spécialisés en codage pour l'aérospatial) à Paul Sabatier.

L'examen était composé de 21 questions juridiques assez techniques et précises, parfois morales (regardez la question 9 c'est vraiment troublant) suivant un narratif auquel l'IA a répondu directement sans avoir eu accès à mes notes de cours (80/90p.).

Le résultat est déconcertant. L'IA a répondu à toutes les questions. Les réponses sont parfois juridiquement approximatives mais correspondent largement à ce que j'attendais d'étudiants ingénieurs sans formation juridique. L'IA ne cite pas de jurisprudence, et abuse du conditionnel (on le comprendra elle répond quand même à des questions juridiques que je pense très techniques), mais est presque capable de répondre pertinemment à chaque question (elle ne commet que 3 erreurs).
En définitive c'est l'imprécision des réponses qui fait perdre ses points à l'IA, mais à chaque fois elle est capable de proposer une réponse cohérente citant même parfois les formules jurisprudentielles ou légales.

Ce qui me perturbe le plus est sa réponse à la question 9) où contrairement aux étudiants l'IA a fait le choix de la réponse la plus humaine, la plus morale. Certainement cela relève-t-il de la programmation qui aura construit une IA "gentille" mais cela montre quand même que l'IA a été capable d'identifier un problème moral est d'y répondre "humainement".

De quoi nous interroger très sérieusement sur l'avenir de nos professions juridiques. Où en sera l'IA dans 10 ans ?
Gork est « brutal mè ruzé » et son frère Mork est « ruzé mè brutal »
Avatar de l’utilisateur
Altay
Ascendant
Messages : 1518
Inscription : sam. mai 07, 2016 12:04 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Altay »

Au risque d'être un peu vexant, je trouve que ça en dit plus long sur le niveau de la formation juridique qui est dispensée dans ce cycle ingénieur que sur les connaissances de GPT-3. :mrgreen:

Plus sérieusement, l'introduction contredit la conclusion. Ce qui différencie les professions juridiques des connaissances approximatives des ingénieur⋅es ou de GPT-3, c'est justement ces imprécisions. Une analyse juridique se construit sur la rigueur du raisonnement légal. Ce qui ne veut pas dire que ce n'est pas possible de construire une IA d'aide à l'analyse juridique, mais on ne peut pas extrapoler la génération de texte « plausibles » à la GPT-3 vers un raisonnement logique (symbolique) qui se tient rigoureusement.
Avatar de l’utilisateur
cdang
Dieu d'après le panthéon
Messages : 4637
Inscription : jeu. avr. 30, 2015 10:23 am
Localisation : Le Havre (Choisy-le-Roi, Saint-Étienne, La Rochelle)

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par cdang »

Altay a écrit : jeu. déc. 15, 2022 4:14 pm Au risque d'être un peu vexant, je trouve que ça en dit plus long sur le niveau de la formation juridique qui est dispensée dans ce cycle ingénieur que sur les connaissances de GPT-3. :mrgreen:

Oui, et c'est cohérent. J'ai suivi un cours d'initiation juridique en 1re année d'école d'ingé, qui doit lui aussi représenter 24 h. Le but est de pouvoir communiquer avec les juristes (avoir un vocabulaire commun, comprendre les concepts de base comme les différents niveaux de texte, les juridictions, la notion de responsabilité), pas tellement plus. Comme le secourisme : je sais où je mets les pieds et je sais qui appeler et quand appeler.

Parce qu'avoir un bac+5 en technique et gestion de projet et un bac+5 en droit (de quoi ? des affaires ? du travail ? civil ? pénal ?) ça devient compliqué, on ne peut pas être performant en tout (on a bien un ancien banquier qui se prend pour un épidémio, on voit ce que ça donne).
--
Vous êtes mort
Avatar de l’utilisateur
Tybalt (le retour)
Dieu d'après le panthéon
Messages : 8516
Inscription : mer. août 22, 2012 7:33 pm
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Tybalt (le retour) »

Je réponds ici, du coup :

Gwénolé a écrit : mer. déc. 21, 2022 9:17 am Bonjour à tous,

Je vois votre fascination pour l’IA, et je la comprends en partie. Certains s’alarment des conséquences sociales, et on voit que dans le domaine de l'illustration ça commence déjà à se crisper.

Je veux juste vous alerter sur un autre point: l’IA est une catastrophe écologique. Pour fonctionner, une IA fait une consommation massive d'énergie. Elle fonctionne en analysant des données en très grand nombre, et en multipliant les calculs dessus. Ca nécessite de la puissance de calcul, et donc de la puissance électrique, avec tout le dégagement de carbone associé ( https://www.cnetfrance.fr/news/pourquoi ... 886927.htm).

De plus, la fabrication des composants nécessaires pollue (comme tout matériel électronique), et utilise des ressouces qui sont en quantité limitée sur notre planète.

Pour mesurer son impact, le numérique représente aujourd’hui 4% des gaz à effet de serre, soit 2 fois plus que l'aviation civile. Et sa croissance est très forte, tirée par les usages. Comme le fait de faire appel à de l’IA pour des besoins qui n’en sont pas.

Pour lutter contre ça et préserver l’avenir de nos enfants et des générations futures, nous devons être vigilants collectivement.

L’IA qui sauve des vies à du sens, on peut espérer que son impact sur l'environnement en vaut la peine. L’IA pour s’amuser, c’est tout autre chose.

Encore une fois, je comprends votre fascination, j’ai fait toute ma carrière dans le numérique, et ça fait quelques années que je m'intéresse au champ de l’IA. Je ne veux pas faire le donneur de leçon, mais partager ce que j’ai appris cette dernière année.

Soyez vigilant à ne pas nourrir l’ogre...

Cryoban a écrit : mer. déc. 21, 2022 2:10 pm
Gwénolé a écrit : mer. déc. 21, 2022 9:17 am Soyez vigilant à ne pas nourrir l’ogre...

Oui mais il faut aussi pouvoir se confronter à la chose si on veut parvenir à la comprendre, à mesurer les enjeux et ainsi conserver un esprit critique et autonome. Ca me parait préjudiciable de rester benoîtement a contempler une situation qui change, car ça nous condamne tôt ou tard à devenir ignorant et ensuite de dépendre de l'avis d'un tiers sachant.

Bigre, avec des raisonnements pareils, je ne suis pas pressé que tu veuilles te faire un avis sur la bombe H :)
Il y a beaucoup de technologies récentes qui posent des problèmes de société, de politique, etc. cruciaux, mais que chacun ne peut pas tester soi-même. En tout cas, je ne me vois pas bricoler mon propre élevage d'OGM, mon propre réacteur nucléaire expérimental ou mon propre drone kamikaze à l'iranienne. Ça n'empêche pas de se documenter.

Je ne comprends pas vraiment tes réserves quant à "dépendre de l'avis d'un tiers sachant". Si tu penses à "juste un autre type sur Internet", oui, d'accord. Mais quand le tiers en question est un ou une spécialiste du sujet qui fait de la vulgarisation scientifique, ça ne pose aucun problème : on se fie à la parole des scientifiques, comme dans tout un tas de domaines. Ce qui compte est la fiabilité de la personne (son respect de l'éthique scientifique) et la bonne circulation de l'information, qui permet au grand public de se tenir au courant sur les nouveaux enjeux.
Tout l'intérêt d'une vulgarisation scientifique de qualité consiste justement à donner au grand public les moyens de se faire son propre avis, sans fournir du prêt à penser : élever le niveau du débat sans prétendre le clore.

Je pense qu'il faut prendre en compte la tactique commerciale maintenant bien connue qui se trouve derrière la mise à disposition gratuite de ces IA : il s'agit d'intéresser le public, de créer un besoin et de l'accoutumer à un usage. De nombreuses technologies récentes ont été massifiées de cette manière, en quelques années, et leur adoption massive a permis d'éclipser complètement l'étape du débat public sur l'intérêt de la technologie en question et ses conséquences, notamment sociales et écologiques (exemples : a-t-on vraiment besoin d'avoir en permanence sur soi une connexion Internet à très haut débit au point de pouvoir regarder un film en HD en streaming ? a-t-on besoin d'avoir toujours sur soi un appareil photo haute définition ? faut-il constamment inclure dans les espaces de discussion en ligne un système de réaction aux messages des autres, et si oui, faut-il le faire binaire - j'aime/j'aime pas, faut-il mettre en avant les émotions - ça me fait rire, ça me met en colère, etc. - ou faut-il inventer une interface qui incite à des réponses posées et réfléchies plutôt qu'émotives ? etc.). Or, dans la situation actuelle de la planète, on ne peut plus se permettre d'adopter massivement une nouvelle technologie sans avoir préalablement cadré ses retombées écologiques, et ce bien plus rigoureusement qu'on ne l'a fait jusqu'à présent.
Mes sites : Kosmos (un jdra sur la mythologie grecque qui a lu les auteurs antiques pour vous) ; blog de lectures ; site d'écriture.
Disclameur : j'ai écrit pour "Casus" et "Jdr Mag".
Avatar de l’utilisateur
Cryoban
Dieu de la carbonite
Messages : 13621
Inscription : mar. mars 29, 2011 9:25 pm
Localisation : Angers

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Cryoban »

Tybalt (le retour) a écrit : jeu. déc. 22, 2022 11:34 am Bigre, avec des raisonnements pareils, je ne suis pas pressé que tu veuilles te faire un avis sur la bombe H :)

T'emballes pas. On parle pas de la bombe H ni des modifications de génomes. Mais de quelque chose qui va toucher à notre vie quotidienne et nous impliquer directement ou indirectement. Donc oui j'aime bien me faire mon propre avis.


Tybalt (le retour) a écrit : jeu. déc. 22, 2022 11:34 am je ne comprends pas vraiment tes réserves quant à "dépendre de l'avis d'un tiers sachant". Si tu penses à "juste un autre type sur Internet"
Oui je pense à ça

Tybalt (le retour) a écrit : jeu. déc. 22, 2022 11:34 am Mais quand le tiers en question est un ou une spécialiste du sujet qui fait de la vulgarisation scientifique,

J'ai probablement au moins autant de diplômes scientifiques que lui/elle, voir plus, oui je sais ça fait très arrogant et j'essaye de ne pas l'être. Mais puisqu'il faut cadrer la discussion.
Donc evidement que je ne remet pas en cause la vulgarisation scientifique et son apport à la connaissance et l'éducation. Mais je remet en cause un avis sur un forum, un avis qui me parait néammoins éclairé et dont le propos est juste, mais qui n'est pas suffisant pour que je m'en contente et que je m'abstienne de mes propres expérimentations puisque je peux les faire.
A l'inverse quand on me dit "go te faire vacciner", je fais garde à vous, salut, demi-tour droite et je vais me faire vacciner sans soucis. Et mon téléphone portable pèse 3kg et n'a pas changé depuis plus de 10 ans...parce que je le répare moi même. ;)

Tybalt (le retour) a écrit : jeu. déc. 22, 2022 11:34 am Je pense qu'il faut prendre en compte la tactique commerciale

C'est une stratégie plutôt qu'une tactique. La tactique, c'est la génération d'image ayant des caratéristiques attirantes par exemple. Et oui je suis au fait de l'existences de stratégies commerciales ainsi que des objectifs envisagés à long terme.
Cthulhu Invictus: Limes Obscurus. Certaines forêts sont plus sombres que d'autres
Dark Operators, un hack du BRP pour Delta Green avec sa feuille de PJ. Du poulpe et des Forces Spéciales.
Un cadavre encombrant Un prologue alternatif à La Ville en Jaune
Avatar de l’utilisateur
Killing Joke
Banni
Messages : 1230
Inscription : mar. mars 14, 2006 8:42 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Killing Joke »

...j'ai bcp trop de retard sur ce topic mais en attendant, un brin d'humour :
Image
Avatar de l’utilisateur
Cryoban
Dieu de la carbonite
Messages : 13621
Inscription : mar. mars 29, 2011 9:25 pm
Localisation : Angers

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Cryoban »

Excellent :lol:
Cthulhu Invictus: Limes Obscurus. Certaines forêts sont plus sombres que d'autres
Dark Operators, un hack du BRP pour Delta Green avec sa feuille de PJ. Du poulpe et des Forces Spéciales.
Un cadavre encombrant Un prologue alternatif à La Ville en Jaune
Répondre