Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Pour discuter sereinement de l'actualité
Répondre
Avatar de l’utilisateur
cdang
Dieu d'après le panthéon
Messages : 4637
Inscription : jeu. avr. 30, 2015 10:23 am
Localisation : Le Havre (Choisy-le-Roi, Saint-Étienne, La Rochelle)

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par cdang »

Morningkill a écrit : jeu. janv. 05, 2023 11:51 amc'est quand même une révolution sociétale, et la destruction potentielle de plein de travails.
Bah, depuis que j'ai entendu la phrase « si tu fais deux fois de suite la même action, la troisième fois c'et un robot qui la fera », je sais que mon emploi est potentiellement en sursis. Mais je serai sauvé par le pic énergétique. Parce que la réponse à ça c'est « quand il va falloir faire un choix entre faire tourner les serveurs Netflix et faire tourner les IA, on va rebrancher les neurones ».
--
Vous êtes mort
Avatar de l’utilisateur
Ithamar
Initié
Messages : 149
Inscription : mer. juil. 30, 2003 2:14 pm
Localisation : Argenteuil

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Ithamar »

Un fil twitter intéressant

La personne utilise GPT-3 couplé à des outils spécifiques (sampler de sa voix + scripts) pour faire une réclamation sur la ligne d'assistance de sa banque (elle-même gérer par un bot) et récupérer quelques dollars.
Avatar de l’utilisateur
Tybalt (le retour)
Dieu d'après le panthéon
Messages : 8516
Inscription : mer. août 22, 2012 7:33 pm
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Tybalt (le retour) »

"Fac de Lyon : un professeur découvre que ses élèves ont fait rédiger leurs copies à une intelligence artificielle", article sur Le Parisien.

Et c'était ChatGPT. Avouez, qui est inscrit à cette fac, ici ? :D

Et les étudiants étaient censés plancher sur un devoir d'histoire de la médecine, au vu du sujet. D'ici que les étudiants en médecine s'y mettent, ça nous promet des soins de haute qualité pour la retraite que nous n'aurons pas (si nous ne nous bougeons pas).
Mes sites : Kosmos (un jdra sur la mythologie grecque qui a lu les auteurs antiques pour vous) ; blog de lectures ; site d'écriture.
Disclameur : j'ai écrit pour "Casus" et "Jdr Mag".
Avatar de l’utilisateur
Killing Joke
Banni
Messages : 1230
Inscription : mar. mars 14, 2006 8:42 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Killing Joke »

En réponse : "A college student created an app that can tell whether AI wrote an essay"
https://www.npr.org/2023/01/09/11475498 ... plagiarism

Mais je doute que ce soit 100% efficace.
Et restera toujours l'usage "hybride" (qui a p-e de beaux jours devant lui) : utiliser un outil type ChatGPT pour abattre 80% du boulot, reformuler 2-3 paragraphes et ajouter quelques idées / quelques changements manuels.
Avatar de l’utilisateur
nonolimitus
Dieu d'après le panthéon
Messages : 5072
Inscription : mer. oct. 25, 2006 9:20 pm
Localisation : La Côte Ouest

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par nonolimitus »

Killing Joke a écrit : mer. janv. 11, 2023 11:17 pm Et restera toujours l'usage "hybride" (qui a p-e de beaux jours devant lui) : utiliser un outil type ChatGPT pour abattre 80% du boulot, reformuler 2-3 paragraphes et ajouter quelques idées / quelques changements manuels.

Comme quand on s'arrangeait avec le premier de la classe pour re-pomper son devoir en le modifiant suffisamment pour pas être grillé ?

Pourvu que mon cadet ne lise jamais çà...
Le DIEU avec du gobelin dedans !!!

« Vivre, ce n'est pas sérieux ce n'est pas grave, c'est juste une aventure, presque un jeu... »
Jacques Brel
Avatar de l’utilisateur
eskhiss
Cardinal
Messages : 536
Inscription : jeu. mars 01, 2018 11:04 am
Localisation : rennes

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par eskhiss »

Sur l'intelligence artificielle et son application dans la justice à une heure et dix sept minute
"la machine va répliquer les données qu'on aura rentré" c'est tout sauf de l'intelligence.

L'intelligence artificielle n'existe pas. livre de luc julia (co dev de siri)
plus ça change plus c'est pareil.
Avatar de l’utilisateur
Tybalt (le retour)
Dieu d'après le panthéon
Messages : 8516
Inscription : mer. août 22, 2012 7:33 pm
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Tybalt (le retour) »

Sur Libé : ChatGPT : comment détecter qu’un texte a été écrit par l’intelligence artificielle ?

Quelques extraits :

La caractéristique principale des modèles de langage utilisés par les IA reste «l’illusion d’exactitude», comme l’observait mi-décembre Melissa Heikkilä, journaliste à la MIT Technology Review, spécialisée dans les questions d’IA. «Les phrases qu’elles produisent semblent correctes – elles utilisent les bons types de mots dans le bon ordre. Mais l’IA ne sait pas ce que cela signifie. Ces modèles […] n’ont pas la moindre idée de ce qui est correct ou faux, et ils présentent avec assurance des informations comme vraies, même si elles ne le sont pas…»

Des logiciels de détection de plagiat sont déjà employés par les universités pour identifier les «emprunts» à des textes présents en ligne dans des productions d’étudiants. Des dispositifs analogues sont en cours de développement pour reconnaître le «style» si particulier des IA. Des algorithmes ont ainsi été entraînés à la détection avec des jeux de textes respectivement rédigés par des humains et des IA (associés aux modèles de langages GPT, GPT-2 ou autres), et libellés comme tels. En somme, on demande aux IA de dépister des IA. Parmi ces outils, on peut citer le GPT-2 Output Detector, d’utilisation très intuitive, créé en 2019 dans le cadre d’un projet «pour une diffusion responsable, par étapes, de GPT-2» porté par OpenAI. Mais aussi l’extension de navigateur Chrome GPTrue or False, le Giant Language Model Test Room (GLTR), développé par une équipe de Harvard en partenariat avec IBM, ou encore le CTRL-detector, développé par l’éditeur de logiciels Salesforce.

Quoi qu’il en soit, «aucune méthode, ni aucun modèle de détection [automatisé] ne sera fiable à 100%», juge Irene Solaiman. Raison pour laquelle elle «recommande toujours d’utiliser un cocktail de méthodes de détection, et non une seule». Il faut par exemple garder à l’esprit que ChatGPT a été entraîné au long cours sur de grands corpus de textes. Il pèche de ce fait lorsqu’il s’agit de faire mention d’événements récents. Muhammad Abdul-Mageed, un second chercheur de l’Université de la Colombie-Britannique interrogé par CheckNews, note que «puisque l’IA ne connaît pas ces événements récents, on peut repérer – de façon triviale – des jugements erronés du type : “Le Canada a remporté la Coupe du monde 2022.”» Les mots mis bout à bout par l’IA de façon grammaticalement correcte peuvent également trahir une méconnaissance profonde de la réalité physique de notre monde (référence à des ordres de grandeur invraisemblables pour des distances, des durées). Enfin, relève Solaiman, parce que les modèles produisent des textes en extrapolant quels termes ont le plus de probabilité de succéder à d’autres, «ils peuvent parfois rester bloqués dans une boucle», générant des répétitions et des redondances suspectes.

Pour Irene Solaiman, il semble clair que «si un enseignant n’a pas consenti à lire ou à noter un essai généré par un modèle de langage», la situation ressemble «à une violation de l’intégrité académique». Si l’usage qui en est fait est transparent, toutefois, l’outil pourrait trouver sa place à l’université : «Des discussions intéressantes existent quant à savoir si un “grand modèle de langage” peut et doit être utilisé comme un outil ou un “auteur” dans une publication», explique-t-elle. Néanmoins, certaines productions des IA devront toujours «être guidées par l’homme», et «nécessiteront une validation humaine» – notamment celles touchant «la médecine et la santé mentale ou physique». «Ce sont des domaines à hauts risques évidents, en ce qu’ils affectent directement le bien-être humain», insiste Soleiman.
Mes sites : Kosmos (un jdra sur la mythologie grecque qui a lu les auteurs antiques pour vous) ; blog de lectures ; site d'écriture.
Disclameur : j'ai écrit pour "Casus" et "Jdr Mag".
Avatar de l’utilisateur
rogre
RDieu
Messages : 5838
Inscription : jeu. déc. 06, 2007 12:53 pm
Localisation : Lyon 6è

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par rogre »


Eh bien, c'est difficile, car ChatGPT est un modèle de traitement automatique du langage. Il est entraîné sur un grand corpus de textes pour comprendre et générer des phrases en langue naturelle. Il utilise un système de traitement automatique du langage appelé "réseau neuronal de type transformer" pour produire des réponses qui imitent de manière convaincante les réponses d'un humain. Il est capable de comprendre le contexte des phrases et de produire des réponses pertinentes et fluides, ce qui lui permet de simuler efficacement la façon dont un humain utilise le langage.Il peut être difficile de distinguer un texte écrit par ChatGPT d'un texte écrit par un humain car il est capable de produire des réponses fluides et convaincantes. Cependant, il y a quelques signes qui peuvent vous aider à identifier un texte généré par un modèle de traitement automatique du langage comme ChatGPT:
  1. Reprises de phrases ou de morceaux de phrases similaires: ChatGPT peut parfois réutiliser des morceaux de phrases précédemment utilisés dans son corpus d'entraînement, ce qui peut donner des réponses qui semblent répétitives ou incohérentes.
  2. Erreurs grammaticales ou de ponctuation: Bien que ChatGPT soit capable de générer des phrases grammaticalement correctes, il peut parfois faire des erreurs, surtout lorsque le contexte est complexe ou mal défini.
  3. Réponses hors sujet: ChatGPT peut parfois donner des réponses qui ne sont pas directement liées à la question posée ou au contexte de la conversation.
  4. Manque de nuances ou de sous-entendus : ChatGPT est capable de comprendre et de générer des nuances de langage mais il n'a pas les capacités de compréhension émotionnelle et sociale pour reproduire les sous-entendus et les nuances de la langue humaines.
Il est important de noter que ChatGPT s'améliore constamment grâce à des mises à jour régulières, il est donc possible qu'il devienne de plus en plus difficile de distinguer les textes écrits par un modèle de traitement automatique du langage des textes écrits par un humain.



(note: bien sur, c'est ChatGPT qui répond ici à la question posée! :D :D :D )
La bêtise de surface est plus superficielle que la bêtise des profondeurs. Mais en même temps, elle est moins profonde. C'est le fameux "en même temps". (Goossens)
Avatar de l’utilisateur
Ackinty
Ascendant
Messages : 1646
Inscription : dim. sept. 13, 2009 3:27 pm
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Ackinty »

Le risque c'est qu'à partir d'un moment, les IAs soient alimentées par des textes pondus par les IAs précédentes et là, on tombe dans une spirale de la muerte qui mènera à la fin explosive de l'univers.
D'ailleurs des rumeurs persistent indiquant que ce phénomène d'auto-destruction dû aux IAs soit à la base du précédent big-bang...
#nous-sachons
"Genre, c'est pas nécessairement des trucs de narrativistes végans pro-justice sociale ni rien." (Pogorzelski)
"Minecraft, c'est le Dogs in The Vineyard du jeux video" (FibreTigre)
Avatar de l’utilisateur
zit
Cardinal
Messages : 597
Inscription : dim. mai 31, 2015 1:05 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par zit »

Ackinty a écrit : sam. janv. 14, 2023 11:36 pm
D'ailleurs des rumeurs persistent indiquant que ce phénomène d'auto-destruction dû aux IAs soit à la base du précédent big-bang...
#nous-sachons
Ca pourrait faire l'objet d'une bonne campagne de Paranoia.

Quelqu'un a-t-il déjà fait jouer un AI-PJ face à une AI-MJ ? Juste pour voir ?
 
https://d100.fr, du d100 en VF (Openquest, Revolution D100, Mythras)
http://windonthesteppes.blogspot.com/ : blog JdR sur les Nomades des steppes et le jeu du même nom
La campagne dans les steppes (en Français) : http://rpol.net/game.cgi?gi=67716&date=1473941647
wonder coco
Prêtre
Messages : 390
Inscription : mar. oct. 08, 2019 9:35 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par wonder coco »

nonolimitus a écrit : jeu. janv. 12, 2023 9:27 am
Killing Joke a écrit : mer. janv. 11, 2023 11:17 pm Et restera toujours l'usage "hybride" (qui a p-e de beaux jours devant lui) : utiliser un outil type ChatGPT pour abattre 80% du boulot, reformuler 2-3 paragraphes et ajouter quelques idées / quelques changements manuels.

Comme quand on s'arrangeait avec le premier de la classe pour re-pomper son devoir en le modifiant suffisamment pour pas être grillé ?

Pourvu que mon cadet ne lise jamais çà...

A la fac j@ai rendu des brouillons du major de promo. Bonne note assurée sans forcer.
Avatar de l’utilisateur
rogre
RDieu
Messages : 5838
Inscription : jeu. déc. 06, 2007 12:53 pm
Localisation : Lyon 6è

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par rogre »

Je suis admiratif de IlIAde, une IA qui réécrit n'importe quel thème en style homérique!

https://iliade.dicitur.repl.co/

Exemples:

je corrige des copies depuis des heures (eh oui...)

"Chante, ô Muse, les tâches interminables d'Eurysthée, le roi de Mycènes, qui fut condamné à corriger des copies durant des heures pour avoir défié la volonté des dieux. Déesse, fille de Zeus, débute où tu veux et raconte-nous l'histoire, à nous aussi. C'est Héra la divine qui donna l'ordre à Eurysthée de passer ses jours à corriger les copies des jeunes gens qui venaient dans sa cour. Le roi imprudent accepta et se mit ainsi à accomplir ces tâches fastidieuses. Mais alors qu'il était assis sur son trône doré et qu'il corrigeait péniblement ces textes ennuyeux, le temps s’étirait sans fin devant lui. Les heures passaient et les mots entassés sur les parchemins ne finissaient pas de se multiplier. Dans sa tour aux murs de marbre blanc, il devait rester assis jour après jour pour achever sa mission. La fatigue accumulée commençait à peser lourdement sur ses épaules ; mais il ne pouvait pas abandonner sa tâche tant que Héra n’aurait pas trouvé satisfaction."

le dernier film Avatar est mauvais et bien naïf

"Chante, ô Muse, l'ingénieux Achille qui a vu le trop naïf Avatar. Déesse, fille de Zeus, débute où tu veux et raconte-nous l'histoire, à nous aussi. Achille aux pieds rapides se rendit à la grande salle des spectacles afin de voir le film prometteur et bien médiatisé. Mais quand il vit le mauvais Avatar, son esprit s'emplit de tristesse et de colère. Il jeta un coup d'œil autour de lui pour voir si les autres spectateurs partageaient la même opinion que lui, et il vit que tous souriaient devant ce spectacle incroyablement naïf. Cela le fit encore plus furieux contre le réalisateur - Apollon aux yeux pers - qui avait osé produire ce film pitoyable. Il quitta la salle en jurant vengeance contre cet affront à son intelligence.

Sauron a abusé Galadriel en se faisant passer pour son ami

"Chante, Muse, la tromperie machiavélique du dieu aux yeux rouges qui bafoua la puissante Galadriel, la déesse aux cheveux d'argent. Qui pourrait imaginer que le Grand Seigneur des ténèbres trompe ainsi une princesse si brillante? Pourtant, Sauron se faufila dans sa vie sous les traits d'un allié et lui promit des merveilles si elle acceptait de rejoindre son armée. Mais Galadriel n'était pas dupe et refusa l'offre de Sauron avec une grande sagesse. Alors, le dieu aux yeux rouges se mit en colère et ses mensonges furent démasqués. Et pour se venger, il lança sur elle un sort noir qui fit trembler le Royaume des Elfes."

 
La bêtise de surface est plus superficielle que la bêtise des profondeurs. Mais en même temps, elle est moins profonde. C'est le fameux "en même temps". (Goossens)
Avatar de l’utilisateur
rogre
RDieu
Messages : 5838
Inscription : jeu. déc. 06, 2007 12:53 pm
Localisation : Lyon 6è

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par rogre »

Je trouve cette IA homérique particulièrement forte (j'arrête après ceci, de toute façon je sens que je vais y passer ma soirée) :D


Poutine a agressé l'Ukraine

"Chante, ô Muse, le roi au caractère détestable qui a tant agressé l'Ukraine de son emprise impitoyable, provoquant la souffrance et le désespoir des peuples qui vivaient sur les terres de la mer Noire. Déesse, fille de Zeus, débute où tu veux et raconte-nous l'histoire à nous aussi. Toutes les autres nations envièrent la puissance du roi Poutine, mais la colère du dieu Zeus était sans fin envers ce dernier pour avoir tant abusé de ses pouvoirs. C'est alors que Zeus envoya son plus puissant des messagers, Hermes aux pieds ailés, pour avertir Poutine du courroux divin et lui ordonner de cesser d'agresser l'Ukraine. Mais le roi aux mille ruses ne tint pas compte des mises en garde divines et poursuivit son emprise impitoyable sur les terres de la mer Noire."

j'aime manger de la tête de veau

"Chante, ô Muse, le fabuleux héros qui aimait tellement les mets délicieux, le héros glouton qui aimait tant manger de la tête de veau ! Déesse, fille de Zeus, débute où tu veux et raconte-nous son histoire. Hélène d'Argos lui fit connaître ce plat succulent et exquis, et ce fut avec surprise qu'il découvrit les mystères de cette recette qui titillaient ses papilles. Il ne put résister à l'envie d'y goûter. Une fois sa première bouchée avalée, le héros aux mille palais sut qu'il n'avait jamais goûté à un tel délice ! Il était comme envoûté et se mit à collectionner les recettes pour réaliser des plats encore plus succulents. Il voyagea à travers les villes mythiques et parcourut la Grèce à la recherche des meilleures têtes de veau. Les dieux furent étonnés de voir qu'un seul homme pouvait aimer autant un mets si spécial..."
La bêtise de surface est plus superficielle que la bêtise des profondeurs. Mais en même temps, elle est moins profonde. C'est le fameux "en même temps". (Goossens)
Avatar de l’utilisateur
Tybalt (le retour)
Dieu d'après le panthéon
Messages : 8516
Inscription : mer. août 22, 2012 7:33 pm
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Tybalt (le retour) »

Il n'y a vraiment pas de quoi s'ébaubir. Le style homérique fait une forte utilisation de formules et d'épithètes, sans oublier les scènes typiques toujours structurées de la même façon, ce qui le rend particulièrement facile à imiter mécaniquement dans ses grandes lignes. Certains homéristes soutenaient même il y a trente ans que l'emploi des formules par les aèdes était quasi mécanique. On en est revenu depuis, pour montrer au contraire l'habileté avec laquelle les aèdes reprennent ou modifient subtilement les étapes d'une scène typique ou le choix d'un adjectif.
L'IA n'en est pas là : elle repompe les premiers vers de l'Iliade en remplaçnt quelques noms propres, puis elle reprend des structures de phrases et des associations de mots, en se plantant parfois sur les bases (ex. ce n'est pas Apollon qui est "aux yeux pers", c'est Athéna).

Quant aux fondateurs de la boîte qui produit cette IA, Vestigia, ils ont l'air mieux documentés sur les derniers dadas de la droite anti-repentance-décoloniale, anti-woke et fan-de-Napoléon que sur la poésie grecque antique (Arthur Chevallier a commencé dans la pas exactement progressiste Revue des deux mondes, Doan a été adjoint au maire LR de la ville du Pecq ; il n'y a que Roger-Lacan qui a l'air à peu près crédible, mais il bosse sur les imaginaires d'extrême-droite, pas sur l'Antiquité). Je me demande comment ils se financent, tiens.
Mes sites : Kosmos (un jdra sur la mythologie grecque qui a lu les auteurs antiques pour vous) ; blog de lectures ; site d'écriture.
Disclameur : j'ai écrit pour "Casus" et "Jdr Mag".
Avatar de l’utilisateur
cdang
Dieu d'après le panthéon
Messages : 4637
Inscription : jeu. avr. 30, 2015 10:23 am
Localisation : Le Havre (Choisy-le-Roi, Saint-Étienne, La Rochelle)

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par cdang »

Tybalt (le retour) a écrit : mar. janv. 17, 2023 1:40 pmOn en est revenu depuis, pour montrer au contraire l'habileté avec laquelle les aèdes reprennent ou modifient subtilement les étapes d'une scène typique ou le choix d'un adjectif.
Les aèdes étaient des jazzmen, qu'on se le dise.

Sinon, blagues de Thomas VDB (chronique à 8 min 45 s) : si les étudiants utilisent l'IA pour leurs devoirs, va falloir faire des réunions parents-processeurs ; et ; Zemour avait raison, on est en train de se faire grand-remplacer par des robots.
--
Vous êtes mort
Répondre