Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Pour discuter sereinement de l'actualité
Répondre
Avatar de l’utilisateur
cdang
Dieu d'après le panthéon
Messages : 4636
Inscription : jeu. avr. 30, 2015 10:23 am
Localisation : Le Havre (Choisy-le-Roi, Saint-Étienne, La Rochelle)

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par cdang »

Deimoss a écrit : jeu. déc. 08, 2022 8:11 pm
Vorghyrn a écrit : jeu. déc. 08, 2022 6:51 pm Et, outre des application évidente en politique, je veux que ça marche en anglais. Parce que les américains, entre autres, sont les rois de l'enrobage. C'est parfois fatigant de retirer tous leurs superlatifs et leur contournement pour avoir l'information brut...
En fait tu veux tuer le métier de politicien, terroriste! :P
Ya déjà des bouquins qui font ça très bien, par exemple le Petit cours d'autodéfense intellectuelle de Normand Baillargeon (2005).
--
Vous êtes mort
BenjaminP
Dieu d'après le panthéon
Messages : 1702
Inscription : sam. mars 02, 2019 1:33 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par BenjaminP »

Voilà quelque chose qui pourra impressionner : fil twitter d'un type qui demande à ChatGPT de lui faire un programme alimentaire à la demande pour son régime.

C'est une demande à l'opposé d'une utilisation créative, puisqu'ici le but est de pouvoir lui faire confiance pour nous donner des informations fiables. C'est exactement là que je plaçais mes doutes : je me méfie d'une IA dont le but est de "faire comme si". Si elle a été pensée avant tout pour passer le test de Turing, elle ne sera pas destinée à être fiable, seulement à faire semblant. Elle ne va pas vérifier l'information, se nourrir exclusivement à des sources sûres, supprimer les erreurs au fur et à mesure, mais se débrouiller pour obtenir un résultat suffisamment proche de ce qu'un humain dirait pour passer le test.

Je préférerais mille fois une IA qui ne s'exprimerait pas en langage naturel mais sur laquelle je pourrais compter pour avoir vérifié les informations qu'elle me donne. Ça ce serait l'IA Jervis, "donne-moi des infos utiles et fiables ici et maintenant dans un format adapté".

Là, la question est : peut-on faire confiance à ChatGPT ? En quelle mesure ? Dans quels domaines ?
Enjeu Solo, l'émulateur de MJ qu'il est beau ! Pour toutes vos parties sans MJ, Enjeu Solo contient les oracles qu'il vous faut. Dynamisez la narration, adaptez-la au rythme du récit, tenez compte des enjeux et surprenez tout le monde, vous le premier.
Avatar de l’utilisateur
KamiSeiTo
Dieu aux ailes de papillon
Messages : 4401
Inscription : lun. août 27, 2007 7:05 pm
Localisation : Bruxelles

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par KamiSeiTo »

BenjaminP a écrit : ven. déc. 09, 2022 5:05 pm Voilà quelque chose qui pourra impressionner : fil twitter d'un type qui demande à ChatGPT de lui faire un programme alimentaire à la demande pour son régime.

C'est une demande à l'opposé d'une utilisation créative, puisqu'ici le but est de pouvoir lui faire confiance pour nous donner des informations fiables. C'est exactement là que je plaçais mes doutes : je me méfie d'une IA dont le but est de "faire comme si". Si elle a été pensée avant tout pour passer le test de Turing, elle ne sera pas destinée à être fiable, seulement à faire semblant. Elle ne va pas vérifier l'information, se nourrir exclusivement à des sources sûres, supprimer les erreurs au fur et à mesure, mais se débrouiller pour obtenir un résultat suffisamment proche de ce qu'un humain dirait pour passer le test.

Je préférerais mille fois une IA qui ne s'exprimerait pas en langage naturel mais sur laquelle je pourrais compter pour avoir vérifié les informations qu'elle me donne. Ça ce serait l'IA Jervis, "donne-moi des infos utiles et fiables ici et maintenant dans un format adapté".

Là, la question est : peut-on faire confiance à ChatGPT ? En quelle mesure ? Dans quels domaines ?

Pour ceux qui ne veulent/peuvent pas aller sur Twitter, en conclusion est-ce que l'IA lui a proposé un bon régime scientifiquement sourcé ou c'était la foire au n'importe quoi ? n_n
Proposer un jeu qui soit au service d’une façon de jouer spécifique et, surtout sans tomber dans le piège de ne pas en permettre d’autre, néanmoins tout inféoder à cette dernière.
Brand.
BenjaminP
Dieu d'après le panthéon
Messages : 1702
Inscription : sam. mars 02, 2019 1:33 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par BenjaminP »

KamiSeiTo a écrit : ven. déc. 09, 2022 6:26 pm
Pour ceux qui ne veulent/peuvent pas aller sur Twitter, en conclusion est-ce que l'IA lui a proposé un bon régime scientifiquement sourcé ou c'était la foire au n'importe quoi ? n_n

Je n'en sais rien. Comment savoir ? C'est bien toute la question.
ChatGPT a l'air très sûr de lui.
Enjeu Solo, l'émulateur de MJ qu'il est beau ! Pour toutes vos parties sans MJ, Enjeu Solo contient les oracles qu'il vous faut. Dynamisez la narration, adaptez-la au rythme du récit, tenez compte des enjeux et surprenez tout le monde, vous le premier.
Avatar de l’utilisateur
Kandjar
Envoyé de la Source
Messages : 10413
Inscription : sam. févr. 05, 2005 9:32 pm
Localisation : Petit mouroir tout gris entre l'Allemagne et la vie

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Kandjar »

BenjaminP a écrit : ven. déc. 09, 2022 7:04 pm
KamiSeiTo a écrit : ven. déc. 09, 2022 6:26 pm
Pour ceux qui ne veulent/peuvent pas aller sur Twitter, en conclusion est-ce que l'IA lui a proposé un bon régime scientifiquement sourcé ou c'était la foire au n'importe quoi ? n_n

Je n'en sais rien. Comment savoir ? C'est bien toute la question.
ChatGPT a l'air très sûr de lui.

Ça ne serait pas malin de poser ce genre de question à n'importe qui, en partant du principe que si j'ai personne a l'air sûre d'elle, c'est sûrement fondé.
Ça ne l'est pas plus de poser cette même question à un bot.
Dieu des mecs un peu trop naïfs
dK synergique for ever
ImageImageImageImageImageImage
Avatar de l’utilisateur
KamiSeiTo
Dieu aux ailes de papillon
Messages : 4401
Inscription : lun. août 27, 2007 7:05 pm
Localisation : Bruxelles

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par KamiSeiTo »

J'en sais rien le twittos aurait pu être diététicien et justement que ce soit la raison de son test, ou avoir montré ça à son diététicien pour avoir son avis... ^^'
Proposer un jeu qui soit au service d’une façon de jouer spécifique et, surtout sans tomber dans le piège de ne pas en permettre d’autre, néanmoins tout inféoder à cette dernière.
Brand.
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 11667
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Qui Revient de Loin »

Pour la rubrique "minceur" de gala, c'est sans doute très pertinent, mais comme la plupart du temps les "régimes" ne servent qu'à empirer les choses et faire tourner le business, ça ne peut que être de la m*** en barre.
10 contre un par exemple que cela prend en compte les moyennes du métabolisme basal et l'IMC par exemple, or ces trucs ne sont statistiquement pertinents qu'à l'échelle de large population, certainement pas à celle des individus. Donc déjà, ça part sur des bases fausses (mais largement exploitées par les vendeurs de faim & coupe-faim, et donc ayant certainement "alimenter" l'IA).
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Avatar de l’utilisateur
Altay
Ascendant
Messages : 1518
Inscription : sam. mai 07, 2016 12:04 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Altay »

Globalement, les modèles de langage comme (Chat)GPT utilisent des « concepts » qui sont définis par le contexte dans lequel ils apparaissent. Par exemple, si ChatGPT répond « Michael Jordan est né le 17 février 1963 » à la question « Quelle est la date d'anniversaire de Michael Jordan ? », c'est parce que « 17 février 1963 » apparaît très fréquemment dans les textes utilisés pour l'apprentissage de l'IA en conjonction de "Michael Jordan" et "naissance" ou "anniversaire".

C'est pour ça que le texte généré est souvent très plausible : c'est de l'imitation d'un grand corpus de textes très diversifiés et qui peut s'adapter à de nombreux contextes. Mais il n'y a aucune vérification de la logique des affirmations, puisque l'IA ne manipule pas de « faits ». Seulement des chaînes de mots qui ont plus ou moins de probabilités d'apparaître dans certains contextes.
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 11667
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Qui Revient de Loin »

C'est bien ce qui rend la chose dangereuse : plausible, mais sans doute faux. Pas une question de volonté maléfique de Skynet, juste une absence de concept ("la vérité", "la science") sous des atours qui en imitent parfaitement l'apparence.
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
BenjaminP
Dieu d'après le panthéon
Messages : 1702
Inscription : sam. mars 02, 2019 1:33 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par BenjaminP »

Qui Revient de Loin a écrit : dim. déc. 11, 2022 1:27 am C'est bien ce qui rend la chose dangereuse : plausible, mais sans doute faux. Pas une question de volonté maléfique de Skynet, juste une absence de concept ("la vérité", "la science") sous des atours qui en imitent parfaitement l'apparence.

Exactement.
Enjeu Solo, l'émulateur de MJ qu'il est beau ! Pour toutes vos parties sans MJ, Enjeu Solo contient les oracles qu'il vous faut. Dynamisez la narration, adaptez-la au rythme du récit, tenez compte des enjeux et surprenez tout le monde, vous le premier.
Avatar de l’utilisateur
haplo
Messie
Messages : 1142
Inscription : ven. août 31, 2018 11:16 am
Localisation : Châteaubourg

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par haplo »

Mais du coup, pour ceux qui connaissent un peu la partie production de la problématique, y a t il des développements d'outils pour ces ia relatives a la fiabilité de l'information ? Des impementations de procédés qui vont dans ce sens et seraient intégrées a leur développement ? Ou est ce un truc complètement a côté du sujet ?
Avatar de l’utilisateur
KamiSeiTo
Dieu aux ailes de papillon
Messages : 4401
Inscription : lun. août 27, 2007 7:05 pm
Localisation : Bruxelles

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par KamiSeiTo »

Peut-être en les nourrissant uniquement à des sources spécifiques (ce qui fait que ce seraient sans doute des IA différentes par domaine), genre publications scientifiques de journaux sérieux genre The Lancet ou Nature pour les questions médicales ?
Faudrait distinguer peut-être la base de données qui leur donne la structure du langage de la base de données qui leur donne le fond des informations ?
Proposer un jeu qui soit au service d’une façon de jouer spécifique et, surtout sans tomber dans le piège de ne pas en permettre d’autre, néanmoins tout inféoder à cette dernière.
Brand.
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 11667
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Qui Revient de Loin »

On a bien réussi à faire des IA donnant de meilleurs diagnostiques que les médecins.

Mais c'est à partir de radio, donc de reconnaissance d'images (domaine fort pour les IA), l'apprentissage (à base uniquement de vraies radios) ayant permis aux IA de découvrir des choses que les médecins ne savent pas (et qu'elles ne leur diront jamais...).
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Avatar de l’utilisateur
Killing Joke
Banni
Messages : 1230
Inscription : mar. mars 14, 2006 8:42 pm

Re: Synthèse d'images (Dall-E, Imagen, Midjourney, StableDiffusion, etc.)

Message par Killing Joke »

Vorghyrn a écrit : mer. déc. 07, 2022 9:08 am /HS

PS on peut bouger cette discussion en sujet "Sciences" éventuellement ;)  

@Killing Joke : Vu par de par chez moi (utilisateur avancé d'IA*) la situation parait assez différente.

(plein de choses)
 

Pas eu le temps de répondre avant, mais, pour résumer : je suis d'accord avec tout ce que tu dis par rapport à l'utilisation qu'il sera possible de faire de l'IA actuelle (et pas d'accord sur les étapes au dessus, voir plus loin).
Ce que tu évoques, c'est ce que je mettais sous le terme "d'industrialisation des technologies actuelles", qui vont permettre d'aller (parfois beaucoup) plus loin dans les années à venir, en améliorant les résultats, en croisant les domaines, en bénéficiant d'optimisations et de meilleures performances : et oui, il y aura des choses bluffantes.

Mais la question à laquelle je répondais était, de tête, la "compréhension réelle du texte", et là, pour ma part (et je ne demande qu'à ce qu'on me montre le contraire), je ne vois *rien* qui aille vers une capacité de compréhension globale par un système informatique (et c'est çà dont je suis dubitatif sur la capacité à être prêt dans 10 ans, même si, évidemment, tout s'accélère et je peux tout à fait me tromper). Pour expliquer.

Prenons un petit texte bidon en entrée (je me demande s'il n'y a pas un cas d'usage célèbre qui ressemble un peu çà) : "Une boulangerie vend des croissants à un euro pièce. Une cliente rentre dans la boulangerie avec 0.50 cts en poche pour acheter un croissant. Elle ressort les mains vides.". Question : "Pourquoi ?" (réponse bien sûr : parce qu'elle n'a pas assez d'argent).

Du coup où en es-t'on sur ce sujet :

- il est tout à fait possible que ChatGPT soit capable de répondre, mais en ayant pioché / appris sa réponse dans une somme de textes / documentations pré-existantes et ayant fait des relations qui pourront donner des résultats justes, mais sans que le système ait la moindre compréhension réelle des concepts évoqués. Pour moi on en est toujours là aujourd'hui

- un système intelligent aurait besoin de "contexte" (l'énoncé ci-avant implique énormément de données contextuelles non décrit, sur la notion de vendre, ce qu'est "un euro" = "de l'argent" = "un moyen intermédiaire de faire du troc", ce qu'est le troc, les valeurs numériques, ce que veut dire "sortir les mains vides", "rentrer dans une boulangerie", etc. : tout çà, un lecteur humain en connaît l'interprétation par apprentissage et/ou vécu). Et donc, un système intelligent aurait ce contexte, aurait la compréhension des relations entre les concepts, et aurait (sans apprentissage, sans piocher dans des données existantes) la capacité de faire des déductions / interprétations logiques (et donc à répondre à n'importe quelle question, même une question qui n'a jamais été posée nulle part). La capacité de "compréhension de texte" nécessite tout çà (sinon on est dans la solution "1" qui sera une "astuce", pourra bien sûr être utilisée dans de nombreuses situations pratiques (écrire un scénario de jdr, optimiser la circulation à un carrefour de ville, etc.), mais aura ses limites (comme la difficulté à répondre à des questions auxquelles l'homme n'a jamais répondu avant).

On se rapproche un peu des tests de Blade Runner pour détecter les réplicants sur ces discussions...

Deux exemples "amusants" ou en tout cas en lien :

- cette semaine, il semble qu'à la question posée à ChatGPT "Qu'est ce qui pèse le plus lourd entre un kilo de plomb et un kilo d'air", la réponse de l'IA ait systématiquement été "le métal, car sa densité est plus élevée" ... Ca a été "corrigé", mais çà montre quand même les erreurs manifestes qui peuvent survenir en procédant à des mauvais appairages sur les données pré-existantes (et sans compréhension fine des notions). Voir ce thread : https://twitter.com/alexhern/status/159 ... hat-gpt%2F

- je n'ai pas noté le lien, mais il y a eu un article sur le côté "raciste" de ChatGPT, en demandant d'écrire un script python d'embauche, et où le code généré se retrouvait avec une logique "si homme alors ... / si femme alors ... + si européen / si africain"

(sinon sur le "do, try, repeat", pour moi çà reste toujours beaucoup çà, même si en effet c'est réutilisable / portable sur d'autres contextes + le fait pour AlphaGo ne combattre contre lui même est uniquement un artifice (rapide et facile à mettre en oeuvre) pour avoir le "score" de chaque itération, bref, un artifice d'implémentation technique (très bien vu et très adapté au demeurant)

A l'inverse, un article bluffant (notamment par le côté "itératif" de la construction), qui part donc de la demande de création d'un nouveau langage, avec vocabuaire, verbes, conjugaison, et se termine par la demande de création d'un script python (fonctionnel) de traduction : "I Taught ChatGPT to Invent a Language"
https://maximumeffort.substack.com/p/i- ... a-language
Avatar de l’utilisateur
BlackJack
Dieu du mec qu'on sait pas qui c'est
Messages : 7597
Inscription : lun. mai 30, 2005 2:30 pm
Localisation : A consommer avec modération

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par BlackJack »

Qui Revient de Loin a écrit : dim. déc. 11, 2022 11:45 am On a bien réussi à faire des IA donnant de meilleurs diagnostiques que les médecins.

Mais c'est à partir de radio, donc de reconnaissance d'images (domaine fort pour les IA), l'apprentissage (à base uniquement de vraies radios) ayant permis aux IA de découvrir des choses que les médecins ne savent pas (et qu'elles ne leur diront jamais...).

On peut avoir des sources sur cette affirmation parcequ'hormis le barnum chinois avec le concours de diagnostic de tumeurs encensé par des gens comme Laurent Alexandre ou Vallancien ,j'ai pas vu grand chose de fiable en publication.

Et pour avoir testé avec mon service de radiologie,l'Ia considérée comme la plus avancée sur les radios des urgences ca reste trés moyen ( quasiment la moitié des cartillages de conjugaison de l'enfant étant considéré par l'Ia comme une fracture ) 

De toute facon,si l'IA devenait subitement plus pertinente qu'un radiologue (et on est encore trés loin) l'aspect ethique et légal quand à la responsabilité du résultat sont encore des sujets qui sont à discuter 
Répondre