CasusNO

Deimoss a écrit : ↑jeu. déc. 08, 2022 8:11 pm

Vorghyrn a écrit : ↑jeu. déc. 08, 2022 6:51 pm Et, outre des application évidente en politique, je veux que ça marche en anglais. Parce que les américains, entre autres, sont les rois de l'enrobage. C'est parfois fatigant de retirer tous leurs superlatifs et leur contournement pour avoir l'information brut...

En fait tu veux tuer le métier de politicien, terroriste!

Ya déjà des bouquins qui font ça très bien, par exemple le Petit cours d'autodéfense intellectuelle de Normand Baillargeon (2005).

Voilà quelque chose qui pourra impressionner : fil twitter d'un type qui demande à ChatGPT de lui faire un programme alimentaire à la demande pour son régime.

C'est une demande à l'opposé d'une utilisation créative, puisqu'ici le but est de pouvoir lui faire confiance pour nous donner des informations fiables. C'est exactement là que je plaçais mes doutes : je me méfie d'une IA dont le but est de "faire comme si". Si elle a été pensée avant tout pour passer le test de Turing, elle ne sera pas destinée à être fiable, seulement à faire semblant. Elle ne va pas vérifier l'information, se nourrir exclusivement à des sources sûres, supprimer les erreurs au fur et à mesure, mais se débrouiller pour obtenir un résultat suffisamment proche de ce qu'un humain dirait pour passer le test.

Je préférerais mille fois une IA qui ne s'exprimerait pas en langage naturel mais sur laquelle je pourrais compter pour avoir vérifié les informations qu'elle me donne. Ça ce serait l'IA Jervis, "donne-moi des infos utiles et fiables ici et maintenant dans un format adapté".

Là, la question est : peut-on faire confiance à ChatGPT ? En quelle mesure ? Dans quels domaines ?

BenjaminP a écrit : ↑ven. déc. 09, 2022 5:05 pm Voilà quelque chose qui pourra impressionner : fil twitter d'un type qui demande à ChatGPT de lui faire un programme alimentaire à la demande pour son régime.

C'est une demande à l'opposé d'une utilisation créative, puisqu'ici le but est de pouvoir lui faire confiance pour nous donner des informations fiables. C'est exactement là que je plaçais mes doutes : je me méfie d'une IA dont le but est de "faire comme si". Si elle a été pensée avant tout pour passer le test de Turing, elle ne sera pas destinée à être fiable, seulement à faire semblant. Elle ne va pas vérifier l'information, se nourrir exclusivement à des sources sûres, supprimer les erreurs au fur et à mesure, mais se débrouiller pour obtenir un résultat suffisamment proche de ce qu'un humain dirait pour passer le test.

Je préférerais mille fois une IA qui ne s'exprimerait pas en langage naturel mais sur laquelle je pourrais compter pour avoir vérifié les informations qu'elle me donne. Ça ce serait l'IA Jervis, "donne-moi des infos utiles et fiables ici et maintenant dans un format adapté".

Là, la question est : peut-on faire confiance à ChatGPT ? En quelle mesure ? Dans quels domaines ?

Pour ceux qui ne veulent/peuvent pas aller sur Twitter, en conclusion est-ce que l'IA lui a proposé un bon régime scientifiquement sourcé ou c'était la foire au n'importe quoi ? n_n

KamiSeiTo a écrit : ↑ven. déc. 09, 2022 6:26 pm
Pour ceux qui ne veulent/peuvent pas aller sur Twitter, en conclusion est-ce que l'IA lui a proposé un bon régime scientifiquement sourcé ou c'était la foire au n'importe quoi ? n_n

Je n'en sais rien. Comment savoir ? C'est bien toute la question.
ChatGPT a l'air très sûr de lui.

BenjaminP a écrit : ↑ven. déc. 09, 2022 7:04 pm

KamiSeiTo a écrit : ↑ven. déc. 09, 2022 6:26 pm
Pour ceux qui ne veulent/peuvent pas aller sur Twitter, en conclusion est-ce que l'IA lui a proposé un bon régime scientifiquement sourcé ou c'était la foire au n'importe quoi ? n_n

Je n'en sais rien. Comment savoir ? C'est bien toute la question.
ChatGPT a l'air très sûr de lui.

Ça ne serait pas malin de poser ce genre de question à n'importe qui, en partant du principe que si j'ai personne a l'air sûre d'elle, c'est sûrement fondé.
Ça ne l'est pas plus de poser cette même question à un bot.

J'en sais rien le twittos aurait pu être diététicien et justement que ce soit la raison de son test, ou avoir montré ça à son diététicien pour avoir son avis... ^^'

Pour la rubrique "minceur" de gala, c'est sans doute très pertinent, mais comme la plupart du temps les "régimes" ne servent qu'à empirer les choses et faire tourner le business, ça ne peut que être de la m*** en barre.
10 contre un par exemple que cela prend en compte les moyennes du métabolisme basal et l'IMC par exemple, or ces trucs ne sont statistiquement pertinents qu'à l'échelle de large population, certainement pas à celle des individus. Donc déjà, ça part sur des bases fausses (mais largement exploitées par les vendeurs de faim & coupe-faim, et donc ayant certainement "alimenter" l'IA).

Globalement, les modèles de langage comme (Chat)GPT utilisent des « concepts » qui sont définis par le contexte dans lequel ils apparaissent. Par exemple, si ChatGPT répond « Michael Jordan est né le 17 février 1963 » à la question « Quelle est la date d'anniversaire de Michael Jordan ? », c'est parce que « 17 février 1963 » apparaît très fréquemment dans les textes utilisés pour l'apprentissage de l'IA en conjonction de "Michael Jordan" et "naissance" ou "anniversaire".

C'est pour ça que le texte généré est souvent très plausible : c'est de l'imitation d'un grand corpus de textes très diversifiés et qui peut s'adapter à de nombreux contextes. Mais il n'y a aucune vérification de la logique des affirmations, puisque l'IA ne manipule pas de « faits ». Seulement des chaînes de mots qui ont plus ou moins de probabilités d'apparaître dans certains contextes.

C'est bien ce qui rend la chose dangereuse : plausible, mais sans doute faux. Pas une question de volonté maléfique de Skynet, juste une absence de concept ("la vérité", "la science") sous des atours qui en imitent parfaitement l'apparence.

Qui Revient de Loin a écrit : ↑dim. déc. 11, 2022 1:27 am C'est bien ce qui rend la chose dangereuse : plausible, mais sans doute faux. Pas une question de volonté maléfique de Skynet, juste une absence de concept ("la vérité", "la science") sous des atours qui en imitent parfaitement l'apparence.

Exactement.

Mais du coup, pour ceux qui connaissent un peu la partie production de la problématique, y a t il des développements d'outils pour ces ia relatives a la fiabilité de l'information ? Des impementations de procédés qui vont dans ce sens et seraient intégrées a leur développement ? Ou est ce un truc complètement a côté du sujet ?

Peut-être en les nourrissant uniquement à des sources spécifiques (ce qui fait que ce seraient sans doute des IA différentes par domaine), genre publications scientifiques de journaux sérieux genre The Lancet ou Nature pour les questions médicales ?
Faudrait distinguer peut-être la base de données qui leur donne la structure du langage de la base de données qui leur donne le fond des informations ?

On a bien réussi à faire des IA donnant de meilleurs diagnostiques que les médecins.

Mais c'est à partir de radio, donc de reconnaissance d'images (domaine fort pour les IA), l'apprentissage (à base uniquement de vraies radios) ayant permis aux IA de découvrir des choses que les médecins ne savent pas (et qu'elles ne leur diront jamais...).

Vorghyrn a écrit : ↑mer. déc. 07, 2022 9:08 am /HS

PS on peut bouger cette discussion en sujet "Sciences" éventuellement   

@Killing Joke : Vu par de par chez moi (utilisateur avancé d'IA*) la situation parait assez différente.

(plein de choses)
 

Pas eu le temps de répondre avant, mais, pour résumer : je suis d'accord avec tout ce que tu dis par rapport à l'utilisation qu'il sera possible de faire de l'IA actuelle (et pas d'accord sur les étapes au dessus, voir plus loin).
Ce que tu évoques, c'est ce que je mettais sous le terme "d'industrialisation des technologies actuelles", qui vont permettre d'aller (parfois beaucoup) plus loin dans les années à venir, en améliorant les résultats, en croisant les domaines, en bénéficiant d'optimisations et de meilleures performances : et oui, il y aura des choses bluffantes.

Mais la question à laquelle je répondais était, de tête, la "compréhension réelle du texte", et là, pour ma part (et je ne demande qu'à ce qu'on me montre le contraire), je ne vois *rien* qui aille vers une capacité de compréhension globale par un système informatique (et c'est çà dont je suis dubitatif sur la capacité à être prêt dans 10 ans, même si, évidemment, tout s'accélère et je peux tout à fait me tromper). Pour expliquer.

Prenons un petit texte bidon en entrée (je me demande s'il n'y a pas un cas d'usage célèbre qui ressemble un peu çà) : "Une boulangerie vend des croissants à un euro pièce. Une cliente rentre dans la boulangerie avec 0.50 cts en poche pour acheter un croissant. Elle ressort les mains vides.". Question : "Pourquoi ?" (réponse bien sûr : parce qu'elle n'a pas assez d'argent).

Du coup où en es-t'on sur ce sujet :

- il est tout à fait possible que ChatGPT soit capable de répondre, mais en ayant pioché / appris sa réponse dans une somme de textes / documentations pré-existantes et ayant fait des relations qui pourront donner des résultats justes, mais sans que le système ait la moindre compréhension réelle des concepts évoqués. Pour moi on en est toujours là aujourd'hui

- un système intelligent aurait besoin de "contexte" (l'énoncé ci-avant implique énormément de données contextuelles non décrit, sur la notion de vendre, ce qu'est "un euro" = "de l'argent" = "un moyen intermédiaire de faire du troc", ce qu'est le troc, les valeurs numériques, ce que veut dire "sortir les mains vides", "rentrer dans une boulangerie", etc. : tout çà, un lecteur humain en connaît l'interprétation par apprentissage et/ou vécu). Et donc, un système intelligent aurait ce contexte, aurait la compréhension des relations entre les concepts, et aurait (sans apprentissage, sans piocher dans des données existantes) la capacité de faire des déductions / interprétations logiques (et donc à répondre à n'importe quelle question, même une question qui n'a jamais été posée nulle part). La capacité de "compréhension de texte" nécessite tout çà (sinon on est dans la solution "1" qui sera une "astuce", pourra bien sûr être utilisée dans de nombreuses situations pratiques (écrire un scénario de jdr, optimiser la circulation à un carrefour de ville, etc.), mais aura ses limites (comme la difficulté à répondre à des questions auxquelles l'homme n'a jamais répondu avant).

On se rapproche un peu des tests de Blade Runner pour détecter les réplicants sur ces discussions...

Deux exemples "amusants" ou en tout cas en lien :

- cette semaine, il semble qu'à la question posée à ChatGPT "Qu'est ce qui pèse le plus lourd entre un kilo de plomb et un kilo d'air", la réponse de l'IA ait systématiquement été "le métal, car sa densité est plus élevée" ... Ca a été "corrigé", mais çà montre quand même les erreurs manifestes qui peuvent survenir en procédant à des mauvais appairages sur les données pré-existantes (et sans compréhension fine des notions). Voir ce thread : https://twitter.com/alexhern/status/159 ... hat-gpt%2F

- je n'ai pas noté le lien, mais il y a eu un article sur le côté "raciste" de ChatGPT, en demandant d'écrire un script python d'embauche, et où le code généré se retrouvait avec une logique "si homme alors ... / si femme alors ... + si européen / si africain"

(sinon sur le "do, try, repeat", pour moi çà reste toujours beaucoup çà, même si en effet c'est réutilisable / portable sur d'autres contextes + le fait pour AlphaGo ne combattre contre lui même est uniquement un artifice (rapide et facile à mettre en oeuvre) pour avoir le "score" de chaque itération, bref, un artifice d'implémentation technique (très bien vu et très adapté au demeurant)

A l'inverse, un article bluffant (notamment par le côté "itératif" de la construction), qui part donc de la demande de création d'un nouveau langage, avec vocabuaire, verbes, conjugaison, et se termine par la demande de création d'un script python (fonctionnel) de traduction : "I Taught ChatGPT to Invent a Language"
https://maximumeffort.substack.com/p/i- ... a-language

Qui Revient de Loin a écrit : ↑dim. déc. 11, 2022 11:45 am On a bien réussi à faire des IA donnant de meilleurs diagnostiques que les médecins.

Mais c'est à partir de radio, donc de reconnaissance d'images (domaine fort pour les IA), l'apprentissage (à base uniquement de vraies radios) ayant permis aux IA de découvrir des choses que les médecins ne savent pas (et qu'elles ne leur diront jamais...).

On peut avoir des sources sur cette affirmation parcequ'hormis le barnum chinois avec le concours de diagnostic de tumeurs encensé par des gens comme Laurent Alexandre ou Vallancien ,j'ai pas vu grand chose de fiable en publication.

Et pour avoir testé avec mon service de radiologie,l'Ia considérée comme la plus avancée sur les radios des urgences ca reste trés moyen ( quasiment la moitié des cartillages de conjugaison de l'enfant étant considéré par l'Ia comme une fracture ) 

De toute facon,si l'IA devenait subitement plus pertinente qu'un radiologue (et on est encore trés loin) l'aspect ethique et légal quand à la responsabilité du résultat sont encore des sujets qui sont à discuter