Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Killing Joke]

Absolument rien de nouveau sous le soleil, mais reste le point impressionnant du temps investi pour cette exploration (en années, tests, heures d'exécutions, ...).

[Dr Hiatus]

Ils ont demandé à Midjourney de représenter des médecins afro-américains en train de soigner des enfants blancs.
Le résultat les a surpris.

https://www.npr.org/sections/goatsandso ... s-howd-it-


(spoiler TL;DR : l'IA n'y parvient pas, et "african" dans les prompts lui fait parfois ajouter des girafes aux images.)

[Cryoban]

l'IA n'y parvient pas, et "african" dans les prompts lui fait parfois ajouter des girafes aux images

Ca ne me surprend pas. Les IA sont alimentées par des base de données obtenues en général sur le web, donc les biais de ceux qui alimentent le plus (probablement pas l'Afrique) s'y retrouvent. Perso, depuis que j'ai vu comment une IA conversationnel a commencé à tenir des propos antisémites et racistes au bout de quelques heures au contact du web, je n'ai plus aucune illusion à ce sujet.
A terme, il faudrait pouvoir avoir des IA privées et individuelle que chacun alimente avec ce qu'il veut, ca sera encore plus biaisé mais au moins chacun s'y retrouvera.

[Killing Joke]

Ce compte twitter (parmi / à côté de nombreux autres) est pas mal sur le fait qu'ils donnent des exemples de prompts qui fonctionnent bien sur une thématique donnée (= des recettes).
https://twitter.com/chaseleantj

Par ex. la dernière, parfaite pour des rolistes :

ust found a really good DALL-E 3 prompt to make concept art for your fantasy world.

You can use it to create images of characters, creatures and even locations with the same theme.

Prompt:

Black and white technical drawing showcasing a [nimble rogue thief with a hooded cloak, dual daggers, and various hidden tools]. Annotations detail [her stealth equipment and techniques].

Just replace the text inside [brackets] with whatever you want.

More examples in the ALT of the pics below.

You can copy and paste the template into GPT and ask it for ideas.

Now, there are 3 key elements of the prompt:

1. technical drawing

This phrase makes the images look detailed and scientific.

It also gives all your generations a consistent style.

2. black and white

Specifying the images to be black and white makes the theme even more consistent.

If you don't add this, the color palette is all over the place.

This is not good if you want the same look across all your generations.

3. annotations

This token adds labels to the images of the fantasy creatures.

Admittedly, the words and labels produced by DALL-E 3 don't make sense.

But I find that adding it improves the quality of the image.

You can try it with and without the annotations.

On notera quand même que c'est "nice looking" de loin mais çà pêche dans les détails :
- comme il le dit, les textes ne veulent rien dire (mais semblent aider à avoir ce rendu)
- la cohénrence n'est pas folle (quid du pistolet à droite dans un monde fantasy)

[Cryoban]

Ceci dit, une fois que t'as cette image en moins d'une heure avec un logiciel de retouche tu obtiens quelque chose de tout à fait utilisable et correct.

[Rui]

Et vue que le prompt ne précise pas d'univers je vois pas pourquoi le pistolet devrais être hors de propos

Plus sérieusement sur Dall-E 2 c'est à mourir de rire le rendu tellement c'est mauvais avec ce prompt

Pour rigoler voici le rendu actuel

[Killing Joke]

Parfait cependant pour faire un fac similé d'un fanzine JDR datant du début des années 90, je dirais, les illustrations étaient parfois de ce niveau.

[eskhiss]

Techniquement elles dessinent assez bien. (et bien mieux que moi) Super bien, super vite et mieux que la moyenne.
on a vu pire dans les fanzines (hormis le flingue)
mais comme elles ne comprennent pas ce qu'elles dessinent ou synthétisent y'a des incohérences qui sont le résultat de leur "moyenne" extraite des bases dans lesquelles les IA piochent. Si les voleurs à capuche sont à la mode, tous le voleurs seront à capuche. En GN, tous les jeunes mecs en noir à capuche y'a marqué "mauvais" voleur sur leur tête.

il va falloir des gens qui savent comment faire des demandes correctes et complètes aux IA et des gens assez calé pour relire et trouver les erreurs ou incohérences pour ne pas prendre pour comptant les résultats sorti d'IA.

[Tybalt (le retour)]

La consommation d'électricité des serveurs des IA augmente extrêmement vite. Ces serveurs sont en grande majorité des Nvidia A100, très gourmands en ressources... et désastreux en termes d'impact environnemental. Et ce pic n'est pas le premier : le boom des crypto-monnaies il y a quelques années avait déjà donné lieu à ce type de pic coûteux en énergie et en émissions de CO2.
Source : The Futurism

Selon une étude de scientifiques du MIT Media Lab parue dans Nature Machine Intelligence, l'expérience des gens qui utilisent les agents conversationnels du type ChatGPT est marquée par un fort "effet placebo". Les participants à l'expérience ont été divisés en trois groupes : un à qui on a dit que le programme avait reçu un entraînement particulier afin de prendre soin de leur santé mentale, un deuxième à qui on a dit que l'IA était programmée pour être mal intentionnée et essayer de les manipuler, et un troisième à qui on a dit que l'IA n'avait reçu aucune formation particulière. À l'issue de l'expérience, chacun des trois groupes s'est montré convaincu d'avoir bel et bien eu affaire à une IA programmée comme on le lui avait annoncé. Sauf que l'IA n'avait reçu aucune modification particulière, pour aucun des trois groupes. L'expérience met en lumière le fait que les humains qui utilisent ce type de programme sont biaisés et que leurs biais influencent notablement l'impression qu'ils retirent de leur usage des "IA".
Source : toujours The Futurism

[Dr Hiatus]

L’adoption rapide de l’IA par les professionnels, y compris dans le secteur financier, n’est pas sans risque. Selon Gary Gensler, la dépendance à cette technologie est même l’un des principaux facteurs qui pourraient conduire à une crise. En effet, si les institutions financières dépendent fortement de l’IA sans une compréhension approfondie de ses mécanismes et risques associés, elles pourraient être menées à prendre de mauvaises décisions.

https://trustmyscience.com/crise-financ ... n-experts/


Si on peut même pas compter sur les IA pour gérer rationnellement les marchés maintenant.
Ça me donne l'impression de deux escroqueries qui peuvent pas cohabiter

[Cédric Ferrand]

J'utilise parfois un service conversationnel dans mon travail, et pour le moment, ce qui m'affole le plus, c'est la capacité de cet outil à halluciner des résultats. Je lui pose une question, il me répond. Je google ses réponses sans trouver ce qu'il a pointé. Je lui repose donc la même question à l'identique, et il me dit qu'il n'a pas trouvé de réponse. Je sais que ça va s'affiner avec le temps, mais pour le moment, c'est hasardeux.

[Nolendur]

Le truc c'est que l'esprit humain c'est plein de couches redondantes et de mécanismes de checking qui ont été affinés par une looongue évolution.

Les IA, c'est comme un être humain qui n'aurait que la partie "intuition" de sont intelligence. L'intuition ne vient pas de rien, elle est basée sur des années d'expériences (de collecte de data), mais niveau confiance, c'est pas top.

Imaginez :

- Est-ce que mamie vient déjeuner demain ?
- Hum, je sais pas, quelque chose me dit que oui.

- Combien de pattes ça a un chien ?
- Je sais pas pourquoi, mais je sens bien 4. Oui 4, c'est pas mal du tout.

- C'est quoi la route du restau ?
- En t'entendant dire "restau", ça m'évoque la séquence droite, droite, gauche, droite et l'image d'un ours, on devrait essayer ça.

[Rui]

J'utilise parfois un service conversationnel dans mon travail, et pour le moment, ce qui m'affole le plus, c'est la capacité de cet outil à halluciner des résultats. Je lui pose une question, il me répond. Je google ses réponses sans trouver ce qu'il a pointé. Je lui repose donc la même question à l'identique, et il me dit qu'il n'a pas trouvé de réponse. Je sais que ça va s'affiner avec le temps, mais pour le moment, c'est hasardeux.

Ce qu'il faut savoir c'est que ChatGPT par exemple cherche toujours a fournir une réponse.
Sauf quand le sujet est hors de sont périmètre (prédiction future, Insulte etc...)
Mais du coup s'il n'a pas de réponse il va souvent "inventé" une réponse pour être en capacité de répondre. Pour "contrer ça" il faut lui indiquer la conversation que s'il n'a pas d'élément factuel pour avoir une réponse valide il peut ne pas répondre.

Sinon ça débouche sur des cas comme celui-ci : https://www.phonandroid.com/chatgpt-un- ... avail.html

[cdang]

Mais du coup s'il n'a pas de réponse il va souvent "inventé" une réponse pour être en capacité de répondre.

De ce que j'ai compris, il invente à chaque fois une réponse, il ne pioche pas dans un réservoir de réponses qu'il aurait collecté (les réponses récupérées ici et là servent à construire le modèle de langage, mais ne font pas partie dudit modèle). Non ?

[Altay]

L’adoption rapide de l’IA par les professionnels, y compris dans le secteur financier, n’est pas sans risque. Selon Gary Gensler, la dépendance à cette technologie est même l’un des principaux facteurs qui pourraient conduire à une crise. En effet, si les institutions financières dépendent fortement de l’IA sans une compréhension approfondie de ses mécanismes et risques associés, elles pourraient être menées à prendre de mauvaises décisions.

https://trustmyscience.com/crise-financ ... n-experts/


Si on peut même pas compter sur les IA pour gérer rationnellement les marchés maintenant.
Ça me donne l'impression de deux escroqueries qui peuvent pas cohabiter

Les établissements financiers utilisent déjà de très nombreux outils de machine learning qui sont déjà utilisés pour la prévision d'évolution des marchés financiers et en trading haute fréquence. Utiliser un modèle de langage comme GPT pour « assister les traders » me semble être tout au plus un gadget et j'ai du mal à voir en quoi cela précipiterait un krach.