Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Killing Joke]

Perso ce qui m'agace en ce moment, c'est la survente des bénéfices de l'IA.

Exemple vécu plusieurs fois : 
" - Eh, tous, regardez, grâce à l'IA, on gagne dans mon équipe 3 heures par jour ! C'est super puissant !
- Ah bon, vous avez mis quoi en place ?
- On a demandé à l'IA d'écrire un script [de 50-100 lignes] qui permet d'automatiser [telle tâche répétitive], et ainsi de gagner 3 heures par jour !
- Mais ... qu'est ce qui t'empêchait de mettre en place ce script auparavant, sans IA ? Car en fait, tu as gagné peut-être un peu sur le temps de création du script (peut-être a t'il été écrit en 1 heure au lieu de 2 heures, ou même de 4h), mais ce n'est pas l'IA en elle même qui fait gagner 3 heures par jour - c'est la mise en place de l'automatisation, le gain apporté par l'IA n'a été que du one-shot, sur la mise en place initiale
- ... "

[Altay]

Je choisis pas soigneusement de exemples, je choisis des truc issus de ma pratique. C'est bien évidemment de l'anecdata, mais quand même, c'est pas insignifiant.

Ce n'est ni tout rose, ni tout noir. Les LLM peuvent être utiles, oui, visiblement tu en es satisfait et tant mieux. Tout ce que je souligne, c'est que la littérature établit de façon assez certaine que les limites sont bien plus importantes que ce qui est prétendu par les boîtes qui commercialisent des LLM. Et en plus, les utilisateurs sont globalement* assez mauvais quand il s'agit de les discerner, parce que les LLM agissent un peu comme des mentalistes.

* toi peut-être pas, ce n'est pas une attaque personnelle, je parle bien d'études quantitatives sur des panels représentatifs, pas spécialement d'une personne sur Casus.

Exemple vécu plusieurs fois : 
" - Eh, tous, regardez, grâce à l'IA, on gagne dans mon équipe 3 heures par jour ! C'est super puissant !
- Ah bon, vous avez mis quoi en place ?
- On a demandé à l'IA d'écrire un script [de 50-100 lignes] qui permet d'automatiser [telle tâche répétitive], et ainsi de gagner 3 heures par jour !
- Mais ... qu'est ce qui t'empêchait de mettre en place ce script auparavant, sans IA ? Car en fait, tu as gagné peut-être un peu sur le temps de création du script (peut-être a t'il été écrit en 1 heure au lieu de 2 heures, ou même de 4h), mais ce n'est pas l'IA en elle même qui fait gagner 3 heures par jour - c'est la mise en place de l'automatisation, le gain apporté par l'IA n'a été que du one-shot, sur la mise en place initiale
- ... "

Le jeu que j'aime bien, c'est :
- J'ai automatisé [tâche répétitive de reporting] !
- Ah oui ? Tu vérifies le résultat quand même ?
- Vite fait, de toute façon personne va le regarder, hein !
- Mais pourquoi tu en as besoin alors ?
- Ben c'est la procédure.
- Et on peut pas la supprimer cette procédure ?
- Euh non, la direction veut pas.

Donc on gagne du temps à automatiser une procédure que l'on pourrait tout bonnement supprimer. Cargo cult to the max.

EDIT :

Mais, c'est pareil pour les humains.... Et selon les humains, je suis pas sur que ca soit sur une complexité supérieure..

C'est décrit dans l'article. Les problèmes sur lequels les LLM se cassent la gueule, c'est pas des trucs dingue hein, un des exemples c'est juste les tours de Hanoï. Un humain qui sait résoudre les tours de Hanoï avec 3 tours sait le résoudre avec n tours. Les LLM y arrivent jusqu'à 10 tours, puis s'effondrent complètement. Parce que les LLM n'ont pas compris l'algorithme de résolution, juste mémorisé le schéma de résolution pour des petites valeurs de n.

[zit]

qu'est ce qui t'empêchait de mettre en place ce script auparavant, sans IA ?

ben p'têt' qu'y z'avaient pas l'temps. Les trucs à faire un d'ces 4 et qui restent indéfiniment sous la pile, il y en a des tonnes.