CasusNO

Tybalt (le retour) a écrit : ↑ven. févr. 10, 2023 11:36 pm

 If a large language model has compiled a vast number of correlations between economic terms—so many that it can offer plausible responses to a wide variety of questions—should we say that it actually understands economic theory?

De tout évidence non: une IA ne comprend rien à quoi que ce soit, elle répercute approximativement ce que quelqu'un d'autre a dit quelque part. C'est un fil tendu entre deux pots de yaourt.

Tain, elle est prête à aller sur les plateaux télé en tant qu'economiste donc !

J'ai tiré de mon expérience d'auteur / éditeur un petit article que j'ai publié dans le Fix. C'est là, et ça s'appelle "The Ned Ludd Ballad" : https://lefix.di6dent.fr/archives/20053

Pour résumer, j'ai essayé pendant un mois (c'était en août, la V3 de Midjourney), j'ai mis les mains dans le cambouis des données, et je n'y ai pas trouvé mon compte pour des raisons tant pratiques, qu'esthétiques et éthiques.
J'ai écrit cet article en décembre, principalement. Le temps de peaufiner il est sorti en février, mais je pense que je n'y changerais pas grand-chose malgré la déferlante qu'il y a encore sur le sujet. Par contre, il y a des choses que je pointais en termes de droit qu'on ne lisait pas beaucoup ailleurs quand je l'ai écrit, et qui ont été bien explorées ailleurs depuis.

Macbesse a écrit : ↑sam. févr. 11, 2023 2:22 pm J'ai tiré de mon expérience d'auteur / éditeur un petit article que j'ai publié dans le Fix. C'est là, et ça s'appelle "The Ned Ludd Ballad" : https://lefix.di6dent.fr/archives/20053

Pour résumer, j'ai essayé pendant un mois (c'était en août, la V3 de Midjourney), j'ai mis les mains dans le cambouis des données, et je n'y ai pas trouvé mon compte pour des raisons tant pratiques, qu'esthétiques et éthiques.
J'ai écrit cet article en décembre, principalement. Le temps de peaufiner il est sorti en février, mais je pense que je n'y changerais pas grand-chose malgré la déferlante qu'il y a encore sur le sujet. Par contre, il y a des choses que je pointais en termes de droit qu'on ne lisait pas beaucoup ailleurs quand je l'ai écrit, et qui ont été bien explorées ailleurs depuis.

Comme quoi je ne suis pas le seul a regarder les avancées des IA avec l'image des Luddistes en tête.
Bref
 

Harfang2 a écrit : ↑sam. févr. 11, 2023 6:32 pm

Macbesse a écrit : ↑sam. févr. 11, 2023 2:22 pm J'ai tiré de mon expérience d'auteur / éditeur un petit article que j'ai publié dans le Fix. C'est là, et ça s'appelle "The Ned Ludd Ballad" : https://lefix.di6dent.fr/archives/20053

Pour résumer, j'ai essayé pendant un mois (c'était en août, la V3 de Midjourney), j'ai mis les mains dans le cambouis des données, et je n'y ai pas trouvé mon compte pour des raisons tant pratiques, qu'esthétiques et éthiques.
J'ai écrit cet article en décembre, principalement. Le temps de peaufiner il est sorti en février, mais je pense que je n'y changerais pas grand-chose malgré la déferlante qu'il y a encore sur le sujet. Par contre, il y a des choses que je pointais en termes de droit qu'on ne lisait pas beaucoup ailleurs quand je l'ai écrit, et qui ont été bien explorées ailleurs depuis.

Comme quoi je ne suis pas le seul a regarder les avancées des IA avec l'image des Luddistes en tête.
Bref 

J'ai aussi des images de Jihad Butlérien.

Macbesse a écrit : ↑sam. févr. 11, 2023 2:22 pm J'ai tiré de mon expérience d'auteur / éditeur un petit article que j'ai publié dans le Fix. C'est là, et ça s'appelle "The Ned Ludd Ballad" : https://lefix.di6dent.fr/archives/20053

Pour résumer, j'ai essayé pendant un mois (c'était en août, la V3 de Midjourney), j'ai mis les mains dans le cambouis des données, et je n'y ai pas trouvé mon compte pour des raisons tant pratiques, qu'esthétiques et éthiques.
J'ai écrit cet article en décembre, principalement. Le temps de peaufiner il est sorti en février, mais je pense que je n'y changerais pas grand-chose malgré la déferlante qu'il y a encore sur le sujet. Par contre, il y a des choses que je pointais en termes de droit qu'on ne lisait pas beaucoup ailleurs quand je l'ai écrit, et qui ont été bien explorées ailleurs depuis.

Je ne l'ai encore que lourdement parcouru, mais ce que j'en ai lu est passionnant et je le garde sous le coude pour le lire in extenso. Merci de l'avoir écrit

Sur Futurism : Amazon Begs Employees Not to Leak Corporate Secrets to ChatGPT

After catching snippets of text generated by OpenAI's powerful ChatGPT tool that looked a lot like company secrets, Amazon is now trying to head its employees off from leaking anything else to the algorithm.

According to internal Slack messages that were leaked to Insider, an Amazon lawyer told workers that they had "already seen instances" of text generated by ChatGPT that "closely" resembled internal company data.

Des employés d'Amazon avaient utilisé ChatGPT pour améliorer leur code, sauf que ChatGPT a recraché plus tard, pour d'autres gens, des bouts du code qu'on y avait entrés et qui relevaient du secret industriel. Donc Amazon ne veut plus que ses employés utilisent cet outil.

Moralité : ne pas entrer dans ChatGPT des trucs qui sont censés rester confidentiels.

Comment c'est possible alors que chatgp est déconnecté et pas en mode apprentissage ?

Sensé être déconnecté, mais pourtant, l'histoire du kilo de plumes et du kilo de plomb (dont ChatGPT disait au départ que "1 kg de plomb était plus lourd que 1 kg de plume", puis a arrêté de faire cette erreur) montre quand même (de manière factuelle, vu la différence de réponses à l'instant T puis T+1) qu'il y a évolutions des réponses fournies par l'ago :
- soit parce que le système a été tuné en interne d'une manière ou d'une autre par les équipes derrière l'outil, suite à cette erreur spécifique / rigolote exposée sur twitter
- soit parce qu'il apprend quand même des entrées utilisateurs et ce même si sa base de contenu sur lequel l'algo a été pré-entraîné date de septembre 2021)

D'ailleurs, rappelons que le P de ChatGPT veut dire "Pre-trained", pourquoi parlerait-on de pré-entraînement s'il n'y avait plus aucune évolution ensuite.

Après on peut aussi se poser la question des outils en ligne de traduction (deepl, google translate, ...), est-ce bien prudent d'y faire traduire des documents professionnels / confidentiels.

Killing Joke a écrit : ↑sam. févr. 18, 2023 4:30 pm Après on peut aussi se poser la question des outils en ligne de traduction (deepl, google translate, ...), est-ce bien prudent d'y faire traduire des documents professionnels / confidentiels.

C'était de toute façon une question bien avant ChatGPT. Déposer des informations sur un service tiers, c'est prendre le risque qu'elles soient stockées et potentiellement fuitées plus tard. Que le service en question soit ChatGPT ou Dropbox.

Dropbox a accès aux données qu'un utilisateurs / client payant y dépose ? Ou c'est juste parce que comme tous les autres cloud "grand public" c'est très facile à pirater par des gens malintentionnés qui en ont la compétence ?
 

ChatGPT: un poème dans le style de R.E. Howard, sur le thème de la grêve générale

 Sous un ciel sombre et menaçant,
Le peuple s'élève, prêt à combattre,
Une grève générale, une protestation ardente,
Pour faire valoir ses droits, pour se faire entendre.

 Les ouvriers et les employés, unis dans leur cause,
Brandissent leurs pancartes, leurs voix s'élevant en écho,
Ils réclament justice, égalité et dignité,
Et refusent de se taire, de se soumettre à l'arbitraire.

 Les rues sont remplies de cris et de chants,
La colère gronde, le mécontentement grandit,
Mais ils savent qu'ils sont forts, qu'ils peuvent lutter,
Et qu'ensemble, ils peuvent changer le cours de l'Histoire.

 La grève générale est un cri de révolte,
Un appel à la solidarité, à la fraternité,
Pour briser les chaînes qui les retiennent prisonniers,
Et pour que chacun puisse enfin vivre librement.

 Sous un ciel sombre et menaçant,
Le peuple s'élève, prêt à combattre,
Une grève générale, une protestation ardente,
Pour faire valoir ses droits, pour se faire entendre.

Une expérience interessante: https://www.mobileread.com/forums/showt ... ost4303887
Qui envoie un passage souligné dans un livre pour en génerer l'image correspondante par Stable Diffusion

ChatGPT a été programmé pour ne pas créer de discours haineux. Sauf qu'en fait si, parce que le programme a des failles. Naturellement, parmi l'infinité de possibilités radieuses offertes par une innovation technologique d'une telle puissance, il y a des humains pour choisir d'aller creuser dans ces failles pour lui faire dire des ordures. Du coup, OpenAI travaille à supprimer les failles en question au fur et à mesure.
C'est beau, le progrès.

Source : The Guardian

Killing Joke a écrit : ↑sam. févr. 18, 2023 4:30 pm
Après on peut aussi se poser la question des outils en ligne de traduction (deepl, google translate, ...), est-ce bien prudent d'y faire traduire des documents professionnels / confidentiels.

Absolument pas : seule la version Pro de Deepl ne collecte pas les données

F.

Quand tu utilises DEEPL pour traduire une demande de transport dans une langue "estxotique" :

"nous avons besoin d'une offre de fret avec plate-forme élévatrice et transpalette pour la constellation suivante."

je vais envoyer le Millenium Falcon