Charlie Merland

What are the odds for this not to be a russian troll account? It's just surreal

Et dans mon cas, en tant que développeur web, c'est un outil très utile au quotidien, qui me fait gagner beaucoup de temps en faisant plus vite que moi la partie de mon boulot qui a le moins de plus-value.

Ma réponse perso à cette question : bsky.app/profile/char...

Merci pour ça.

'The study found that when using Google’s AI tool “Gemma” to generate and summarise the same case notes, language such as “disabled”, “unable” and “complex” appeared significantly more often in descriptions of men than women.' Quelle surprise. 2/2

AI tools used by English councils downplay women’s health issues, study finds Exclusive: LSE research finds risk of gender bias in care decisions made based on AI summaries of case notes

'Artificial intelligence tools used by more than half of England’s councils are downplaying women’s physical and mental health issues and risk creating gender bias in care decisions, research [led by Sam Rickman, LSE] has found.' 1/2

Rhôôô la nostalgie

Y en a qui balancent leur dossier médical pour obtenir un contre-diagnostic. Les données personnelles c'est vraiment un concept très flou pour certaines personnes…

a group of people giving a thumbs up with a sign behind them that says other ALT: a group of people giving a thumbs up with a sign behind them that says other

Qui a dit qu'il fallait choisir l'un des deux ?

Contexte : la centrale à fioul de Brennilis au loin avec le réservoir Saint-Michel en premier plan. J'ai pas fait de photo du bâtiment réacteur de la centrale nucléaire parce que Numérobis était intenable et qu'il se remettre en route, mais on fera la visite complète un jour, ça a l'air chouette

J'avais retenu hypersaponification, je l'utilise parfois 😁

Bo²

Je vois le CO2 à l'œil nu 😱

Arf, je capte mal où je suis, j'ai pas vu que c'était un fil 😅

Et encore ! Dès qu'on veut faire un truc un peu complexe, il commence rapidement à halluciner des fonctions qui n'existent pas, ou qui ne fonctionnent pas comme il le prétend. Alors pour des sujets pointus, peu documentés, ou très sujet à l'interprétation, ça devient une carrément la loterie…

Bo

En poussant un peu on peut même considérer qu'un LLM ne fait jamais d'erreur : il produit toujours un texte compréhensible en réponse à la question qu'on lui pose.

Après, est-ce que cette réponse est exacte, ou même simplement pertinente, c'est pas son problème : il a produit une réponse, job done.

Ils hallucinent fréquemment des fonctions de WordPress, parfois carrément des facades entières pour Laravel, alors que ça doit être parmi les trucs les plus documentés qui existent, alors sur des trucs pointus ou peu documentés…

Dans le jardin quand il fait 40°, mais bien sûr, qu'est-ce qui pourrait mal tourner ? On peut sortir les saucisses et les binouses aussi, maintenant qu'on est là !

Dans le jardin ? Quand il fait 40+ ? Faut y dormir aussi tant qu'on y est ?

Ho yes. Andor carries such power when you know what lies ahead. Watched Rogue One the same night I finished Andor, hit hard. That first scene with Cassian… that kill means so much more now that we've seen who he really is, what he had to do, what he been through. Best Star Wars character, by far.

Bah non, c'est clairement un gros problème d'avoir présenté ça comme ça, on est bien d'accord.

On est obligé de simplifier. Expliquer qu'il a été entraîné en lisant les milliards de textes, donc sans doute des textes similaires à son histoire, et qu'il produit les réponses qui semble les plus probablement appropriées en se basant sur ce qu'il a lu.

Au début j'étais assez péjoratif en parlant des LLM à mes proches qui font n'importe quoi avec. Mais tu peux pas dire à machin qui soigne sa rupture avec son ex en discutant avec ChatGPT que c'est juste du collage de mots au hasard. Ça entre tellement en conflit avec son vécu et il t'écoutes plus.

Faut simplifier. C'est compliqué de parler de collage de texte recomposé à des gens qui passent leurs soirées à discuter avec un logiciel (en apparence) plus intelligent qu'eux qui comprend leurs sous-entendus et insinuations mieux que les membres de leur famille…

(C'est tout le problème de faire comprendre comment fonctionne un outil de ce genre, même de façon très simplifiée, à des personnes qui n'ont aucune connaissance technique et qui, au fond, se contrefoutent un peu de comment ça marche pourvu que le résultat leur convienne…)

Oui, il peut par divers mécanismes s'assurer que sa réponse n'est pas complètement à côté de la plaque. Mais ce n'est pas sa fonction, c'est une sécurité, une fonctionnalité supplémentaire ajoutée au service, pas une qualité intrinsèque. Et ce point-là est très, très compliqué à faire passer…

Je l'explique parfois de cette manière : un LLM ne se trompe jamais. Il produit *toujours* un texte intelligible qui répond à la question posée.

Après, est-ce que cette réponse est exacte, ça sort complètement de son domaine : il a produit une réponse correspondant à la demande. Mission accomplie.

Je vois des gens qui étaient furieusement anti-Hadopi à l'époque et qui aujourd'hui reprennent quasi mot pour mot le même argumentaire que les ayant-droits pour attaquer l'IA sans même s'en rendre compte.

Oui je vois régulièrement vos interventions. J'essaye de faire passer le message depuis l'arrivée de ChatGPT dans le grand public et que mes proches ont commencé à l'utiliser, j'ai souvent l'impression de pisser dans un violon…