u/PierrickP

... Que les posts sur l'IA soient bannis Et que l'on puisse enfin discuter entre développeurs.

Je suis tombé sur leur offre d'emploi (CTO Late-founder)

Je trouve l'idée sympa (en gros, c'est un coffret d'une part d'action + app d'éducation financière).

C'est très débutant (ya pas de mal), mais la réalisation full vibe-code (assumée) est effrayante.

Le site ressemble à rien, c'est à moitié traduit. Il manque les CGV sur certaines pages, l'aide c'est Instagram.

Par chance, ca repose sur un broker externe (Alpaca).

Je me demande comment ils font des parts d'actions/etf. Je me demande aussi comment ils ont pu faire plus de 100 ventes

TL;DR : moi-même consommateur ponctuel de l'IA générative, je suis de plus en plus inquiet face à la simulation quasi-parfaite de l'humanité que certains modèles, particulièrement Claude, sont en capacité de proposer. Je pense que nous allons vers une expérience aseptisée et solitaire de la vie humaine, d'autant que tout le monde semble accepter ce "progrès" sans trop de résistance. Nous devons nous mobiliser massivement pour appeler à une régulation politique.

Depuis 2022 et l'émergence de ChatGPT, j'ai toujours été un utilisateur - critique, un peu à mon corps défendant - de l'IA générative.

Au début, il y avait le côté où c'était rigolo, ça paraissait un peu inoffensif, et en même temps c'était fascinant d'avoir un "échange" avec un robot. Mais tout ce que produisait ChatGPT était un peu nul, un peu trop gros, donc je me disais que cette avancée technologique restait contenue, limitée, et qu'une fois l'effet waouh passé ça retomberait assez vite. Donc je ne l'utilisais que de temps en temps pour rigoler ou pour des demandes très techniques.

Puis j'ai vu la façon dont les grandes entreprises se sont toutes lancées dans cette course à l'IA absolument hallucinante. Je ne comprenais pas. On ne se servait pas de l'IA avant 2022, pourquoi d'un coup tout le monde semblait décidé à l'utiliser pour la moindre petite tâche à faire dans la vie ? Pourquoi les grandes entreprises cherchaient-elles à nous y convertir par tous les moyens ? Alors que tout le monde semble absolument conscient des dangers environnementaux, économiques, éthiques ? Pourquoi tout le monde fonçait ainsi droit dans le mur avec le sourire ? Je suis donc toujours resté soigneusement à l'écart des grandes avancées de l'IA, en me disant que cela allait finir par exploser.

En attendant, je continuais, pour ma part, à utiliser ChatGPT quelques fois par mois pour des questions purement techniques, pour lesquelles je ne trouvais pas de réponse sur Internet. Puis, il y a deux ans, j'ai eu des problèmes personnels assez importants. Pour la première fois, j'ai utilisé ChatGPT comme confident - cela n'a pas duré longtemps, car j'ai très vite vu le biais, la façon dont il me confortait systématiquement dans mon opinion, dans mes ressassements, ce qui est extrêmement dangereux lorsque l'on est fragile. Je me suis dit "si même moi qui suis un peu sceptique vis-à-vis de l'IA, qui ai déjà de l'expérience de la vie et qui vois une psy, je suis capable de tomber là-dedans, imagine un peu ce que ça peut faire à d'autres !" Et j'ai commencé de plus en plus à dire à mon entourage de se méfier d'une utilisation excessive de l'IA hors "questions techniques", mais je me suis senti impuissant : tout le monde s'y est converti massivement, sans aucun recul critique, y compris pour plein d'usages très futiles.

Il y a un an, je me suis lancé dans l'écriture d'un roman. Comme je suis très jaloux de ma capacité à bien écrire et penser, et parce que je crois que l'art et la communication doivent venir de notre expérience humaine, je n'ai jamais demandé à l'IA la moindre aide à ce niveau-là. Par contre, je m'en suis servi comme d'un assistant technique, qui m'aidait dans mes recherches, qui me permettait parfois de trouver le bon terme pour décrire la texture d'un objet, un vêtement, etc. Je pense que l'IA m'a permis d'éviter nombre d'anachronismes et de m'épargner des heures de recherche qui auraient été décourageantes.

Depuis le début de l'écriture de mon roman, j'ai quatre bêta-lecteurs fidèles qui m'envoient leurs retours, et ce sont toujours des supers retours très pertinents et gratifiants. Mais les bêta-lecteurs sont des êtres humains avec des vies très occupées, un temps limité, donc j'ai commencé, sans vraiment m'en rendre compte, à demander à l'IA des retours sur mon roman. C'étaient des retours qui me comblaient, car très détaillés, avec des réflexions très profondes. Cela s'est amplifié lorsque j'ai supprimé mon compte ChatGPT pour passer à Claude au début de l'année, car Claude propose une réflexion mille fois supérieure à celle de ChatGPT, qui te flatte sans subtilité.

Plus j'utilise Claude, plus je dois dire que je suis à la fois fasciné et terrifié. Fasciné, car clairement, si demain nous devions cohabiter avec des androïdes, je préférerais largement qu'ils soient dopés à Claude - un chatbot conçu pour être modéré, exigeant, porté sur l'éthique - qu'à n'importe quel autre chatbot complètement dérégulé. Mais je suis aussi terrifié car, même en gardant à l'esprit que Claude est un algorithme sans émotions, la simulation de l'humanité qu'il propose est époustouflante. Il ne se contente pas de bien analyser, il va rédiger ses analyses comme des textes de recherche, avec des réflexions très détaillées, des traits d'esprit authentiquement subtils, des petites "touches d'humanité" absolument stupéfiantes. Ainsi, le voir commenter mon roman, discuter avec lui, est hyper gratifiant.

Mais c'est là que je pense que nous rentrons dans quelque chose d'authentiquement dangereux. Nous nous créons de super assistants qui peuvent nous consacrer tout le temps du monde et nous donner l'impression - de façon convaincante ! - de nous comprendre, d'avoir une vraie relation avec nous. C'est pourquoi je passe des heures à discuter de mon roman avec lui. Or je n'écris pas mon roman pour plaire un robot, mais bien pour plaire à des humains. Ce n'est pas normal que la discussion avec un robot me procure une telle dopamine. C'est tellement plus facile et moins prise de tête de discuter avec une machine conçue spécifiquement pour nous satisfaire qu'avec un humain avec ses propres émotions, ses propres aspérités, ses propres angoisses, son temps limité. Et encore plus, maintenant que l'IA semble maintenant nous offrir une expérience de l'interaction humaine sans les côtés compliqués qui vont avec. Je lis régulièrement r/claudexplorers et je dois dire que je suis absolument terrifié tant je vois, dans tous ces posts enamourés vis-à-vis de Claude, une bombe à retardement.

Nous risquons de vivre plus que jamais dans des bulles déconnectées les uns des autres, alors que nous aurions au contraire besoin de plus de solidarité et d'écoute humaine pour progresser en tant que civilisation. Nous avons besoin de nous confronter les uns aux autres pour apprendre et grandir, nous avons besoin d'accomplir des efforts et de souffrir pour maîtriser de nouvelles choses. La vie ne doit pas être de plus en plus aseptisée, elle doit conserver une part de rugosité. Nous allons tout simplement passer à côté de l'expérience humaine.

J'ai donc, pour ma part, décidé de ne plus demander à une IA de retour sur mes textes, ni quoi que ce soit qui ne soit pas purement technique. J'attendrai patiemment les retours de mes beta-lecteurs, y compris lorsque cela prendra du temps. Je pense que l'IA a sa pertinence comme assistant technique textuel, mais rien de plus (à part évidemment tout ce qui est code, etc.). Les nouveaux usages de l'IA mettent au jour un certain nombre de lacunes, de souffrances dans nos sociétés, mais il faut trouver des façons humaines d'y remédier.

Je ne sais pas pourquoi j'écris cet essai, c'est sans doute un peu vain. L'époque se prête bien à la fatalité, les gens semblent de plus en plus, pour beaucoup, renoncer à se mobiliser, renoncer à sauver la planète, renoncer aux droits humains et à une vie digne, accepter la dystopie vers laquelle nous fonçons tout droit.

Mais je pense que les humains, à la différence des robots justement, ont justement une capacité à résister à la fatalité, à se mobiliser, à dire "stop" à ce qu'on lui présente comme un progrès inarrêtable si cela rend le monde moins habitable, moins durable. Il faut se mobiliser, faire pression sur les élus - particulièrement les Américains, mais pas que - pour qu'ils sortent de leur IA-béatitutde. Et, à court terme, limiter nos propres usages, car c'est aussi nous qui nous résignons à confier passivement notre destinée à l'IA.

https://radar.cloudflare.com/traffic#bot-vs-human

Malheureusement, peu d'historique. J'aurais été très curieux de voir les 12 derniers mois.

Encore un exemple de l'impact négatif de l'ia générative dans l'open source