u/Piwo-ll

Je suis tombé sur une idée de Peter Steinberger (fondateur d'OpenClaw) que j'ai trouvée assez intéressante, mais je ne sais pas à quel point elle est répandue.

Il reprend la métaphore du « canari dans la mine de charbon ».

Pour le contexte, à l'époque, les mineurs emmenaient un canari sous terre, car il réagissait aux gaz toxiques avant les humains. Tant que le canari allait bien, tout le monde continuait à travailler. S'il s'effondrait, c'était le signal qu'il fallait évacuer tout de suite;

Selon lui, on peut appliquer exactement le même principe à l'intelligence artificielle.

L'idée est d'ajouter une instruction très simple dans le prompt, par exemple :

>« Commence toujours ta réponse par Ok [Prénom]. »

Cette instruction n'a aucune utilité fonctionnelle pour l'utilisateur final, mais sert uniquement à positionner le canari dans la discussion et détecter le moment ou le modèle commence à dérailler, oublier ses instructions ou tout simplement perdre le contexte initial.

Je trouve l'idée plutôt intelligente et, après l'avoir testée de mon côté, ça semble plutôt bien fonctionner. Je voulais savoir si d'autres l'ont déjà testée et si, selon vous, c'est une vraie bonne pratique ou si ça relève davantage du marketing que d'une réelle utilité.

Hier, je me suis rendu compte que j'étais devenu tellement habitué à déléguer certaines tâches à l'IA que les faire moi-même était devenu insupportable...

Et franchement, j'ai été assez mal à l'aise en réalisant que je devenais de plus en plus dépendant de l'IA pour rédiger un article scientifique, traduire de longs documents, ou même coder.

Alors pour confirmer mon ressenti, j'ai trouvé une étude du MIT qui montrait que notre cerveau ne mobilisait pas les mêmes zones d'apprentissage et que la plupart des participants de cette étude était incapable de citer la moindre phrase du résultat proposé par l'IA.

Est ce que vous ressentez la même chose, ou est-ce que je suis juste le fou du bus? 😅

----

Juste pour info, j'ai mis les sources ci-dessous et un petit laïus sur l'image.

(Attention : l'image présentée ci-dessous n'est pas représentative de l'étude, mais représente une activité cérébrale inactive vs une activité cérébrale active)
Source N°1 : ChatGPT May Be Eroding Critical Thinking Skills, According to a New MIT Study
Source N°2 : Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

Je cherche des exemples concrets, vécus ou observés, de mauvaises utilisations de l’IA, que ce soit dans un contexte pro ou perso.

Par pitié, évitez les cas déjà vus mille fois du style “quelqu’un a leaké une base de données sur ChatGPT” ou “il a laissé la mention ChatGPT dans son mail”.
Je cherche vraiment des situations vraiment absurdes, risquées, mal pensées, inutiles, dangereuses ou complètement contre-productives.