Login

u/GusInsight

Les algos de reco sont le plus grand mal silencieux de notre époque, et personne n'en parle
▲ 7 r/besoindeparler+1 crossposts

Les algos de reco sont le plus grand mal silencieux de notre époque, et personne n'en parle

TL;PL : Notre vision du monde dépend des infos qu'on absorbe, et notre cerveau n'est pas câblé pour le déluge des feeds modernes. Aujourd'hui la majorité des gens s'informe sur les réseaux sociaux, qui ne cherchent ni la vérité ni la pertinence mais notre temps de cerveau disponible. Ils exploitent nos biais, nous enferment dans des bulles, et nous font croire que l'autre camp est plus extrême qu'il ne l'est. Résultat : la société se polarise mécaniquement, gauche comme droite, par un mécanisme pourtant complètement apolitique. Et on commence à en voir les conséquences concrètes. Personne ne semble en mesurer l'ampleur.

> Petit disclaimer : Post très long. Ce post a été rédigé avec l'aide d'un LLM (Claude). Chaque idée, chaque section, chaque thème abordé vient de moi et moi seul. Claude m'a aidé à structurer ma pensée et à trouver les sources que je cite en fin de post. Le ton et les choix éditoriaux sont les miens.

Salut. Ça fait un moment que ce sujet tourne dans ma tête et j'ai besoin d'en parler.

En 2016, j'étais convaincu que Trump ne pouvait pas être élu. J'habitais au Canada à l'époque, je m'informais principalement sur Reddit, plutôt anglophone et plutôt à gauche, et tout ce que j'y lisais me confirmait que les Américains étaient majoritairement progressistes et que Trump n'était qu'une blague qui durerait pas. Le soir du 8 novembre j'ai regardé les résultats tomber en direct à la télé. État après état. Au fil de la soirée j'ai compris que ma perception du monde n'avait aucun rapport avec le monde réel.

Depuis, j'essaie de comprendre comment c'est possible. Comment ma perception était à ce point déformée. Et en y réfléchissant, je suis tombé sur une vieille idée philosophique, formulée notamment par Kant il y a 250 ans : on n'a jamais accès à la réalité brute. On n'a accès qu'à ce que nos sens et notre cerveau en font. Notre « monde », c'est toujours une construction, jamais le réel directement. Ce qui veut dire que ce qui filtre notre perception exerce sur nous un pouvoir énorme. Pendant longtemps, ce filtre c'était la famille, l'école, les médias traditionnels. Aujourd'hui c'est de plus en plus un algorithme.

D'où ma thèse, qui me donne de l'anxiété : les algos de recommandation des réseaux sociaux sont le plus grand mal silencieux de notre époque, et personne n'en parle. Pas la guerre, pas le climat, pas l'IA. Eux. Parce qu'ils déterminent en grande partie ce que les humains perçoivent du monde, et donc indirectement tout le reste.

1. On ne construit pas nos idées comme on le croit

Avant de parler des algos, il faut parler de nous.

On a tendance à croire qu'on se forge une opinion en pesant rationnellement des faits. C'est faux. Nos opinions se construisent à partir d'expériences (vécues ou racontées), et notre cerveau y applique des raccourcis qui sont là depuis 200 000 ans :

  • On généralise vite, sur peu de cas. Un voisin t'a fait du tort, ses semblables deviennent suspects. C'est efficace dans un village de 100 personnes, c'est catastrophique à l'échelle d'internet.
  • L'émotion s'imprime, le neutre s'efface. Une info qui choque, indigne, fait peur, on la retient. Une info importante mais calme, on l'oublie en 30 secondes.
  • On confirme ce qu'on pense déjà, on ne conteste pas. Quand une info valide notre perception du monde, on l'accepte. Quand elle la contredit, on la met en doute. C'est inconscient, personne n'y échappe, pas même les gens qui se croient lucides (je m'inclus).
  • La répétition devient vérité. Une affirmation lue dix fois finit par sembler plus crédible qu'une lue une fois, même fausse. C'est documenté en psychologie cognitive sous le nom d'effet de vérité illusoire, et ça fonctionne même quand on sait que c'est faux.

Ces failles ne sont pas un défaut. C'est le câblage normal d'un cerveau humain. Pendant 200 000 ans ça marchait très bien : on vivait dans des groupes de quelques dizaines de personnes, on rencontrait peu d'info, celle qu'on rencontrait venait de gens qu'on connaissait.

Les algorithmes de recommandation n'ont pas créé ces failles. Ils les exploitent. Industriellement. À une échelle pour laquelle aucune génération humaine n'a jamais été préparée.

(Pour ceux qui veulent creuser, Gérald Bronner décrit ça très bien dans Apocalypse cognitive : la rencontre de notre cerveau ancestral avec un "marché cognitif" dérégulé.)

2. La rupture civilisationnelle qu'on n'a pas vue passer

Petit recul historique. L'humanité a connu trois ou quatre grandes ruptures dans son rapport à l'information.

  1. L'écriture (vers -3000) : on peut transmettre de l'information dans le temps et l'espace. C'est lent, et c'est médié par des institutions identifiables, le clergé, l'État, les scribes.
  2. L'imprimerie (vers 1450) : la production se démocratise. Mais il faut toujours une chaîne humaine derrière, un auteur, un éditeur, un imprimeur.
  3. Internet (vers 1995) : tout le monde peut publier instantanément depuis sa chambre. C'est nouveau, c'est massif. Mais il faut encore une intention pour publier, et une intention pour aller lire.
  4. L'ère algorithmique (vers 2012, à partir du feed infini et personnalisé) : on ne cherche plus l'information, elle vient à nous, sélectionnée par une machine qui n'optimise ni la vérité ni la pertinence, mais le temps passé sur l'app. Cette rupture est aussi grande que les précédentes. Elle s'est faite en cinq ans, sans débat public, sans cadre légal.

Pour donner une idée du basculement : le Reuters Institute Digital News Report 2025 montre qu'aux US, les réseaux sociaux et plateformes vidéo sont devenus en 2025 la première source d'info, à 54%, devant la TV (50%) et les sites de presse (48%). Chez les 18-24 ans dans le monde, 44% les citent comme source principale, contre 20% chez les 55+.

Et avant qu'on me dise que les médias traditionnels étaient eux vertueux : pas vraiment. La TV privée d'info en continu (CNews, BFM, Fox News) tourne déjà sur la même logique d'optimisation pour la rétention et l'indignation depuis 20-25 ans. C'est une étape intermédiaire dans la même dérive. La différence avec les feeds algorithmiques, c'est l'échelle, la personnalisation et la durée d'exposition quotidienne, qui rendent la chose qualitativement différente.

Et la cinquième est en train d'arriver : l'IA générative, qui produit du contenu sans aucune expérience humaine derrière. On quitte le régime de "l'information = transmission d'expérience humaine". C'est autre chose qui commence.

McLuhan disait dans les années 60 : "le médium est le message". Ce qui façonne une société, c'est moins le contenu transmis que la nature du canal qui le transmet. Si c'est vrai, on vit la plus grande transformation depuis Gutenberg, sans qu'on en mesure l'ampleur.

3. Comment les algos exploitent tout ça

L'algorithme de recommandation n'a aucune intention politique ou morale. Il a une fonction objectif et une seule : maximiser ton temps passé sur l'app.

Et c'est ça qui est piégeux. Parce que le moyen le plus efficace de te garder, c'est de te montrer du contenu qui te fait réagir émotionnellement. Or l'émotion la plus rentable en temps passé n'est pas la sérénité ou la joie. C'est l'indignation, la peur, la haine, le dégoût moral.

Et c'est mesuré. Brady, Van Bavel et al. (PNAS, 2017) ont analysé environ 500 000 tweets sur le contrôle des armes, le mariage gay et le climat : chaque mot qui exprime de la colère ou un jugement moral (haine, honte, dégoût, blâme) ajouté à un tweet augmente sa diffusion d'environ 20%. 20% par mot. La colère est mathématiquement plus virale que la nuance.

Pire : Vosoughi, Roy et Aral (MIT, Science, 2018) ont analysé 126 000 cascades de news sur Twitter sur 11 ans. Les fausses nouvelles politiques avaient 70% plus de chances d'être retweetées que les vraies. Le top 1% des fake news touchait jusqu'à 100 000 personnes, la vérité dépassait rarement 1 000. Et le détail qui tue : ce n'étaient pas les bots. Une fois tous les bots retirés du dataset, l'écart restait identique. C'est nous. En tant qu'humains, on préfère ce qui est faux et choquant à ce qui est vrai et nuancé. L'algo ne fait qu'amplifier cette préférence.

Du coup, sur des milliards d'itérations, le système converge vers la colère et la division. La radicalisation n'est pas un bug, c'est un attracteur mathématique du système.

Et le truc dingue, c'est qu'on refuserait cette méthodologie partout ailleurs. En sciences, la première chose qu'on apprend c'est qu'un échantillon non représentatif ne dit rien sur la population qu'on étudie. Or notre feed est par construction un échantillon non représentatif du réel, sélectionné non pas pour sa représentativité, mais pour sa capacité à nous retenir devant l'écran. On accepte tous les jours, des heures, une méthodologie qu'on refuserait dans n'importe quel mémoire de master.

Frances Haugen, l'ex-data scientist de Facebook devenue lanceuse d'alerte en 2021, l'a dit devant le Sénat américain : "Les choix faits chez Facebook sont désastreux pour nos enfants, notre sécurité publique, notre vie privée et notre démocratie." Les documents internes qu'elle a fait fuiter prouvent que Facebook savait. Recherche interne de 2019 : "we make body image issues worse for one in three teen girls". 32% des adolescentes disaient qu'Instagram aggravait leur mal-être corporel. L'entreprise le savait. Elle n'a pas changé l'algo.

4. L'echo chamber, ou comment on se retrouve à parler tout seul

Et il y a un autre mécanisme qui complète le tableau : on a une tendance naturelle à se mettre avec des gens qui voient le monde comme nous. C'est plus confortable, on évite spontanément les débats avec ceux qui ne sont pas d'accord. Dans la vraie vie c'est déjà comme ça, on choisit ses amis et ses cercles pour minimiser les frictions.

Le problème, c'est que ce comportement naturel se retrouve mécaniquement amplifié sur les réseaux sociaux. Tu likes une fois un contenu d'un certain bord, l'algo en déduit que tu veux plus de ce bord. Tu unfollow les opinions qui te dérangent. Tu te retrouves très vite dans une "echo chamber", une chambre d'écho où tout le monde est plus ou moins d'accord avec toi, où chaque post valide ce que tu pensais déjà, où aucun désaccord ne vient frotter tes idées.

C'est dangereux pour deux raisons. D'abord parce que tes idées ne sont plus jamais testées, et tu finis par les prendre pour des évidences indiscutables. Ensuite parce que ton seuil de tolérance au désaccord s'effondre : à force de ne plus en croiser, le moindre avis divergent te paraît agressif ou mal intentionné. Tu perds la capacité même de discuter.

Cass Sunstein, juriste américain qui a beaucoup travaillé sur la question, parle de "polarisation de groupe" : quand des gens qui ont déjà la même opinion se parlent entre eux, ils finissent par adopter une version plus extrême de cette opinion. Pas parce qu'on les a convaincus, juste parce que c'est la dynamique naturelle d'un groupe homogène.

5. Le piège du "t'as qu'à regarder les deux côtés"

Quand j'ai réalisé mon biais après 2016, j'ai suivi r/conservative pour avoir l'autre point de vue. Équilibrer.

Et j'ai découvert un truc encore plus déprimant.

Sur r/conservative, je voyais en boucle les pires gauchistes du monde, la militante qui hurle à la face d'un prof dans une fac, le clip décontextualisé du gars "woke", le délire pronoms poussé à la caricature. Sur r/politics (orienté gauche), je voyais en boucle les pires conservateurs du monde, le MAGA qui agresse, le pasteur qui sort une horreur, l'élu Républicain qui dit l'indéfendable.

Les deux camps s'inondent mutuellement de caricatures de l'autre. Et finissent persuadés que l'autre camp est sa caricature. Alors que dans la vraie vie, la grande majorité des gens des deux bords sont assez modérés, sans particularité notable.

Et c'est ça qu'il faut comprendre : l'algo ne prend pas parti politiquement. Il radicalise tout le monde, dans toutes les directions. Si t'es plutôt de gauche, il te rendra plus à gauche en t'inondant des pires délires de droite. Si t'es plutôt de droite, il te rendra plus à droite en te montrant les pires excès de gauche. Et si t'es au centre, il te poussera vers un bord, parce que le tiède retient mal l'attention. Le mécanisme est apolitique, ses conséquences politiques sont gigantesques.

C'est documenté. L'étude More in Common (2019) sur la "perception gap" aux US : Démocrates et Républicains pensent que 55% des partisans du camp adverse ont des positions extrêmes. La réalité : 30%. On croit l'autre camp environ deux fois plus extrême qu'il ne l'est. La même étude montre aussi que plus tu consommes d'actualité sur les réseaux sociaux, plus ton perception gap s'agrandit. Pas l'inverse. S'informer aggrave la déformation.

En France, même topo. Étude Destin Commun 2022 : 64% des Français dénoncent la polarisation induite par les réseaux. Edelman Trust Barometer 2023 : 70% des Français estiment leur pays plus fragmenté qu'avant, contre une moyenne mondiale de 53%.

Bail et al. (PNAS, 2018) ont poussé l'expérience plus loin. Forcer pendant un mois des utilisateurs Twitter Démocrates à suivre des comptes Républicains, et vice-versa. Résultat : les Républicains exposés à du contenu de gauche sont devenus plus conservateurs, pas moins. La contre-exposition n'a pas désamorcé la bulle. Elle l'a renforcée.

Donc même la solution évidente, regarder l'autre camp, est cassée. C'est ça, le piège.

6. Et certains n'ont aucun système immunitaire

Mes parents et grands-parents ont grandi dans un monde où la majorité de l'information passait par des filtres humains identifiables : un journaliste, un rédac chef, une rédaction avec une déontologie. C'était imparfait, biaisé, mais lisible. Ils savaient que Le Figaro penchait à droite et Libération à gauche, et ils calibraient mentalement leurs lectures.

La confiance qu'ils ont apprise à accorder à un texte imprimé, ils l'accordent par défaut au message WhatsApp forwardé par leur cousine. Parce que dans leur cerveau, c'est la même catégorie d'objet : du texte écrit qui circule, donc forcément vérifié quelque part. Ils n'ont pas le système immunitaire cognitif pour ce nouvel environnement. Et c'est pas de leur faute. Ce système immunitaire, personne ne le leur a appris, parce qu'il n'existait pas il y a vingt ans.

Quelques chiffres : Guess, Nagler et Tucker (Science Advances, 2019) ont montré que pendant la campagne américaine de 2016, les plus de 65 ans partageaient près de sept fois plus d'articles de fake news que les plus jeunes. Effet stable même après contrôle de l'éducation et de l'orientation politique.

Et avant de juger : ma génération aura son équivalent. On a grandi avec internet, mais pas avec l'IA générative. Dans dix ans, on sera les vieux qui se font avoir par des deepfakes vidéo de leur petit-fils qui leur demande de l'argent en visio. Personne n'est jamais formé pour le système d'information de la génération suivante. L'écart se creuse à chaque saut technologique, et le saut algo + IA est probablement le plus brutal qu'on ait connu.

7. Et à la fin, des gens meurent

C'est pas une affaire abstraite. Quand des cerveaux humains en viennent à ne percevoir l'autre camp qu'à travers des caricatures haineuses répétées en boucle, certains finissent par passer à l'acte.

Tyler Robinson, 22 ans, abat Charlie Kirk en septembre 2025. Les autorités américaines le décrivent comme radicalisé par "la culture Reddit et les coins sombres d'internet". Les douilles retrouvées sur place étaient gravées de memes Internet. Le Congrès américain a convoqué les PDG de Reddit, Discord, Twitch et Steam pour témoigner sur la radicalisation en ligne.

De l'autre bord politique : Payton Gendron, 18 ans, tue 10 personnes (toutes noires) dans un supermarché de Buffalo en mai 2022. Son manifeste de 180 pages détaille comment il s'est radicalisé sur 4chan pendant le confinement Covid. BuzzFeed a passé son texte à un détecteur de plagiat : 63% de contenu copié-collé directement de threads 4chan. Un être humain littéralement produit par son feed. Il a livestreamé l'attaque sur Twitch.

Deux camps politiques opposés, exactement la même mécanique : isolation, temps libre, feed qui radicalise, passage à l'acte. Même machine, polarité inversée.

C'est ça qu'on accepte tous les jours. Pour qu'on reste cinq minutes de plus sur l'app.

Conclusion

Le post est long, je sais. J'avais besoin de mettre tout ça à plat pour moi-même autant que pour vous.

Ma conclusion, c'est que la médiation algorithmique de notre rapport au monde est probablement le danger structurel le plus sous-évalué de notre époque. On débat tout le temps de l'IA, du climat, de la géopolitique, mais on ne débat presque pas le fait que notre perception de tous ces sujets est filtrée en amont par des machines optimisées pour notre temps de cerveau disponible.

Et le pire, c'est qu'on n'a encore rien vu. L'IA générative arrive. Le contenu va se découpler complètement de toute expérience humaine. Comment on fait pour penser quand on ne sait plus ce qu'on lit ?

Je suis pas là pour faire la morale, je suis pas mieux que personne sur ce sujet. Je me sens juste un peu seul à voir ce truc, et j'aimerais lire d'autres expériences.

Merci d'avoir lu jusqu'ici.

Sources

Études et articles cités dans le post (par ordre d'apparition) :

u/GusInsight — 17 hours ago