De ce texte terrifiant de Christine Lemmer-Webber (juillet 2026), je retiens en particulier trois idées :

• lire du code, le comprendre, et y détecter des erreurs ou des failles est extrêmement difficile. Elle cite l'expérience de Ka-Ping Yee dans Building Reliable Voting Machine Software qui introduit intentionnellement des bugs dans une section de code d'une centaine de lignes et demande à des développeurs plus ou moins expérimentés de trouver les bugs dans cette section : le bug le plus subtil ne sera pas détecté, malgré de nombreuses heures passées à chercher.

• commencer à utiliser des générateurs aléatoires de code (soit-disant « IA ») pour programmer, quel que soit l'objectif initial, finit toujours dans une situation où ces générateurs empilent du code sur du code avec une supervision minimale, et où pour comprendre le code il faut faire appel pour l'expliquer à des générateurs aléatoires de texte (soit-disant « IA »). Elle cite plusieurs exemples.

• En conséquence, au vu du nombre et de la centralité des personnes qui se sont engagés dans cette direction, notre monde informatique est en train de moisir, avec une maîtrise du code et des logiciels produits qui diminue au fil du temps. On peut se réfugier dans de petites enclaves de code qu'on fait nous-même et qu'on préserve de la contagion, mais l'air du temps reste peu encourageant.