L'idée d'une AGI est passé en 20 ans de délire mystique marginal à courant de pensée endossé par une partie de la tech américaine. L'auteur note plusieurs caractéristiques de cette idée:

• Un caractère de "foi", i.e. une irrationalité de ses arguments (impossible d'argumenter, tout discours contraire alimente la croyance)
• l'opposition entre ceux qui y croient, qui "ressentent" cette imminence, et les incrédules
• le sentiment d'importance métaphysique donnée à leur propre travail par ces croyants chez OpenAI et consorts (fabriquer Dieu, ça flatte l'égo)

Il relie ça au complotisme (le lien me semble assez mal étayé, je ferai davantage le lien avec une foi religieuse).

De façon plus intéressante, Will Douglas Heaven décrit :

• l'origine de cette notion (entreprises et personnes) : Webmind, DeepMind, OpenAI, Goertzel, Legg
• leur obstination dans un milieu tech qui les prend pour des fous
• la +/- conversion de Thiel à ces idées, les légitimant ensuite à coups de $ en finançant OpenAI (2015) tandis que Bostrom la légitime intellectuellement (SuperIntelligence, 2014)
• certains circuits de diffusion (LessWrong)
• la façon dont elles sont actuellement utilisées pour drainer des financements qui apparaitraient sans fondements sinon

Découvert via la recension qu'en fait Hubert Guillaud, Intelligence artificielle générale : le délire complotiste de la tech, dont je recommande la lecture.