Le 15 septembre dernier, à Washington, près de 300 personnes assistaient à « l'assemblée pro‐humaine ». Parmi elles, un duo improbable, aux antipodes du spectre politique étasunien contre les oligarques de la tech : Bernie Sanders, sénateur progressiste et Steve Bannon, stratège politique du premier mandat de Trump. Ils ont chacun tenu un discours appelant à réguler l’intelligence artificielle, selon eux, porteuse d'une menace existentielle pour l'humanité. Un même constat, mais des réponses très différentes, Sanders appelant à une coopération internationale et Bannon, à un protectionnisme strict.
Ce climat de panique est mondialement médiatisé depuis quelques semaines. Plusieurs événements ont mis de l’huile sur le feu : Jacob Coxon, ingénieur démissionnaire de Anthropic accuse son ex‐employeur ainsi que OpenAI de « jouer avec nos vies » et de foncer vers une « superintelligence auto‐améliorante » qui pourrait conduire à l’extinction de l’espèce humaine. Des enjeux de cybersécurité majeurs sont évoqués aussi par les responsables de ces entreprises, avec la documentation de plusieurs événements où des modèles auraient réussi à « s’échapper d’environnements de test » pour pirater des infrastructures extérieures. Ici, l'enjeu repose plutôt dans la négligence des mesures de sécurité dans ces entreprises, que sur la malveillance de l’IA. La machine ne faisant jamais que ce qu'elle est programmée pour. Diverses déclarations des responsables et dirigeant‐es de ces entreprises affirment partager les inquiétudes existentielles de Coxon et appellent à une régulation par les États de ces technologies.
Difficile de savoir s'ils y croient, ou si la menace existentielle masque surtout une course au profit sans limite, nourrissant les soupçons que cette industrie serait une bulle économique. Les valorisations de ces entreprises sont vertigineuses, alors que leur rentabilité est sans cesse repoussée. Des flux circulaires d'investissements entre les fournisseurs de composants électroniques et les entreprises qui développent les modèles entretiennent artificiellement ces valorisations. L’appel à la régulation tient donc à une logique bien connue : privatiser les profits tant que possible, et socialiser les pertes.
La puissance de ces outils est indéniable et leur développement continuera de transformer la plupart des disciplines scientifiques. Un récent billet de blog d'OpenAI revendique la résolution de manière totalement autonome par 10 000 agents concurrents d'un des « problèmes du millénaire » en mathématiques. L’annonce est controversée : l’entreprise est accusée à la fois d’avoir volé les données d’un mathématicien, Tristan Buckmaster, qui travaillait sur des problèmes très analogues, mais aussi que l'implication humaine dans ce projet serait bien plus importante que la communication d’OpenAI le laisse entendre. Plus que jamais, une régulation à l’échelle internationale apparaît donc primordiale pour lutter contre l'opacité de ces technologies propriétaires. Ces principes sont mis en avant dans la déclaration de Leiden, signée à ce jour par plus de 4 000 mathématicien‐nes.
Le secteur de l'IA est aussi en pleine expansion en France, où l’entreprise Mistral AI a levé 3 milliards d’euros d’investissement ce mois‐ci. De multiples projets d'implantation de datacenters émergent et, bien que les impacts environnementaux et sur la population prévus soient moindre par rapport aux installations étatsuniennes, ces projets sont très contestés par les populations riveraines.
