« Les investisseurs devraient ignorer les propos d'Anthropic sur l'apocalypse de l'IA »

« Nous croyons sincèrement que l’IA pourrait tuer tous les humains ! », déclare le chercheur Anthropic Evan Hubinger sur X. Il estime qu’il y a plus de 10 % de chances que nous soyons tous morts « au cours de la prochaine décennie ». On parle beaucoup du potentiel apocalyptique de l’IA. Les hauts responsables des laboratoires d’IA seraient terrifiés par les capacités des modèles récents, qui pourraient être utilisés pour créer des armes biologiques ou échapper au contrôle humain et devenir des voleurs. La panique a atteint un nouveau niveau ce week-end lorsqu'un groupe de PDG de l'IA, dont Dario Amodei – le patron de Hubinger chez Anthropic – a publiquement soutenu les appels en faveur d'un ralentissement du développement de l'IA.

Anthropic : l’entreprise d’IA au centre d’une tempête médiatique

Des trucs effrayants. Peut-être que la Silicon Valley a réellement été prise par un spasme de conscience collectif concernant les conséquences du développement de l’IA. Ou peut-être s’agit-il d’une campagne de relations publiques si astucieuse et sournoise qu’elle ferait pleurer Alastair Campbell. D’une part, le timing est très suspect. Anthropic, la start-up d'IA au centre de la tempête médiatique actuelle, se prépare à lancer dans quelques semaines la plus grande introduction en bourse (IPO) de l'histoire.

Un principe fondamental de la pensée critique est de prêter attention aux intérêts particuliers. Dario Amodei n'est pas un commentateur neutre. Il tente d'obtenir une valorisation IPO pouvant atteindre 2 000 milliards de dollars. Pourtant, une grande partie des médias technologiques, friands d’histoires dramatiques, traitent sans réserve les déclarations égoïstes des dirigeants d’IA comme des déclarations objectives de faits.

Les plus conspirateurs ont souligné que le tweet de Jacob Coxon, le chercheur d'Anthropic dont la démission a déclenché le dernier cycle d'information, a été vu 140 millions de fois malgré le fait que son compte n'avait pratiquement aucune activité antérieure. Même si les inquiétudes de Coxon sont probablement sincères, la façon dont son message a été repris et renforcé par de multiples personnalités influentes semble moins qu'organique.

À première vue, il n’est pas évident à quel point des avertissements désastreux concernant les risques existentiels seraient bénéfiques pour l’industrie de l’IA. Les grandes sociétés de tabac ont passé des années à supprimer les informations sur les dangers de leurs produits. Alors pourquoi les dirigeants d’IA sont-ils si désireux de parler de la manière dont leur technologie pourrait être utilisée par des terroristes ou conduire à l’extinction de pans entiers du travail en col blanc ?

Est-ce qu'Anthropic est un troll ?

La réponse, comme le soutient Cal Newport, professeur d'informatique à l'Université de Georgetown, est l'utilisation généralisée d'une technique de marketing qu'il appelle le « doom trolling » (une version du « doom scrolling » des accros au téléphone). La peur fait vendre. Les affirmations scandaleuses sur les dangers des grands modèles de langage (LLM – la technologie d’IA actuellement privilégiée) deviennent virales, générant une vaste couverture médiatique gratuite pour l’entreprise qui les a créés. Parler de risque existentiel donne l’impression que les produits d’IA sont extrêmement puissants et désirables.

Ce buzz aide à détourner l’attention de la réalité moins excitante. Oui, les LLM peuvent faire des choses impressionnantes dans des domaines hautement structurés tels que le codage et la traduction, où des conditions d'échec claires aident à limiter leur tendance à dérailler. Dans d’autres domaines (y compris le journalisme), leur tendance catastrophique à fabriquer de l’information limite grandement leur utilité.

En bref, le LLM est une nouvelle catégorie de logiciels, mais les investisseurs ne vont pas payer des milliards de dollars pour une version plus récente de Microsoft Excel. Au lieu de cela, ces outils doivent être imprégnés d’un glamour sombre et apocalyptique. De tels discours catastrophiques sont une pratique de longue date de l’industrie. Comme le note Parmy Olson Bloombergen 2019, OpenAI a déclaré qu'elle retiendrait la diffusion générale de son modèle GPT-2 au motif qu'il était trop dangereux – ceci pour un LLM qui avait du mal à répondre aux tâches de raisonnement au niveau de l'école primaire. Terrifiant en effet.

Cette année, la campagne AI doom a été portée au maximum. Il ne se passe presque pas une semaine sans que des affirmations (toutes provenant des sociétés d'IA elles-mêmes) selon lesquelles un robot s'est lancé dans une vague de piratage malveillant, des PDG, dont Dario Amodei d'Anthropic, aient soutenu un ralentissement du développement de l'IA ou qu'un nouveau modèle ne puisse pas être publié parce qu'il crée de graves risques de cybersécurité (il est de toute façon publié peu de temps après). L’effet a été de générer précisément le genre d’atmosphère frénétique que l’on voudrait entourer un trio d’introductions en bourse à enjeux élevés liées à l’IA : SpaceX en juin, Anthropic prévue pour octobre et OpenAI l’année prochaine.

À qui profite le doom trolling de l’IA ?

Les appels à la réglementation lancés par l’industrie de l’IA sentent bon la « capture réglementaire ». Les formalités administratives gouvernementales sont plus lourdes pour les nouveaux arrivants que pour les grands acteurs établis. De nouvelles réglementations de sécurité pourraient aider les leaders de l’IA à freiner la concurrence. Il y a des soupçons persistants selon lesquels Amodei, d'Anthropic, aimerait voir des réglementations qui excluraient effectivement son principal concurrent – ​​une IA moins chère, open source, souvent chinoise – des principaux pays occidentaux. Si vous ne pouvez pas les battre, bannissez-les.

Il est également possible que les appels au ralentissement constituent une tentative de montrer courageusement que la course aux armements en matière d’IA devient trop coûteuse. OpenAI est sur le point de dépenser 45 milliards de dollars cette année seulement en formation et en inférence (le coût de fonctionnement de l’IA), mais les performances des nouveaux modèles connaissent des rendements décroissants. Ce n’est pas un contexte idéal pour coter avec succès une entreprise en croissance. Au lieu d’annoncer de mauvaises nouvelles aux investisseurs et de faire chuter la valorisation, pourquoi ne pas dire pieusement aux médias que vous choisissez de ralentir le développement en raison de votre amour débordant pour l’humanité ?

Ne tombez pas dans le piège du battage médiatique

Qu’est-ce que tout cela signifie pour les investisseurs ordinaires ? Pour commencer, ne tombez pas dans le piège du battage médiatique technologique. Évitez les grandes introductions en bourse tape-à-l'œil de cette année, une transaction très fréquentée s'il en est. Deuxièmement, diversifiez-vous largement. Continuez à rechercher le type de thèmes d’investissement sous-explorés que nous couvrons en profondeur. Et enfin, gardez le cap. On ne sait pas combien de temps durera la fièvre actuelle de l’IA, ni quelle sera exactement l’ampleur des dégâts lorsqu’elle éclatera, mais vous pouvez au moins retrouver un peu de tranquillité en mettant fin aux discours interminables sur la catastrophe. Peut-être que l’IA nous tuera tous dans un avenir hypothétique. Mais pour l’instant, c’est le battage publicitaire autour de l’IA qui représente un danger clair et actuel pour notre santé mentale collective.

---