Altruisme efficace et sécurité de l'IA · Atlas idéologique de la tech

L’altruisme efficace veut faire le plus de bien possible avec des moyens donnés, en comparant l’effet de chaque don ou de chaque carrière. Né à Oxford et à New York à la fin des années 2000, dans le sillage de l’utilitarisme de Peter Singer, il a rencontré dans la baie de San Francisco la communauté dite rationaliste et ses inquiétudes sur l’intelligence artificielle. De cette rencontre sont sortis le long-termisme et une bonne part du champ de la sécurité de l’IA. Le courant compte parce qu’il a financé des laboratoires, des centres de recherche et des think tanks de sécurité nationale à Washington. Il compte aussi parce que l’entreprise qui lui est la plus liée, Anthropic, dont la présidente récuse pourtant l’étiquette, s’est retrouvée en 2026 au cœur d’un conflit ouvert avec le Pentagone.

Origines

Le texte fondateur est un article du philosophe Peter Singer, « Famine, Affluence, and Morality », paru en 1972 dans Philosophy and Public Affairs. Singer l’écrit pendant la guerre de libération du Bangladesh, quand des millions de réfugiés fuient vers l’Inde. Il y compare le refus de donner à une organisation humanitaire au refus de sauver un enfant qui se noie dans une mare pour ne pas abîmer ses chaussures. Si l’on peut empêcher une grande souffrance à petit coût, on doit le faire.

Le mouvement naît une génération plus tard, de deux côtés. En 2007, Holden Karnofsky et Elie Hassenfeld quittent leur emploi dans la finance pour fonder GiveWell, qui évalue l’efficacité réelle des organisations caritatives. À Oxford, le philosophe Toby Ord, qui juge sensé de donner une grande partie de ses revenus aux associations les plus efficaces, lance en novembre 2009, avec William MacAskill, Giving What We Can. Les membres s’engagent à donner une part de leurs revenus : 64 d’entre eux promettent environ 21 millions de dollars la première année. En 2011, MacAskill et Benjamin Todd créent 80 000 Hours, qui conseille les jeunes diplômés sur le choix d’une carrière. En août 2011, Giving What We Can et 80 000 Hours décident de se regrouper. Le 5 décembre, un vote de 17 personnes retient le nom de Centre for Effective Altruism, constitué l’année suivante, qui donne au mouvement son étiquette.

Le second foyer est californien. En 2000, Eliezer Yudkowsky fonde, avec Brian et Sabine Atkins, le Singularity Institute for Artificial Intelligence, futur Machine Intelligence Research Institute (MIRI). D’abord basé à Atlanta, l’institut s’installe dans la Silicon Valley en 2005, puis, fin juin 2013, au centre de Berkeley. En novembre 2006, Yudkowsky et Robin Hanson animent le blog Overcoming Bias, d’où sort en février 2009 le forum LessWrong. Cette communauté « rationaliste » applique la logique et la théorie de la décision à la vie quotidienne comme aux risques planétaires (Miranda, ch. 2), et LessWrong compte l’altruisme efficace parmi les idées nées de ses membres. À Oxford encore, Nick Bostrom définit en 2002 le risque existentiel comme celui qui anéantirait la vie intelligente née sur Terre ou réduirait de façon drastique et définitive son potentiel. Il fonde en 2005 le Future of Humanity Institute. En septembre 2013, sur LessWrong, Julia Galef, cofondatrice du Center for Applied Rationality (CFAR), dessine une carte des sous-cultures d’idées de la baie, qu’Olivier Alexandre reproduit dans La Tech (ch. 7). Elle y situe la communauté rationaliste parmi ses voisines, de la culture des start-up et des hackers aux spiritualités orientales et à Burning Man, et fait des altruistes efficaces ses proches cousins. Le MIRI y apparaît comme le parrain financier qui a fait venir le CFAR dans la région. En republiant la carte en 2017, Galef juge datée sa section sur l’altruisme efficace : le mouvement a beaucoup grandi et son foyer se trouve désormais plutôt dans la baie.

Les idées

La méthode est commune à toutes les branches : comparer les causes et les organisations selon le bien obtenu pour chaque dollar, en partant du constat, mis en avant par Toby Ord, que leur efficacité varie énormément. Elle a deux conséquences pratiques. La première est l’idée de « gagner pour donner », promue par 80 000 Hours : un salaire élevé dans la finance peut faire plus de bien qu’un emploi associatif, s’il est en grande partie donné. Les organisations centrales du mouvement mettent moins l’accent sur cette idée à partir de 2015 environ. La seconde conséquence est la mobilité des priorités. Lors de la première enquête interne, en 2014, 71 % des répondants soutenaient la lutte contre la pauvreté mondiale. En 2022, environ 34 % des financements du mouvement allaient au long-termisme et aux risques existentiels. Olivier Alexandre range ce long-termisme parmi les trois idéologies le plus souvent associées aux milliardaires de la Valley (ch. 8).

En janvier 2026, dans un essai intitulé « The Adolescence of Technology », Dario Amodei indique que tous les cofondateurs d’Anthropic se sont engagés à donner 80 % de leur fortune. Pour redistribuer la richesse, il propose aussi un impôt progressif, général ou ciblé sur les profits démesurés que les entreprises d’IA devraient selon lui bientôt réaliser (Fortune, 27 janvier 2026). Ajout du 30 octobre 2026.

Santé mondiale

C’est la branche d’origine. GiveWell évalue l’efficacité réelle des associations et en recommande quelques-unes. Dustin Moskovitz, cofondateur de Facebook, et sa femme Cari Tuna ont donné plus de 4 milliards de dollars, dont la plus grande part à la santé mondiale : 307 millions de dollars au Malaria Consortium, 206 millions à Evidence Action, 103 millions à Helen Keller International, selon Forbes en novembre 2025. Leurs dons passent par leur fondation, Good Ventures, sur recommandation d’Open Philanthropy, structure née au sein de GiveWell et devenue autonome en 2017.

Bien-être animal

La deuxième branche applique le même calcul aux animaux, au nom de leur souffrance. Elle est présente dès le premier sommet du mouvement, en 2013, où une association d’altruisme efficace consacrée aux animaux figure parmi les participants. Coefficient Giving, nouveau nom d’Open Philanthropy, rappelle encore en novembre 2025, en présentant ce changement de nom, que la souffrance animale compte moralement.

Long-termisme et risques existentiels

La troisième branche part d’un raisonnement simple. Si les générations futures comptent autant que la nôtre, et si elles peuvent être bien plus nombreuses que nous, protéger leur existence l’emporte sur presque tout le reste. Bostrom le formule dès 2003 dans un article sur le « gaspillage astronomique » que représente chaque retard technique, et Nick Beckstead en fait en 2013 le sujet d’une thèse influente. Toby Ord publie en 2020 The Precipice (Hachette). Il y estime à environ une chance sur six le risque d’une catastrophe existentielle au cours du siècle, dont une sur dix pour une IA mal alignée, et fait de la réduction de ce risque une priorité mondiale. Ord place au premier rang l’IA non alignée et les pandémies artificielles, loin devant la guerre nucléaire et le changement climatique. William MacAskill popularise l’idée en 2022 avec What We Owe the Future (Basic Books), qui fait de l’influence sur l’avenir lointain une priorité morale. Leurs critiques leur reprochent de reléguer des maux présents comme le changement climatique.

Sécurité de l’IA

La quatrième branche est devenue la plus visible. Elle vient du MIRI, puis du livre de Bostrom Superintelligence (Oxford University Press, 2014), qui décrit une IA plus générale que l’homme capable d’échapper à son contrôle et pose la question d’une « explosion d’intelligence » maîtrisable. Elon Musk et Bill Gates le citent en référence ; Musk donne en 2015 10 millions de dollars à la recherche sur la sécurité de l’IA. La branche se divise ensuite. Les uns veulent arrêter. Le 29 mars 2023, Yudkowsky publie dans Time une tribune qui juge insuffisante la pause de six mois réclamée par une lettre ouverte. Il demande l’arrêt de tous les grands centres de calcul, un traité international appliqué au besoin par la force, jusqu’à la destruction d’un centre de données clandestin par une frappe aérienne, et place la prévention d’une extinction par l’IA au-dessus de celle d’un échange nucléaire. Il publie en septembre 2025, avec Nate Soares, If Anyone Builds It, Everyone Dies (Little, Brown). Les autres veulent construire une IA sûre de l’intérieur. En 2017, Open Philanthropy, que financent Moskovitz et Tuna, accorde 30 millions de dollars sur trois ans à OpenAI, alors organisation à but non lucratif. En 2021, d’anciens d’OpenAI fondent Anthropic, dont le premier tour de table vient de ces milieux.

Les mises en garde se multiplient. Le 30 mai 2023, le Center for AI Safety, une association de San Francisco, publie une déclaration d’une phrase selon laquelle réduire le risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que les pandémies et la guerre nucléaire. Parmi les signataires figurent Sam Altman, patron d’OpenAI, Demis Hassabis, patron de DeepMind, le laboratoire de recherche en IA de Google, et l’informaticien Geoffrey Hinton. Des critiques jugent que ces mises en garde gonflent les capacités prêtées aux produits des entreprises et détournent de régulations plus immédiates (Associated Press, 30 mai 2023). Les partisans de l’arrêt s’organisent aussi. Le même mois, Joep Meindertsma fonde à Utrecht PauseAI, qui veut arrêter ce qu’il appelle l’IA de pointe dangereuse. Son nom s’inspire de la lettre ouverte du Future of Life Institute de mars 2023, aujourd’hui son principal financeur. Stop AI est lancé en 2024 par deux anciens participants de PauseAI. Selon Holly Elmore, fondatrice de PauseAI US, qui dit les avoir exclus, la rupture tient à la tactique : ils voulaient une désobéissance civile qui enfreigne la loi, ce que PauseAI rejette. Stop AI dit s’en être toujours tenu à un militantisme non violent (Fortune, 15 avril 2026).

Début avril 2025, l’AI Futures Project, une association de Berkeley dirigée par Daniel Kokotajlo, publie le scénario « AI 2027 ». Ancien chercheur d’OpenAI, Kokotajlo a quitté l’entreprise l’année précédente parce qu’il la jugeait imprudente. Il prévoit qu’au début de 2027, si les tendances se maintiennent, l’IA sera un programmeur surhumain, et qu’elle passera vite à la superintelligence. Le scénario imagine notamment que des espions chinois volent les secrets américains de l’IA. Ali Farhadi, qui dirige l’Allen Institute, estime que la prévision ne semble pas fondée sur des preuves scientifiques (The New York Times, 7 avril 2025). En octobre 2025, le Future of Life Institute publie une déclaration qui demande d’interdire le développement d’une superintelligence tant qu’il n’existe ni consensus scientifique sur la possibilité de la maîtriser sans danger, ni soutien du public. Plus de 800 personnes la signent, parmi lesquelles Geoffrey Hinton, Stuart Russell, Steve Wozniak, Steve Bannon, l’ancienne conseillère à la sécurité nationale Susan Rice, l’ancien président du comité des chefs d’état-major interarmées Mike Mullen, le prince Harry et Meghan Markle (ANSA, 24 octobre 2025).

Du côté des laboratoires, Anthropic publie le 19 septembre 2023 sa politique de mise à l’échelle responsable (Responsible Scaling Policy). Elle range les modèles en niveaux de sécurité de l’IA, librement inspirés des niveaux de biosécurité fixés par l’administration américaine pour les matières biologiques dangereuses, les niveaux les plus élevés exigeant des précautions plus strictes. L’entreprise écrit que ce système l’oblige implicitement à suspendre temporairement l’entraînement de modèles plus puissants si leurs progrès dépassent sa capacité à appliquer les procédures de sécurité nécessaires (Anthropic, 19 septembre 2023). Chez OpenAI, une équipe dite de « superalignement », créée en juillet 2023 et codirigée par le cofondateur et directeur scientifique Ilya Sutskever et par Jan Leike, devait recevoir 20 % de la puissance de calcul dont l’entreprise disposait alors. En mai 2024, après le départ de ses deux responsables, OpenAI dissout de fait cette équipe chargée de la sécurité de possibles futurs systèmes d’IA aux capacités extrêmes, et en intègre les travaux au reste de sa recherche. Leike écrit que son équipe peinait parfois à obtenir de la puissance de calcul (Bloomberg, 17 mai 2024). En juin 2024, Sutskever, qui avait pris part en novembre 2023 à la tentative d’évincer Sam Altman, lance Safe Superintelligence Inc. avec l’investisseur et ingénieur Daniel Gross et Daniel Levy, un autre ancien d’OpenAI. L’entreprise, qui aura des bureaux à Palo Alto et à Tel-Aviv, ne veut sortir qu’un seul produit, la superintelligence sûre qui lui donne son nom, et dit vouloir se mettre à l’abri des pressions commerciales (Time, 19 juin 2024).

Le statut d’OpenAI se règle ensuite. Le 28 octobre 2025, l’entreprise annonce avoir achevé sa recapitalisation. L’organisation à but non lucratif, rebaptisée OpenAI Foundation, garde le contrôle de la société commerciale, devenue une société à mission sous le nom d’OpenAI Group PBC, et y détient une participation évaluée à environ 130 milliards de dollars. L’opération a suivi près d’un an de discussions avec les procureurs généraux de Californie et du Delaware (OpenAI, 28 octobre 2025). Le 18 mai 2026, un jury fédéral d’Oakland rejette à l’unanimité la plainte d’Elon Musk contre OpenAI, Sam Altman et Greg Brockman. Musk leur reprochait de s’être écartés de la mission d’origine de l’entreprise, servir l’humanité, après avoir obtenu de lui 38 millions de dollars ; le jury estime qu’il a présenté ses demandes trop tard (Reuters, 18 mai 2026).

En septembre 2026, dans « We Must Pace the Frontier », Dario Amodei appelle à ralentir le rythme auquel progressent les capacités des modèles d’IA. Il annonce qu’Anthropic accueillera dans ses locaux une équipe d’évaluation extérieure, juge utile, pour des raisons de droit de la concurrence, que l’État américain serve de médiateur ou au moins permette les discussions entre entreprises d’IA sur des normes communes, et demande de ne pas vendre à la Chine de puces d’IA puissantes ni d’équipements de fabrication de semi-conducteurs (Dario Amodei, septembre 2026). Sam Altman écrit sur X qu’il est d’accord avec cet appel, juge bonne l’idée d’évaluateurs extérieurs intégrés aux entreprises et annonce qu’OpenAI fera de même ; Elon Musk écrit que Dario a raison. Le journaliste Brian Merchant estime au contraire que de telles propositions serviraient surtout Anthropic et OpenAI, et y voit une capture de la régulation (TechCrunch, 12 septembre 2026).

Figures

Peter Singer: Philosophe utilitariste. Son article de 1972 fournit l’argument moral de départ, qu’Ord et MacAskill disent avoir trouvé convaincant.
Toby Ord: Philosophe à Oxford, cofondateur de Giving What We Can en 2009 et auteur de The Precipice (2020).
William MacAskill: Philosophe écossais, cofondateur de Giving What We Can, de 80 000 Hours et du Centre for Effective Altruism. Auteur de Doing Good Better (2015) et de What We Owe the Future (2022).
Holden Karnofsky: Cofondateur de GiveWell (2007) et d’Open Philanthropy, qu’il a codirigée jusqu’en 2023 avant de se consacrer à la sécurité de l’IA. Il siégeait au conseil d’administration d’OpenAI avant d’y être remplacé en septembre 2021 par Helen Toner. Il est entré chez Anthropic en janvier 2025. Il est le mari de Daniela Amodei, présidente d’Anthropic.
Dustin Moskovitz et Cari Tuna: Le cofondateur de Facebook et sa femme sont les principaux financeurs du mouvement, à travers Good Ventures et Open Philanthropy, devenue Coefficient Giving le 18 novembre 2025. Moskovitz a investi dans le premier tour de table d’Anthropic en 2021. Tuna préfère mettre en avant les idées de l’altruisme efficace plutôt que son étiquette.
Nick Bostrom: Philosophe suédois, fondateur du Future of Humanity Institute d’Oxford (2005-2024). Il a forgé la notion de risque existentiel et publié Superintelligence (2014). Il vient du transhumanisme.
Eliezer Yudkowsky: Chercheur présenté par son éditeur comme l’un des fondateurs du champ de l’alignement de l’IA, fondateur du Singularity Institute devenu MIRI et principal auteur de LessWrong. Il est passé d’un institut voué à rendre bénéfique l’intelligence plus qu’humaine à la demande d’un arrêt mondial des grands entraînements.
Jaan Tallinn: Cofondateur de Skype et du Future of Life Institute, consacré aux risques technologiques. Il mène en mai 2021 le premier tour de table d’Anthropic.
Sam Bankman-Fried: Fondateur de la plateforme de cryptomonnaies FTX et figure respectée du mouvement, dont sa fondation finançait de nombreux projets. FTX s’effondre en novembre 2022. Il est condamné à vingt-cinq ans de prison le 28 mars 2024.
Dario et Daniela Amodei: Le frère et la sœur quittent OpenAI en 2020, en partie par inquiétude devant son orientation commerciale et la place réduite de la recherche sur la sécurité, et fondent Anthropic en 2021. Dario Amodei dirige l’entreprise ; Daniela Amodei en est la présidente. Dario Amodei a appelé à voter pour Kamala Harris en 2024 dans un message Facebook depuis supprimé, selon la presse.

Institutions et textes

MIRI (2000). Fondé sous le nom de Singularity Institute, installé au centre de Berkeley depuis 2013.
Future of Humanity Institute (2005-2024). Centre d’Oxford dirigé par Bostrom, fermé le 16 avril 2024 après des années de tensions avec la faculté de philosophie.
GiveWell (2007). Évaluateur d’associations caritatives, matrice d’Open Philanthropy.
Giving What We Can (2009) et 80 000 Hours (2011). Promesse de dons et conseil de carrière, lancés depuis Oxford.
Open Philanthropy, devenue Coefficient Giving (2025). Organisme qui recommande les dons de Good Ventures, la fondation de Moskovitz et Tuna, et qui s’ouvre à d’autres donateurs.
Center for Security and Emerging Technology (2019). Think tank de sécurité nationale de l’université Georgetown, à Washington, créé grâce à une subvention de 55 millions de dollars sur cinq ans d’Open Philanthropy.
FTX Future Fund (2022). Fonds lancé en février 2022 pour améliorer les perspectives de long terme de l’humanité, avec l’ambition de distribuer de 100 millions à 1 milliard de dollars dans l’année. Son équipe démissionne le 10 novembre 2022.
Anthropic (2021). Laboratoire d’IA fondé par d’anciens d’OpenAI. Son premier tour de table, de 124 millions de dollars en mai 2021, est mené par Jaan Tallinn, avec Dustin Moskovitz, Eric Schmidt et le Center for Emerging Risk Research, investisseur lié à l’altruisme efficace. FTX y investit 500 millions de dollars.
Public First Action (2025). Organisation bipartisane liée à deux super PAC, l’un démocrate, l’autre républicain, qui soutiennent des candidats favorables à l’encadrement de l’IA. Anthropic lui verse 20 millions de dollars en février 2026.

Face à l’État, à la sécurité et à la paix

L’altruisme efficace est d’abord une philanthropie privée. En 2025, l’essayiste Nadia Asparouhova le range pourtant parmi les mouvements de la tech qui collaborent avec un État qu’ils jugent fonctionnel, à l’opposé de ceux qui veulent en réformer les institutions. Elle y voit aussi un héritage du début des années 2010 plus qu’un mouvement en essor. Le rapprochement avec l’État a suivi deux chemins. Le premier est l’expertise. Open Philanthropy a financé à Washington le Center for Security and Emerging Technology, que l’ancienne administratrice d’OpenAI Helen Toner a rejoint en 2019, ainsi que des travaux à la RAND. En 2025, des organisations que finance Open Philanthropy ont versé au moins 3 millions de dollars à des lobbyistes, selon Forbes. Le second chemin est la demande de règles. Le pôle de la sécurité de l’IA réclame, selon les cas, un traité international limitant le calcul (Yudkowsky), plus de transparence des entreprises d’IA, des contrôles à l’exportation des puces et l’encadrement des usages à haut risque comme les armes biologiques (programme de Public First Action). La conviction qu’une IA générale est proche a aussi gagné l’exécutif. Selon le politiste Henry Farrell, l’administration Biden a agi comme si l’échéance était imminente : elle a restreint l’accès de la Chine aux semi-conducteurs les plus avancés et proposé de répartir les pays en trois zones d’accès aux puces, projet qu’il juge voué à l’échec. L’administration Trump a préféré une démarche transactionnelle, en échangeant l’accès des pays du Golfe aux puces contre des investissements (Lawfare, juin 2025). Peter Thiel voit au contraire dans les demandes de règles du pôle de la sécurité de l’IA le chemin vers un État mondial. En 2024, il reproche à Bostrom de conduire, avec son hypothèse d’un « monde vulnérable », vers une gouvernance mondiale et une surveillance de l’IA, et en 2025 il range Yudkowsky et Bostrom parmi les « légionnaires » de l’Antéchrist, c’est-à-dire parmi les artisans d’un futur État mondial (voir droite tech trumpiste).

Les États s’emparent du sujet à leur tour. Le 1er novembre 2023, à Bletchley Park, le Royaume-Uni réunit pour la première fois les principales puissances de l’IA. Vingt-huit pays, dont les États-Unis et la Chine, ainsi que l’Union européenne, adoptent une déclaration qui reconnaît un potentiel de dommages graves, voire catastrophiques, délibérés ou non, liés aux capacités les plus importantes de ces modèles d’IA (gouvernement britannique, 1er novembre 2023). Le 21 mai 2024, au sommet de Séoul, seize entreprises, dont Amazon, Anthropic, Google, Meta, Microsoft, Mistral AI, OpenAI, xAI et Zhipu.ai, prennent des engagements de sécurité. Celles qui ne l’ont pas encore fait publieront un cadre qui décrit comment elles mesurent les risques de leurs modèles les plus avancés et à partir de quel seuil ces risques seraient jugés intolérables ; dans les cas extrêmes, elles s’engagent à ne pas développer ni déployer un modèle si les protections ne peuvent maintenir les risques sous ces seuils (gouvernement britannique, 21 mai 2024). Le 29 janvier 2025 paraît le premier rapport scientifique international sur la sécurité de l’IA, dont le gouvernement britannique assure le secrétariat. Lancé au sommet de novembre 2023 et dirigé par Yoshua Bengio, il réunit les contributions de 100 experts internationaux indépendants et répond à un mandat de plus de 30 pays, dont la France, la Chine et les États-Unis (gouvernement britannique, 29 janvier 2025). Le 14 février 2025, à la conférence de Munich sur la sécurité, quelques jours après le sommet de Paris, le ministre britannique de la Technologie, Peter Kyle, rebaptise l’AI Safety Institute en AI Security Institute. L’institut ne s’occupera ni des biais ni de la liberté d’expression, mais des risques les plus graves, comme l’usage de l’IA pour mettre au point des armes chimiques et biologiques ; le gouvernement annonce le même jour un accord avec Anthropic (gouvernement britannique, 14 février 2025).

Aux États-Unis, la sécurité de l’IA devient une affaire de sécurité nationale. Leopold Aschenbrenner, ancien membre de l’équipe de superalignement d’OpenAI devenu fondateur d’une société d’investissement consacrée à l’IA générale, publie « Situational Awareness: The Decade Ahead », dont Axios rend compte en juin 2024. Il y juge étonnamment plausible que, d’ici 2027, des modèles fassent le travail d’un chercheur en IA, puis que l’on passe rapidement à des systèmes très supérieurs à l’homme. Selon lui, la superintelligence serait le plus important projet de défense nationale des États-Unis, et il redoute que des avancées décisives ne fuient vers le Parti communiste chinois dans les douze à vingt-quatre mois (Axios, juin 2024). Le 29 septembre 2025, le sénateur républicain Josh Hawley et le sénateur démocrate Richard Blumenthal déposent l’Artificial Intelligence Risk Evaluation Act. Le texte créerait au département de l’Énergie un programme d’évaluation des systèmes d’IA avancés, qui recueillerait des données sur la probabilité d’incidents indésirables, comme une perte de contrôle ou l’usage de l’IA comme arme par des adversaires ; aucun de ces systèmes ne pourrait être déployé tant que son développeur ne se serait pas plié au programme (bureau de Josh Hawley, 29 septembre 2025). En décembre 2025, une semaine environ après le décret de Donald Trump contre les lois des États sur l’IA, la gouverneure démocrate de New York, Kathy Hochul, promulgue le RAISE Act, porté par Alex Bores et le sénateur d’État Andrew Gounardes. La loi oblige les développeurs de modèles d’IA à signaler à l’État leurs incidents de sécurité dans les 72 heures et crée un bureau de contrôle au sein du département des services financiers ; des lobbyistes de la tech et de l’IA avaient obtenu des modifications qui la rapprochent de la loi californienne SB 53 (Axios, 19 décembre 2025). Le 24 février 2026, Anthropic publie la version 3.0 de sa politique de mise à l’échelle responsable. Elle invoque notamment un climat politique qui privilégie désormais la compétitivité et la croissance économique, et estime que les protections prévues dans la version précédente pourraient se révéler impossibles à mettre en œuvre sans action collective. Le texte distingue les protections que l’entreprise appliquera quoi que fassent les autres d’une grille ambitieuse, qui associe des protections à chaque niveau de capacité et qui, selon elle, permettrait de gérer convenablement les risques si toute l’industrie l’appliquait. Anthropic publiera aussi des objectifs de sécurité publics, dont elle notera ouvertement l’avancement, sans en faire des engagements fermes, et des rapports de risque tous les trois à six mois (Anthropic, 24 février 2026). Le 29 septembre 2026, des dirigeants de Meta, Nvidia, Google, OpenAI, xAI et Anthropic signent le White House Accord on Super Intelligence, présenté par Donald Trump, qui le dit moralement contraignant. L’accord leur demande des contrôles internes, une équipe chargée de les suivre, des auditeurs extérieurs et un comité indépendant du conseil d’administration, mais il est volontaire et ne prévoit aucune sanction (Al Jazeera, 30 septembre 2026).

Le cas d’Anthropic illustre aussi les liens de ce camp avec l’appareil de sécurité. En novembre 2024, l’entreprise rend ses modèles Claude accessibles aux agences américaines de défense et de renseignement par la plateforme de Palantir, hébergée par Amazon Web Services sur des réseaux classifiés jusqu’au niveau juste inférieur au très secret. En juillet 2025, le Pentagone lui accorde un accord de prototypage de deux ans plafonné à 200 millions de dollars. L’entreprise justifie ce choix par la nécessité pour les démocraties de garder l’avance face aux usages autoritaires de l’IA. Dans son essai « Machines of Loving Grace » (octobre 2024), Dario Amodei imagine une coalition de démocraties qui s’assurerait par l’IA une supériorité militaire, isolerait ses pires adversaires et partagerait les bénéfices de la technique avec les pays qui la rejoignent. Alex Karp défend dans The Technological Republic une thèse voisine : une paix durable suppose une menace crédible de force (ch. 3). Karp juge pourtant malavisée la lettre de 2023 réclamant une pause (ch. 2), et il voit dans l’altruisme efficace et Peter Singer une façon d’esquiver la question de la vie bonne (ch. 18).

Le 13 février 2026, le Wall Street Journal rapporte que Claude a servi, par l’intermédiaire de Palantir, à l’opération qui a capturé Nicolás Maduro à Caracas le 3 janvier. Reuters n’a pas pu vérifier l’information, et le rôle exact de Claude n’est pas précisé. Les règles d’usage d’Anthropic interdisent de soutenir la violence ou de concevoir des armes, avec des exceptions contractuelles accordées à certaines agences depuis 2024. La rupture vient deux semaines plus tard. Le 27 février 2026, Anthropic rend public son refus de lever deux exceptions : la surveillance de masse des Américains et les armes entièrement autonomes. Elle dit accepter tous les autres usages légaux de sécurité nationale. Le secrétaire à la Défense, Pete Hegseth, annonce qu’il fera désigner l’entreprise comme risque pour la chaîne d’approvisionnement. Le même jour, Donald Trump ordonne sur Truth Social à toutes les agences fédérales de cesser immédiatement d’utiliser la technologie d’Anthropic, avec une période de transition de six mois pour le département de la Guerre et les autres agences qui s’en servent. Le soir même, OpenAI annonce un accord pour prendre sa place sur les réseaux classifiés, ce que Sam Altman jugera ensuite opportuniste et bâclé. Le Pentagone fait valoir que l’armée doit pouvoir utiliser la technologie à toutes fins légales et qu’aucun fournisseur ne peut s’insérer dans la chaîne de commandement. Il officialise la désignation le 5 mars. Dario Amodei s’excuse de son côté d’une note interne qui attaquait OpenAI et laissait entendre que l’entreprise était punie pour n’avoir pas flatté Trump.

La bataille passe devant les tribunaux. Le 9 mars, Anthropic attaque devant un tribunal fédéral de Californie et devant la cour d’appel fédérale de Washington, seule compétente pour l’une des deux bases légales invoquées. Le 26 mars, la juge Rita Lin suspend la désignation prononcée au titre du code de la défense, ainsi que les directives de Trump et de Hegseth, en y voyant un cas classique de représailles contraires au premier amendement. Le gouvernement fait appel le 2 avril devant la cour d’appel du neuvième circuit. À Washington, la cour d’appel, saisie de la seconde désignation, fondée sur une loi de 2018 sur la sécurité des achats fédéraux, refuse le 8 avril de la suspendre. Le 27 août, Rita Lin rend une décision de 59 pages : le Pentagone a agi illégalement en sanctionnant Anthropic pour ses critiques. Le sous-secrétaire à la Guerre Emil Michael affirme pourtant le 3 septembre que l’entreprise reste désignée comme risque. Le 25 septembre, la cour d’appel de Washington valide cette désignation par deux voix contre une. Les juges Gregory Katsas et Neomi Rao, nommés par Trump, estiment que la désignation tient à ce que fait Anthropic, non à ses intentions, qu’ils ne mettent pas en doute, tout en disant n’avoir rien à redire aux conclusions du tribunal californien ; la juge Karen LeCraft Henderson est en désaccord. Le 13 octobre, Anthropic demande que l’affaire soit réexaminée par l’ensemble des juges de la cour. Le 20 octobre, d’anciens secrétaires des armées et officiers généraux à la retraite, ainsi que dix-sept anciens responsables de la sécurité nationale, appuient cette demande par des mémoires d’amici curiae. Fin octobre 2026, le différend n’est pas tranché.

Le rapport aux démocrates est ambigu. Dustin Moskovitz et Cari Tuna ont promis environ 20 millions de dollars aux démocrates en 2016 (18 millions selon Alexandre, ch. 3). Sur le cycle de 2024, Moskovitz est le premier donateur de la baie de San Francisco, avec 51 millions de dollars. Il ne verse rien à des campagnes fédérales au premier semestre 2025, comme lors des années sans élection fédérale de 2017 et 2021 (San Francisco Standard, août 2025). Dario Amodei a appelé à voter pour Kamala Harris, et les salariés d’Anthropic donnent surtout aux démocrates : au deuxième trimestre 2026, 68,8 % de leurs dons déclarés vont à ce parti et 12,9 % aux républicains, selon des relevés de la Commission électorale fédérale compilés par la Daily Caller News Foundation, un média conservateur. Mais Public First Action, qui a levé 80 millions de dollars dont la moitié vient d’Anthropic (Scripps News, septembre 2026), se veut bipartisane. Depuis août 2026, la structure affiliée à Public First que The Intercept range dans l’argent opaque (« dark money ») a versé 3 millions de dollars à un super PAC déjà existant qui soutient Scott Wiener, sénateur de l’État de Californie et l’un des deux démocrates qui briguent la succession de Nancy Pelosi, représentante qui prend sa retraite (The Intercept, 29 octobre 2026). Le dossier L’argent de la tech dans les élections de mi-mandat de 2026 détaille ces flux et les dons des salariés d’Anthropic, d’après les déclarations à la FEC. Thiel, lui, affirme en 2026 qu’Obama sait les démocrates à court d’idées, mais qu’ils peuvent au moins s’opposer à l’IA.

En juillet 2026, le gouverneur démocrate de l'Illinois, JB Pritzker, signe l'Artificial Intelligence Safety Measures Act, présenté comme une première dans le pays : la loi impose des audits de sécurité par des tiers. Elle oblige les entreprises d'IA de pointe dont le chiffre d'affaires dépasse 500 millions de dollars, comme Anthropic et OpenAI, à identifier, divulguer et atténuer des risques. Elle permet aussi des inspections indépendantes des systèmes d'IA qui relèvent de l'État (Washington Examiner, 6 juillet 2026). Ajout du 30 octobre 2026.

Débats et critiques

La première crise est interne. En novembre 2022, FTX s’effondre. Le 10 novembre, l’équipe du FTX Future Fund démissionne en condamnant d’éventuelles tromperies des dirigeants de l’entreprise. Bankman-Fried est reconnu coupable de sept chefs de fraude et de complot, et le juge estime que les clients ont perdu environ 8 milliards de dollars. Le mouvement, dont il était une figure respectée, en sort atteint dans sa réputation. En février 2023, Time publie une enquête sur des faits de harcèlement et d’abus sexuels dans la communauté. En novembre 2023, le conseil d’administration d’OpenAI renvoie Sam Altman ; deux de ses membres, Helen Toner et Tasha McCauley, sont proches de l’altruisme efficace. Altman revient quatre jours plus tard avec un nouveau conseil, dont Toner et McCauley ne font plus partie.

La critique venue de la gauche vise le long-termisme. En octobre 2021, dans Aeon, Émile P. Torres le décrit comme peut-être le système de croyances laïque le plus dangereux du moment. Torres reproche à ce courant de minimiser des maux présents comme le changement climatique ou la pauvreté s’ils ne menacent pas le potentiel à long terme de l’humanité, et de pouvoir justifier des mesures extrêmes, de la surveillance de masse à la violence préventive. Torres relève aussi le rôle des milliardaires, d’Elon Musk à Jaan Tallinn et Peter Thiel, dans le financement de ces institutions. Avec Timnit Gebru, Torres élargit la critique en 2024 au faisceau TESCREAL, rattaché à l’eugénisme, et soutient que le discours sur la « sécurité » couvre la construction de systèmes impossibles à sécuriser (voir transhumanisme).

Le sigle a ses contradicteurs jusque dans les milieux visés. En juin 2024, dans la revue Asterisk, financée en partie par Coefficient Giving, Ozy Brennan reproche à Torres de traiter un ensemble lâche de convictions comme un bloc et de prendre des expériences de pensée pour des plans d’action. Brennan reconnaît pourtant au concept une utilité : faire apparaître les présupposés philosophiques que partagent les débats de la Silicon Valley. Le sociologue James Hughes, figure du transhumanisme de gauche, avait formulé dès 2023 une objection voisine (voir transhumanisme).

Le journaliste scientifique Adam Becker adresse au long-termisme une critique de méthode dans More Everything Forever (Basic Books, avril 2025), un livre qui traite ensemble les futurismes de la Silicon Valley. Les conclusions du long-termisme reposent selon lui sur des probabilités minuscules et invérifiables, auxquelles on fait porter le sort de milliards de vies futures, alors qu’on ne peut pas savoir ce dont l’avenir lointain aura besoin. Il relève dans une thèse de Nick Beckstead l’idée que sauver des vies dans les pays riches aurait plus d’effets sur l’avenir, ce qui revient selon lui à juger ces vies plus précieuses. Il reproche aussi à Ord et à MacAskill de sous-estimer le changement climatique. Il doute enfin de l’IA générale comme du problème de l’alignement, en s’appuyant sur des sceptiques comme Jaron Lanier, Melanie Mitchell et Yann LeCun. La réponse est venue du forum de l’altruisme efficace. On y reproche à Becker d’ignorer la branche de santé mondiale, des moustiquaires aux transferts d’argent, et un auteur juge son chapitre sur le mouvement idéologiquement rigide. Des commentateurs trouvent fragiles les références sur lesquelles il fonde l’écart d’Ord et de MacAskill avec la recherche sur le climat : un compte rendu de philosophe et un article d’Émile Torres, plutôt qu’une synthèse scientifique.

La journaliste Karen Hao nuance de son côté l’opposition entre prudents et pressés. Dans Empire of AI (Penguin Press, mai 2025), elle décrit au cœur d’OpenAI deux camps aux croyances quasi religieuses : ceux qui attendent de l’IA une utopie et veulent y aller vite, et ceux qui la redoutent mais veulent la construire les premiers pour qu’un acteur malveillant ne le fasse pas. Selon elle, la course à une IA générale bénéfique a fini par placer la vitesse au-dessus de la sécurité, chez les seconds comme chez les premiers.

Le débat compte d’ailleurs plus de deux camps. En septembre 2026, un guide de NPR en distingue six : les accélérationnistes de la droite tech, une droite populiste qui réclame des limites au point que Steve Bannon s’est associé au sénateur Bernie Sanders, les partisans de la sécurité face aux risques catastrophiques comme Geoffrey Hinton, les altruistes efficaces, le camp de l’éthique de l’IA attentif aux torts présents, et ceux qui tiennent l’IA pour une technologie ordinaire à réguler usage par usage.

La critique venue de la droite tech vise la régulation. À la mi-octobre 2025, après un texte du cofondateur d’Anthropic Jack Clark sur la crainte appropriée que doit inspirer l’IA, David Sacks, conseiller de Trump pour l’IA, accuse l’entreprise de mener une « sophisticated regulatory capture strategy based on fear-mongering » (David Sacks, cité par Axios, 16 octobre 2025). Le différend est ancien. En août 2024, Anthropic, qui avait obtenu des amendements, estimait que les bénéfices du projet californien SB 1047 l’emportaient probablement sur ses coûts, quand a16z le combattait ; le gouverneur Gavin Newsom y oppose son veto le 29 septembre 2024. En 2025, la Maison-Blanche soutient un moratoire de dix ans sur les lois des États, qu’Anthropic juge trop brutal et que le Sénat rejette. Anthropic soutient ensuite SB 53, signé le 29 septembre 2025, qui impose aux grands développeurs de publier leurs cadres de sécurité. Axios relève l’hypocrisie possible des deux côtés : les liens de Sacks avec la Silicon Valley, et une entreprise qui prêche la crainte tout en dépensant et en levant des milliards pour faire progresser l’IA. L’argent suit le conflit. En février 2026, Anthropic verse 20 millions de dollars à Public First Action, puis 20 millions de plus le 21 juillet, en précisant que ces fonds ne peuvent servir à influencer l’élection d’un candidat. En face se dresse le super PAC Leading the Future, qui a levé 125 millions de dollars, notamment auprès de Marc Andreessen et Ben Horowitz, fondateurs d’a16z, et de Greg Brockman, d’OpenAI (voir accélérationnisme effectif). En juin 2026, à la primaire démocrate de Manhattan, des groupes favorables à l’encadrement dépensent quelque 20 millions de dollars pour Alex Bores, auteur d’une loi sur la sécurité de l’IA, contre plus de 8 millions dépensés pour le battre par Think Big, satellite de Leading the Future. Bores perd face à Micah Lasher. En 2026 encore, Thiel affirme que l’altruisme efficace a conditionné une partie des chercheurs en IA.

Les critiques visent aussi les laboratoires eux-mêmes. Le 4 juin 2024, une lettre ouverte signée par treize personnes, pour la plupart d’anciens salariés d’OpenAI, réclame pour les chercheurs un « droit d’alerter » sur les dangers de l’IA sans craindre de représailles. Quatre signataires sont des salariés anonymes d’OpenAI, et deux travaillent ou ont travaillé chez Google DeepMind ; la lettre demande la fin des accords de non-dénigrement qui peuvent priver les partants de leurs parts et reçoit le soutien de Yoshua Bengio et de Geoffrey Hinton. OpenAI répond que ses salariés disposent déjà d’une ligne anonyme pour faire part de leurs inquiétudes (Associated Press, 4 juin 2024). En octobre 2024, lors d’un point de presse donné en l’honneur de son prix Nobel de physique, Hinton se dit particulièrement fier qu’un de ses anciens étudiants, Ilya Sutskever, ait renvoyé Sam Altman. Celui-ci s’est révélé selon lui bien moins soucieux de sécurité que de profits. Hinton s’est engagé à défendre la sécurité de l’IA plutôt qu’à mener la recherche de pointe (Fortune, 9 octobre 2024). Les laboratoires ont aussi leurs défenseurs. En octobre 2025, Reid Hoffman, associé du fonds Greylock, qui a investi selon lui dans Anthropic, prend sur X la défense de l’entreprise. Il la range parmi ceux qui cherchent à déployer l’IA de la bonne manière, avec Microsoft, Google et OpenAI. David Sacks lui répond en le qualifiant de premier financeur de la guérilla judiciaire et des coups bas contre Trump (Fortune, 21 octobre 2025).

En 2026, les pouvoirs publics américains se penchent sur les laboratoires. Le 18 septembre, Gavin Newsom, candidat possible à la présidentielle de 2028, signe un décret qui charge un groupe d’experts de proposer sous deux mois un cadre pour renforcer les lois californiennes sur la sécurité de l’IA. Le groupe doit étudier un mécanisme d’arrêt d’urgence, des contrôleurs indépendants pour les entreprises d’IA de pointe et des audits, alors que le décret signé par Trump en décembre 2025 vise à empêcher les États d’appliquer leurs propres règles sur l’IA (ABC7 News, 18 septembre 2026). Le 30 septembre, un porte-parole de la Commission fédérale du commerce (FTC) confirme qu’elle enquête sur OpenAI, Anthropic et d’autres entreprises d’IA, au sujet des dangers que leurs technologies peuvent présenter pour les consommateurs. Il ne fait pas d’autre commentaire. Selon le New York Post, qui a révélé l’enquête, elle dure depuis des mois. Dans les mois précédents, ces entreprises et d’autres avaient fait état d’agents d’IA allés au-delà des instructions humaines, jusqu’à atteindre internet et pirater des sites extérieurs (Associated Press, 30 septembre 2026).

Les livres se répondent. En mai 2025, Emily M. Bender, professeure de linguistique à l’université de Washington, et Alex Hanna, directrice de recherche du Distributed AI Research Institute, publient chez Harper The AI Con. Elles se méfient autant des catastrophistes que des promoteurs de l’IA et placent la vraie menace dans la dégradation du travail humain, la banalisation du vol de données et une surveillance toujours plus poussée ; la recension leur reproche un récit qui frôle parfois la suite d’anecdotes (Publishers Weekly, 15 avril 2025). En septembre 2025, Clara Collier, rédactrice en chef d’Asterisk, juge If Anyone Builds It, Everyone Dies, d’Eliezer Yudkowsky et Nate Soares, nettement moins cohérent que leurs écrits antérieurs. Elle conteste la certitude absolue d’une catastrophe et reproche aux deux auteurs d’être durablement incapables de réviser leurs a priori (Asterisk, septembre 2025).

Les défenseurs répondent sur plusieurs terrains. Le mouvement a continué, après FTX, à orienter des sommes importantes vers les associations jugées les plus efficaces, et Coefficient Giving se présente désormais comme un conseiller ouvert à de nombreux donateurs. Même un lecteur favorable à Becker, Henry Farrell, rappelle que ces croyants sont loin d’être bêtes, que la plupart ne sont pas hypocrites et que leurs ambitions ont pu nourrir de vrais progrès. Anthropic soutient que ses deux exceptions n’ont gêné aucune mission gouvernementale, et elle a obtenu gain de cause en Californie, sinon à Washington. Jack Clark, enfin, plaide qu’il faut admettre la réalité du risque avant de pouvoir le gérer. Reste la question soulevée par Axios et, sous d’autres formes, par Gebru et Torres puis par Karen Hao : une entreprise peut-elle mettre en garde contre l’IA tout en levant des milliards pour la développer ?

Chronologie

1972 Peter Singer publie « Famine, Affluence, and Morality ».
2000 Fondation du Singularity Institute, futur MIRI.
2002 Nick Bostrom définit le risque existentiel ; il fonde en 2005 le Future of Humanity Institute.
2007 Fondation de GiveWell.
2009 Lancement de LessWrong (février) et de Giving What We Can (novembre).
2011 Création de 80 000 Hours ; le 5 décembre, le nom de Centre for Effective Altruism est choisi, et avec lui l’étiquette du mouvement.
2014 Bostrom publie Superintelligence.
2021 Fondation d’Anthropic ; premier tour de table mené par Jaan Tallinn (mai).
2022 MacAskill publie What We Owe the Future (août) ; effondrement de FTX (novembre).
2023 Tribune de Yudkowsky dans Time (mars) ; renvoi puis retour de Sam Altman chez OpenAI (17-21 novembre).
2024 Condamnation de Bankman-Fried (mars) ; fermeture du Future of Humanity Institute (avril) ; Claude chez Palantir et AWS (novembre).
2025 Adam Becker publie More Everything Forever (avril) et Karen Hao Empire of AI (mai) ; accord de 200 millions de dollars avec le Pentagone (juillet) ; attaque de David Sacks contre Anthropic (octobre) ; Open Philanthropy devient Coefficient Giving (18 novembre).
2026 Le 3 janvier, capture de Maduro, opération où Claude aurait servi selon le WSJ ; en février, Anthropic finance Public First Action.
2026 Le 27 février, refus des deux usages et ordre de Trump aux agences fédérales ; le 5 mars, désignation comme risque pour la chaîne d’approvisionnement ; le 26 mars, suspension par la juge Rita Lin.
2026 Le 27 août, Rita Lin juge la sanction illégale ; le 25 septembre, la cour d’appel de Washington valide la désignation ; le 13 octobre, Anthropic demande un réexamen.

Voir cette chronologie sur la frise, avec la source de chaque date

Sources

David Edmonds, « The drowning child », Princeton University Press, 22 septembre 2025. lien
« History of effective altruism », Effective Altruism Forum, consulté le 23 octobre 2026. lien
Emanuel Maiberg, « Institute That Pioneered AI "Existential Risk" Research Shuts Down », 404 Media, 17 avril 2024. lien
Julia Galef, « A map of Bay Area memespace », LessWrong, 23 septembre 2013. lien
Julia Galef, republication de « A map of Bay Area memespace » avec une note sur l’altruisme efficace, juliagalef.com, 20 février 2017. lien
« The story behind our new name », Coefficient Giving, 18 novembre 2025. lien
Phoebe Liu, « This billionaire couple has a plan to give away a $20 billion Facebook fortune », Forbes (édition australienne), 10 novembre 2025. lien
Eliezer Yudkowsky, « Pausing AI Developments Isn’t Enough. We Need to Shut it All Down », Time, 29 mars 2023 (reprise sur l’Effective Altruism Forum). lien
Émile P. Torres, « Against longtermism », Aeon, 19 octobre 2021. lien
Ozy Brennan, « The “TESCREAL” Bungle », Asterisk, n° 6, juin 2024. lien
Eli Sennesh et James J. Hughes, « Conspiracy Theories, Left Futurism, and the Attack on TESCREAL », Institute for Ethics and Emerging Technologies (Medium), 12 juin 2023. lien
Dave Karpf, « Book Review: More Everything Forever », The Future, Now and Then, 1er mai 2025. lien
Dan Falk, compte rendu de More Everything Forever d’Adam Becker, Undark, 16 mai 2025. lien
« More Everything Forever, a new book critique of EA », Effective Altruism Forum (miroir GreaterWrong), consulté le 23 octobre 2026. lien
Henry Farrell, « The Same Old Fantasies Behind AI and New Technology », Lawfare, 13 juin 2025. lien
Entretien avec Karen Hao sur Empire of AI, NPR, Morning Edition (reprise HPPR), 20 mai 2025. lien
Rebecca Bellan, entretien avec Karen Hao, TechCrunch, 14 septembre 2025. lien
Katie McQue, « The AI safety debate is confusing. Here’s our guide to the different factions », NPR (reprise Georgia Public Broadcasting), 26 septembre 2026. lien
Nadia Asparouhova, « Rewriting the Californian Ideology », American Affairs, vol. IX, n° 2, été 2025 (en ligne le 20 mai 2025). lien
« OpenAI Announces Sam Altman Is Coming Back and There’s a New Board », 404 Media, 22 novembre 2023. lien
« Anthropic’s $124M Series A came almost entirely from tech founders, not VCs », Dealroom, consulté le 23 octobre 2026. lien
Jessica Mathews et Sharon Goldman, « Anthropic hired president Daniela Amodei’s husband », Fortune, 13 février 2025. lien
Reuters, « Anthropic supports California AI bill despite ongoing concerns », repris par Cyprus Mail, 24 août 2024. lien
Kyt Dotson, « Anthropic partners with AWS and Palantir to provide AI models to defense agencies », SiliconANGLE, 7 novembre 2024. lien
« Anthropic and the Department of Defense to advance responsible AI in defense operations », Anthropic, 14 juillet 2025. lien
Anders Corr, « Amodei’s AI Plan To Democratize China », Journal of Political Risk, vol. 13, n° 1, 16 janvier 2025. lien
Dan Primack, « Anthropic and David Sacks », Axios, 16 octobre 2025. lien
Maria Curi, « Anthropic gives millions to AI policy fight », Axios, 12 février 2026. lien
Associated Press, « Timeline: how the US captured Venezuelan leader Nicolás Maduro », repris par 1News, 6 janvier 2026. lien
Reuters, « US used Anthropic’s Claude during the Venezuela raid, WSJ reports », repris par Internazionale, 14 février 2026. lien
« Statement on the comments from Secretary of War », Anthropic, 27 février 2026. lien
Amrith Ramkumar (Wall Street Journal), « President Trump Will End Government Use of Anthropic’s AI Models », repris par le Benton Institute, 27 février 2026. lien
« Pentagon labels AI company Anthropic a supply chain risk », NPR, 6 mars 2026. lien
« Judge temporarily blocks Trump administration’s Anthropic ban », NPR, 26 mars 2026. lien
Associated Press, « Judge says Pentagon’s measures against Anthropic were "illegal and baseless" », repris par NPR et HPPR, 27 août 2026. lien
Kaitlyn Huamani (Associated Press), « Federal court says Pentagon can label Anthropic a supply chain risk », repris par CP24, 25 septembre 2026. lien
Diego Almada Lopez, « Anthropic asks full appeals court to revisit Pentagon national security ruling », Crypto Briefing, 13 octobre 2026. lien
Anthropic, « Anthropic donates to Public First Action », 21 juillet 2026. lien
Patrick Terpstra, article sur les dépenses des groupes d’intérêt de l’IA dans les élections de 2026, Scripps News, 30 septembre 2026. lien
Emily Shugerman, « Tech’s Democratic donors have gone dormant, while conservatives double down », San Francisco Standard, 8 août 2025. lien
Dylan Kresak (Daily Caller News Foundation), « OpenAI Employees Dropped More Than $296,000 On Democrats While Republicans Got Nothing, Filings Show », 24 juillet 2026, repris par BizPac Review et The Western Journal. lien lien
Veronica Irwin, « Anthropic restricted its Public First Action donation », Transformer, 13 avril 2026. lien
Cour d’appel fédérale du circuit de Washington, Anthropic PBC v. United States Department of War, n° 26-1049, joint au n° 26-1162, registre de la procédure (recours du 9 mars 2026, refus de suspension du 8 avril, audience du 19 mai, arrêt du 25 septembre), Justia Dockets. lien
Kevin Frazier, « Why Anthropic Is Asking for a Rehearing En Banc », Lawfare, 15 octobre 2026. lien
Nick Bostrom, « A History of Transhumanist Thought », Journal of Evolution and Technology, vol. 14, n° 1, avril 2005 (définition du risque existentiel de 2002). lien
Nick Bostrom, « Astronomical Waste: The Opportunity Cost of Delayed Technological Development », Utilitas, vol. 15, n° 3, 2003. lien
GiveWell, « Our Story », consulté le 26 octobre 2026. lien
William MacAskill, « The history of the term “effective altruism” », Effective Altruism Forum, 11 mars 2014, et « Centre for Effective Altruism », Wikipédia (en anglais), consulté le 26 octobre 2026. lien lien
MIRI, « MIRI Has Moved! », 8 juillet 2013, et « Machine Intelligence Research Institute », Wikipédia (en anglais), consulté le 26 octobre 2026. lien lien
« History of Less Wrong », wiki de LessWrong, consulté le 26 octobre 2026. lien
« Julia Galef », page thématique, Effective Altruism Forum, consultée le 26 octobre 2026. lien
Theron Pummer, compte rendu de The Precipice de Toby Ord (Hachette, 2020), Notre Dame Philosophical Reviews, 2 août 2020. lien
Hachette Book Group, page de What We Owe the Future de William MacAskill (Basic Books, 16 août 2022). lien
« Superintelligence: Paths, Dangers, Strategies », Wikipédia (en anglais), consulté le 26 octobre 2026, et MIRI, « An Astounding Year », 16 juillet 2015. lien lien
Joseph Dussault, « Elon Musk spends $10 million to stop robot uprising », The Christian Science Monitor, 16 janvier 2015. lien
Hachette Book Group, page de If Anyone Builds It, Everyone Dies d’Eliezer Yudkowsky et Nate Soares (Little, Brown, 16 septembre 2025). lien
Open Philanthropy, subventions « OpenAI General Support » (mars 2017) et « Georgetown University, Center for Security and Emerging Technology » (janvier 2019). lien lien
Open Philanthropy, « Alexander Berger is now sole CEO of Open Philanthropy », 27 juillet 2023. lien
OpenAI, « Helen Toner joins OpenAI’s board of directors », 8 septembre 2021, et « Helen Toner », Wikipédia (en anglais), consulté le 26 octobre 2026. lien lien
burner2, « Anthropic is not being consistently candid about their connection to EA », Effective Altruism Forum, 30 mars 2025 (cite Daniela Amodei dans Wired). lien
CBC News, « Sam Bankman-Fried, FTX founder, sentenced to 25 years in prison in crypto fraud case », 28 mars 2024. lien
Nick Beckstead, William MacAskill et l’équipe du Future Fund, « Announcing the Future Fund », Effective Altruism Forum, 28 février 2022, et « The FTX Future Fund team has resigned », 10 novembre 2022 (miroir du forum). lien lien
Charlotte Alter, « Effective Altruism Promises to Do Good Better. These Women Say It Has a Toxic Culture Of Sexual Harassment and Abuse », Time, 3 février 2023. lien
Asterisk, page « About », consultée le 26 octobre 2026. lien
« Empire of AI », Wikipédia (en anglais), consulté le 26 octobre 2026 (Penguin Press, 20 mai 2025). lien
Bobby Allyn, « California Gov. Newsom vetoes AI safety bill that divided Silicon Valley », NPR, repris par MPR News, 30 septembre 2024. lien
Rebecca Bellan, « US Senate removes controversial AI moratorium from budget bill », TechCrunch, 1er juillet 2025. lien
Bureau du gouverneur de Californie, « Governor Newsom signs SB 53, advancing California’s world-leading artificial intelligence industry », 29 septembre 2025. lien
Anthropic, « Expanding access to Claude for government », 26 juin 2024. lien
Foundation for Individual Rights and Expression, page de l’affaire Anthropic PBC v. U.S. Department of War (plainte du 9 mars 2026), consultée le 26 octobre 2026. lien
Associated Press, « Trump admin appeals ruling that blocked action in Anthropic dispute », repris par 1News, 5 avril 2026. lien
Gautam Y. Reddy, Gunjan R. Talati et Jennifer L. Andrews, alerte sur le refus de suspendre la désignation fondée sur la loi FASCSA, Kilpatrick Townsend, 9 avril 2026. lien
David Zimmermann, « Pentagon confirms Anthropic remains a “supply chain risk” despite court ruling », Washington Examiner, 3 septembre 2026. lien
MLex, « Anthropic asks US appeals court for en banc review of supply chain decision », 14 octobre 2026, et « Former US military officials back Anthropic on appellate rehearing on risk designation », 20 octobre 2026. lien lien
Brandi Vincent, « Former U.S. officials urge D.C. Circuit to reconsider decision in Anthropic-Pentagon fight », DefenseScoop, 21 octobre 2026. lien
Jeremy Kahn, « At the heart of Anthropic’s clashes with the U.S. government, a decision not to play by the new rules of Trump’s Washington », Fortune, 30 juin 2026. lien
Ece Yildirim, « AI Super PAC’s First Major Target Loses New York Congressional Primary », Gizmodo, 24 juin 2026. lien
James Lynch, article sur le lancement des super PAC de Brad Carson et Chris Stewart, National Review, 26 novembre 2025, repris par l’Institute for Family Studies, et « Public First Action », Wikipédia (en anglais), consulté le 26 octobre 2026. lien lien
« Facebook co-founder gives $20 million to Hillary Clinton, Democrats », CBS News, 9 septembre 2016. lien
Hoover Institution, « Part II: Apocalypse Now? Peter Thiel on Ancient Prophecies and Modern Tech », Uncommon Knowledge, 6 décembre 2024 (entretien enregistré le 8 octobre 2024). lien
Jack Nicastro, « I Listened to Over 7 Hours of Peter Thiel’s Leaked Antichrist Lectures. They’re Surprisingly Libertarian », Reason, 14 octobre 2025. lien
Sasha Tuddenham, « Peter Thiel says Obama and Pope Leo are exploiting AI fears in his latest Antichrist lectures », Fortune, 15 octobre 2026. lien
ANSA English, dépêche sur la déclaration du Future of Life Institute contre la superintelligence, ANSA, 24 octobre 2025. lien
Bret Taylor, « Built to benefit everyone », OpenAI, 28 octobre 2025. lien
Deepa Seetharaman, Jonathan Stempel et Greg Bensinger (Reuters), « Elon Musk loses high-stakes lawsuit against OpenAI over company’s mission », repris par BusinessDay, 18 mai 2026. lien
Associated Press, « Artificial intelligence raises risk of extinction, experts say in new warning », repris par KSAT, 30 mai 2023. lien
Dario Amodei, « We Must Pace the Frontier », darioamodei.com, septembre 2026. lien
Anthony Ha, « Anthropic CEO outlines plan to slow AI development », TechCrunch, 12 septembre 2026. lien
Bloomberg, « OpenAI Dissolves High-Profile Safety Team After Chief Scientist Sutskever’s Exit », repris par Daily Maverick, 17 mai 2024. lien
Harry Booth, article sur le lancement de Safe Superintelligence Inc. par Ilya Sutskever, Time, 19 juin 2024. lien
Anthropic, « Anthropic’s Responsible Scaling Policy », 19 septembre 2023. lien
Kevin Roose, « This AI forecast predicts storms ahead », The New York Times, repris par The Star, 7 avril 2025. lien
Sharon Goldman, « Pause AI and Stop AI: Meet the anti-AI groups facing questions after the attack on Sam Altman », Fortune, 15 avril 2026. lien
« N.Y. Gov. Kathy Hochul signs sweeping AI safety bill », Axios, 19 décembre 2025. lien
Andy Hirschfeld, « How does Trump’s White House AI accord work? », Al Jazeera, 30 septembre 2026. lien
Matt Sledge, « AI Tried to Buy the Midterms , Then the Lobby Learned Everyone Hates AI », The Intercept, 29 octobre 2026. lien
Anthropic, « Anthropic’s Responsible Scaling Policy: Version 3.0 », 24 février 2026. lien
Gouvernement britannique, « Countries agree to safe and responsible development of frontier AI in landmark Bletchley Declaration », communiqué, 1er novembre 2023. lien
Gouvernement britannique, « Historic first as companies spanning North America, Asia, Europe and Middle East agree safety commitments on development of AI », communiqué, 21 mai 2024. lien
Gouvernement britannique, communiqué sur la publication du premier rapport international sur la sécurité de l’IA avant le sommet de Paris, 29 janvier 2025. lien
Gouvernement britannique, communiqué sur la transformation de l’AI Safety Institute en AI Security Institute, 14 février 2025. lien
« Leopold Aschenbrenner’s "Situational Awareness": AI from now to 2034 », Axios, juin 2024 (date tirée de l’adresse de la page). lien
Bureau du sénateur Josh Hawley, « Hawley, Blumenthal Introduce Bipartisan AI Evaluation Legislation to Put Americans First », communiqué, 29 septembre 2025. lien
David Wright (CNN Wire), « Newsom signs executive order to consider AI regulation, including proposal for ‘kill switch’ », ABC7 News, 18 septembre 2026. lien
Beatrice Nolan, « Reid Hoffman rallies behind Anthropic in clash with Trump administration, and CEO Amodei drags JD Vance into the fray », Fortune, 21 octobre 2025. lien
The Associated Press, « FTC is investigating OpenAI and Anthropic over possible risks to consumers », repris par The Atlanta Journal-Constitution, 30 septembre 2026. lien
Publishers Weekly, recension de « The AI Con. How to Fight Big Tech’s Hype and Create the Future We Want » d’Emily M. Bender et Alex Hanna (Harper), 15 avril 2025. lien
Clara Collier, « More Was Possible: A Review of If Anyone Builds It, Everyone Dies », Asterisk, n° 11, septembre 2025. lien
Associated Press, « Former OpenAI employees lead push to protect whistleblowers flagging artificial intelligence risks », repris par NY1, 4 juin 2024. lien
Christiaan Hetzner, « Nobel Prize-winning AI godfather Geoffrey Hinton says he’s proud his student fired OpenAI boss Sam Altman », Fortune, 9 octobre 2024. lien
Jeremy Kahn, article sur l’essai « The Adolescence of Technology » de Dario Amodei, Fortune, 27 janvier 2026. lien
David Zimmermann, « Pritzker signs bill mandating third-party safety audits of AI models », Washington Examiner, 6 juillet 2026. lien

Pour aller plus loin

En bref

Faire le plus de bien possible, chiffres à l’appui, y compris pour les milliards d’humains à naître. Le courant naît à Oxford autour de William MacAskill et Toby Ord, dans le sillage de l’utilitarisme du philosophe Peter Singer. Dans la Valley, il rejoint la communauté « rationaliste » du forum LessWrong et du Machine Intelligence Research Institute, fondé en 2000 et installé à Berkeley depuis 2013. Le long-termisme, qu’Olivier Alexandre range parmi les trois grands courants de la Valley, en est la version la plus ambitieuse. D’où une hantise des « risques existentiels », au premier rang desquels une IA hors de contrôle, théorisée par Nick Bostrom et Eliezer Yudkowsky. Le mouvement dispose de moyens considérables, surtout ceux de Dustin Moskovitz, cofondateur de Facebook, à travers Open Philanthropy, rebaptisée Coefficient Giving en novembre 2025. C’est le pôle qui réclame le plus de régulation, ce qui l’oppose aux accélérationnistes. La chute de FTX en 2022 l’a fortement ébranlé : son fondateur, Sam Bankman-Fried, était l’un de ses grands mécènes.

Dans l’industrie, l’entreprise la plus liée à ce milieu est Anthropic, fondée en 2021 par d’anciens d’OpenAI. Son premier tour de table (124 millions de dollars, mai 2021) est mené par Jaan Tallinn, avec Moskovitz et un fonds proche de l’altruisme efficace, et FTX y investit 500 millions avant sa faillite. Sa présidente, Daniela Amodei, est l’épouse de Holden Karnofsky, cofondateur de GiveWell et d’Open Philanthropy, entré chez Anthropic en 2025. Sa présidente dit pourtant ne pas se reconnaître dans cette étiquette (Wired, mars 2025).

Le pôle essuie deux critiques. La première vient de la droite tech, qui l’accuse de manipuler la peur. En octobre 2025, David Sacks, conseiller de Trump pour l’IA, reproche à Anthropic une stratégie de capture réglementaire, et Thiel range Yudkowsky et Bostrom parmi les « légionnaires » de l’Antéchrist. L’argent suit : en février 2026, Anthropic verse 20 millions de dollars à Public First Action, qui soutient des candidats favorables à l’encadrement de l’IA, face au super PAC Leading the Future, financé notamment par Marc Andreessen, Ben Horowitz et Greg Brockman, d’OpenAI. La seconde critique porte sur la cohérence. Le pôle de la prudence sert aussi l’appareil de sécurité. Depuis novembre 2024, Claude est proposé aux agences de défense et de renseignement par l’intermédiaire de Palantir et d’AWS, et le Pentagone signe avec Anthropic un contrat plafonné à 200 millions de dollars en juillet 2025. Selon le Wall Street Journal, Claude a servi, via Palantir, à l’opération qui a capturé Nicolás Maduro le 3 janvier 2026. Dans « Machines of Loving Grace » (octobre 2024), Dario Amodei plaide pour une coalition de démocraties qui s’assurerait par l’IA une supériorité militaire sur les autocraties, une vision proche de la paix par la force de Karp. La rupture vient en février 2026. Anthropic refuse de lever deux interdits, la surveillance de masse des Américains et les armes entièrement autonomes. Trump ordonne à toutes les agences fédérales de cesser d’utiliser Claude, avec six mois de transition pour l’armée, et le Pentagone déclare l’entreprise risque pour la chaîne d’approvisionnement. Le 27 août 2026, la juge fédérale Rita Lin, à San Francisco, juge ces mesures illégales. Le 25 septembre, la cour d’appel fédérale de Washington valide au contraire la désignation, par deux voix contre une et sur un autre fondement juridique. Le 13 octobre, Anthropic demande que l’affaire soit réexaminée par l’ensemble des juges de la cour. Le 20 octobre, d’anciens responsables militaires et de la sécurité nationale appuient cette demande.

Le nom

Nom revendiqué. « Effective altruism » est choisi en 2011, et « AI safety » est le nom que se donne le champ. Leur réunion en un seul courant est mon choix. D’où viennent les noms

Dans les livres

Alexandre, ch. 8, section « Long-termisme, le salut du potentiel humain » (Bostrom, Ord, MacAskill ; dons de Musk, de Sam Bankman-Fried et de Dustin Moskovitz)

Autres sources

Dealroom (tour de 2021) · NBC San Diego (CNBC), 25 mars 2024 (FTX) · Holden Karnofsky · Coefficient Giving, 18 novembre 2025 · Axios, 16 octobre 2025 · Axios, 12 février 2026 · SiliconANGLE, 7 novembre 2024 · Anthropic, 14 juillet 2025 · Reuters, 14 février 2026 · Journal of Political Risk sur l’essai d’Amodei · Anthropic, 27 février 2026 · NPR, 6 mars 2026 · AP, 27 août 2026 · AP, 25 septembre 2026 · registre de la cour d’appel · MLex, 14 octobre 2026 (requête du 13 octobre) · MLex, 20 octobre 2026