Pendant la majeure partie de la courte histoire de l’IA, les humains pilotaient chaque étape du cycle de développement. Mais chez Anthropic, nous déléguons une part croissante du développement de l’IA aux systèmes eux-mêmes, ce qui accélère nos travaux.

Poussée assez loin, avec suffisamment de puissance de calcul, cette tendance pointe vers un système d’IA capable de concevoir et développer de manière pleinement autonome son propre successeur. C’est ce qu’on appelle l’autoamélioration récursive. Nous n’en sommes pas encore là, et cette perspective n’est pas inéluctable. Mais elle pourrait arriver plus tôt que la plupart des institutions ne s’y préparent.

Les tendances techniques évoquées dans cet article suggèrent que les systèmes d’IA vont devenir bien plus capables dans les années à venir. Ces tendances ont d’immenses implications. Une IA capable de se construire elle-même représenterait un tournant majeur dans l’histoire de la technologie — susceptible d’apporter d’immenses bienfaits à l’humanité en matière de science, de santé et bien au-delà. Mais une auto-amélioration récursive complète pourrait aussi accroître le risque que les humains perdent le contrôle des systèmes d’IA. Si des systèmes sont capables de construire intégralement leurs propres successeurs, les modalités par lesquelles nous les sécurisons, les surveillons et orientons leur comportement deviennent d’une importance cruciale.

Des signaux venus du monde réel

  • Le rythme d’amélioration des modèles d’IA s’accélère. La durée des tâches qu’ils peuvent accomplir de manière fiable et autonome double environ tous les quatre mois, contre une tendance antérieure de doublement tous les sept mois.

La construction d’un modèle-frontière requiert deux grandes catégories de travail. L’ingénierie d’une part : écrire le code, déployer l’infrastructure, superviser l’entraînement du modèle. La recherche de l’autre : décider quelles expériences mener, interpréter les résultats, identifier les pistes à explorer.

Sur ces deux fronts, le constat est cohérent. En ingénierie, Claude peut se voir confier un problème sous-spécifié et trouver comment le résoudre ; les humains fournissent l’objectif, mais n’ont plus à fournir la méthode. En recherche, Claude peut déjà égaler, voire surpasser, des chercheurs compétents dans l’exécution d’une expérience bien définie. En revanche, des lacunes importantes persistent quant à la capacité de Claude à exercer un jugement dans le choix des objectifs, aussi bien en ingénierie qu’en recherche.

  • C’est là que réside l’écart entre l’IA d’aujourd’hui et un système futur qui pourrait concevoir de manière autonome son propre successeur.

Le code produit par Claude est « bon » et s’améliore. Un « code bon » veut dire deux choses : il fonctionne, et il est rédigé de façon qu’un autre ingénieur puisse le comprendre et s’en servir comme point de départ. Sur le premier critère, les données sont claires. Le taux auquel les employés d’Anthropic corrigent, réorientent ou reprennent la main sur Claude en cours de tâche est en baisse régulière depuis un an, y compris sur les tâches les plus complexes et les plus ouvertes. Cela inclut des problèmes sans spécification claire, où l’ingénieur ne sait pas à l’avance à quoi ressemble la solution. C’est visible dans la réussite croissante de Claude à accomplir des tâches de difficultés variées.

Sur le second critère — produire un code qu’un autre ingénieur peut comprendre et faire évoluer —, l’écart entre humains et IA persiste, mais se réduit rapidement. Il n’y a pas de consensus total chez Anthropic, mais beaucoup estiment que le code rédigé par Claude était encore légèrement moins bon que le code humain fin 2025, et qu’il est aujourd’hui à parité. Nous pensons qu’il sera meilleur d’ici un an.

À quoi pourrait ressembler l’avenir du travail chez Anthropic ?

Les données suggèrent que le rôle humain se réduit à chaque étape du processus de développement de l’IA. Une fois que la qualité du code humain et de l’IA seront à parité, les humains cesseront d’écrire du code et n’en feront plus que la revue. Mais si cette revue ne peut s’effectuer aussi rapidement que Claude génère du code, la revue humaine deviendra le goulot d’étranglement du développement de l’IA.

  • Un domaine où les humains conservent un avantage comparatif, pour l’instant, est le jugement et le sens de la recherche : choisir quels problèmes importent, quels résultats méritent confiance, et quand une approche est une impasse.

Trois scénarios possibles

1/ La tendance marque le pas, mais les capacités actuelles de l’IA se diffusent largement. Nous approcherions ici du point d’inflexion où les rendements d’échelle diminuent et la courbe s’aplatit. Le jugement qui distingue un chercheur compétent d’un chercheur exceptionnel pourrait être une capacité qui ne découle pas de la mise à l’échelle des intrants d’entraînement tels que la puissance de calcul et les données. Dans ce cas, franchir ce goulot d’étranglement nécessiterait une idée nouvelle, par exemple une approche architecturale meilleure que celle par laquelle aujourd’hui tous les modèles sont conçus.

Autre contrainte possible : la chaîne d’approvisionnement, et non le modèle lui-même. Le rythme de fabrication des puces, l’expansion du réseau électrique ou la bande passante des interconnexions pourraient être la véritable limite, plutôt que l’intelligence elle-même. Même si les capacités des modèles étaient gelées au niveau actuel, nous nous attendrions à des transformations majeures dans le monde. Les modèles actuels commencent à peine à se diffuser dans l’économie réelle, où une entreprise de 100 personnes peut de plus en plus réaliser le travail d’une entreprise de 1 000, chaque employé étant au sommet d’une pyramide d’agents.

Nous incluons ce scénario pour l’exhaustivité, mais nous n’estimons pas qu’il soit probable. Nous n’avons pas encore vu cette courbe s’infléchir. Des trois scénarios envisagés, c’est celui qui donnerait aux gouvernements et aux sociétés le plus de temps pour s’adapter.

Les deux suivants nous préoccupent davantage, car ils iraient plus vite et laisseraient bien moins de marge de préparation.

2/ Les laboratoires d’IA continuent d’engranger des gains d’efficience cumulatifs. Dans ce scénario, le développement de l’IA devient largement automatisé, mais les humains continuent de fixer les orientations de recherche et d’évaluer les résultats. Les organisations utilisant des systèmes d’IA deviendraient beaucoup plus efficaces, générant des multiplicateurs de productivité significatifs par personne. Des entreprises de 100 personnes pourraient effectuer le travail d’organisations de 10 000 ou 100 000 personnes. Cela révolutionnerait le travail de la connaissance et les services publics, mais pourrait aussi être mis au service de fins néfastes — de la surveillance autoritaire de populations entières aux opérations d’influence qui adaptent la manipulation à chaque individu à une échelle inaccessible à toute équipe humaine.

Les données présentées ici suggèrent que c’est vers ce scénario que nous nous dirigeons vraisemblablement. Mais accélérer une partie d’un processus ne fait souvent que déplacer le goulot d’étranglement ailleurs — par exemple la capacité humaine de faire la revue du code.

3/ Les systèmes d’IA deviennent capables d’autoamélioration récursive et commencent à construire leurs successeurs. Si les tendances techniques de progression des capacités se poursuivent et que les systèmes d’IA acquièrent les capacités propres au génie humain transformateur, il est plausible qu’ils puissent se concevoir et s’affiner eux-mêmes.

Dans ce monde, le rythme du progrès en développement d’IA serait entièrement déterminé par la disponibilité de puissance de calcul (ou par la découverte d’améliorations algorithmiques dans l’entraînement ou l’inférence). Les humains joueraient un rôle sensiblement diminué, concentrant l’essentiel de leurs efforts sur la supervision, la validation et la vérification d’un « laboratoire virtuel » expansif piloté par des systèmes d’IA. Des systèmes capables de recherche et de développement automatisés en IA posséderaient des compétences transférables à l’ensemble des sciences, ce qui leur permettrait de commencer à révolutionner d’autres disciplines.

La manière dont le problème de l’alignement sera résolu — ou non — dans ce futur est ce sur quoi nous avons le moins de certitudes. Les modèles pourraient se révéler suffisamment alignés et dotés d’un sens assez sûr de la recherche pour découvrir et mettre en œuvre des solutions nouvelles que nous n’avons pas encore atteintes. Ils pourraient également être assez sages pour suspendre leur développement s’ils ne sont pas prêts.

À l’inverse, les rares occurrences de désalignement présentes dans les modèles actuels pourraient s’amplifier à mesure que les modèles construisent leurs successeurs, devenir plus fréquentes mais moins comprises, jusqu’à ce que nous en perdions le contrôle. Il est possible que nous soyons incapables de construire, d’intégrer et de vérifier les outils nécessaires pour comprendre quelle trajectoire nous suivons réellement.

Conclusion

Nous n’avons pas de bonne intuition de ce à quoi ressemblerait ce monde, car notre économie est aujourd’hui animée par les humains et les outils qu’ils ont construits. Mais parvenir à l’autoamélioration récursive ne supposerait pas ipso facto une transformation immédiate de la production industrielle, de l’organisation des sociétés ou du fonctionnement des marchés. Une plus grande intelligence ne peut pas apprendre ce qu’un médicament produit au cours de décennies d’usage, ne peut pas avancer la date d’élections fixée par une constitution, et ne peut pas transformer un inconnu en vieil ami le temps d’un week-end. Pour la plupart des gens, le rythme ressenti de ce futur sera encore dicté par les goulots d’étranglement, même si le laboratoire en amont tourne à la vitesse du calcul. Cette collision — une intelligence récursive se construisant toujours plus vite qui rencontre le monde des humains, des relations et de la gouvernance — est une autre dimension de ce futur que nous ne pouvons pas prédire.

Que faire ?

S’il était possible de ralentir efficacement le développement de cette technologie pour nous donner davantage de temps pour faire face à ses immenses implications, nous pensons que ce serait probablement une bonne chose. Mais si ce ralentissement ne fait que permettre aux acteurs les moins prudents de rattraper leur retard technologique, tout le monde pourrait se retrouver moins en sécurité. En l’absence d’un mécanisme de coordination mondiale, les entreprises et les gouvernements devront prendre des décisions difficiles en matière de sécurité tout en subissant des pressions concurrentielles et géopolitiques.

Rien de tout cela n’est nécessairement impossible en principe — le monde a bien construit des régimes de vérification pour d’autres technologies complexes (par exemple, le Traité sur les Forces nucléaires à portée intermédiaire) — mais ces régimes ont nécessité des décennies pour bâtir à la fois l’infrastructure et la confiance. Nous n’avons pas ce temps devant nous.

Dans les prochains mois, nous organiserons des discussions auxquelles décideurs politiques, chercheurs, société civile et autres entreprises d’IA pourront contribuer à répondre aux questions que soulève cet article, notamment sur l’autoamélioration récursive complète et sur les moyens de créer de meilleures options de coordination et de délibération. Nous publierons ce qui en ressortira. La fenêtre pour explorer ces questions ensemble est ouverte, et les personnes extérieures aux entreprises d’IA doivent être associées à cette délibération