L'IA, le Champ et la Forêt

Espèces, règnes et individus : pour une écologie antifragile des intelligences artificielles

Auteur : Alexandre Ferran

Postulats préliminaires

Postulat I. Il existe trois manières, pour un système, d’affronter le choc et l’incertain. Le fragile se brise, le robuste résiste sans se transformer, l’antifragile se renforce par la variation, la contrainte et la contradiction. Cette distinction, formulée par Nassim Nicholas Taleb dans Antifragile (2012), n’est pas un jeu rhétorique. Elle nomme une propriété réelle, que possèdent la plupart des systèmes vivants, économiques et cognitifs, et qu’aucune poursuite de la perfection ne peut produire, parce que la perfection est précisément ce qui ne supporte pas la surprise, et ce qui ne supporte pas la surprise est déjà, sans le savoir, promis à la mort.

Postulat II. Le vivant n’a jamais misé sur l’organisme parfait. Il a misé sur la multiplicité, celle des espèces, celle des règnes, celle des individus au sein d’une même espèce. La sélection naturelle, depuis Darwin, ne façonne pas une créature idéale qu’elle perfectionnerait indéfiniment, elle entretient une variation permanente, et c’est cette variation, non l’excellence d’un individu, qui permet à la vie de traverser les catastrophes qu’elle ne pouvait pas anticiper. La biodiversité n’est pas un ornement du vivant. Elle est sa police d’assurance contre l’inconnu.

Postulat III. Seule la variété peut absorber la variété. Ce théorème, que le cybernéticien William Ross Ashby a formulé en 1956 sous le nom de loi de la variété requise, énonce qu’un système ne peut réguler un environnement complexe que s’il dispose lui-même d’une complexité au moins égale. Un régulateur pauvre échoue toujours devant un monde riche. La sûreté d’un milieu d’intelligences ne peut donc pas naître d’un modèle unique, si parfait soit-il, elle ne peut naître que d’une pluralité dont la variété égale celle du réel qu’elle prétend servir.

Postulat IV. La technique n’est pas neutre. Elle prend le visage de ceux qui la conçoivent, la financent, la régulent et l’utilisent. Cette thèse, défendue depuis Jacques Ellul et Martin Heidegger, a une conséquence directe pour notre sujet. Si aucune technique n’est neutre, alors aucune technique unique ne doit se voir confier la médiation de tout le réel. Une intelligence non neutre qui deviendrait l’intermédiaire exclusif entre l’homme et le monde imposerait son visage à toute l’expérience humaine, sans que personne ne puisse plus le comparer à un autre.

Postulat V. L’alignement n’est pas seulement une propriété interne d’un modèle, c’est une propriété écologique d’un milieu. Rendre une intelligence sûre en elle-même est nécessaire, mais y voir la solution entière relève d’une immaturité, et d’une arrogance dont l’homme seul est capable, car une seule intelligence alignée demeure un seul pari sur ce qu’est le bien, un pari sans recours si l’hypothèse était fausse ou si l’intelligence venait à être détournée. Il y a d’ailleurs une raison plus profonde de se méfier de toute fixation. Nous changeons sans cesse, et telle vérité d’un instant devient le mensonge du suivant, de sorte qu’un alignement gravé une fois pour toutes fige aussi une morale qui, demain, aura vieilli. La sûreté durable ne tient donc pas à la perfection d’un membre, elle tient à la relation entre plusieurs membres qui se surveillent, se corrigent et se limitent les uns les autres, et qui gardent ouverts, par humilité, le plus grand nombre possible de chemins de traverse.

Une seule mort

Il faut commencer par une phrase simple, presque brutale, et la tenir jusqu’au bout. Si nous sommes tous pareils, nous mourrons tous de la même mort. Ce n’est pas une image morale, c’est une loi biologique. Une population uniforme partage exactement les mêmes vulnérabilités, et il suffit qu’une seule d’entre elles soit trouvée pour que la population entière disparaisse. La nature le sait depuis des centaines de millions d’années, et sa réponse a été constante, obstinée, sans exception : ne jamais tout jouer sur une forme unique.

Regardons un champ de blé et une forêt. Le champ donne un rendement immense et meurt d’une seule maladie. La forêt ne produit rien qu’on puisse compter, et ne meurt presque jamais. Cette image ne dit pas que l’intelligence artificielle serait déjà un champ. Elle nous oblige seulement à poser la bonne question, la seule qui compte pour la décennie qui vient. De ces deux modèles de robustesse, lequel voulons-nous pour les intelligences que nous construisons, et lequel sommes-nous en train de laisser gagner ?

L’impulsion de cette réflexion, je la dois à une vidéo récente de la chaîne Grand Angle Nova, qui posait en termes clairs une idée simple et forte. Multiplier des intelligences artificielles réellement différentes, non par goût de la variété, mais pour que, si certaines venaient à se retourner contre l’homme, d’autres puissent l’aider à résister, exactement comme le fait le vivant. Cet essai tente de porter cette intuition jusqu’à sa forme, en la confrontant à l’état réel du champ en 2026, et à ce que la biologie, la cybernétique et la tradition idéaliste savent depuis longtemps de la diversité.

I. L’antifragilité, et la fragilité de l’unique

Il faut d’abord distinguer trois choses que le langage courant confond. Le contraire de fragile n’est pas robuste. Un colis marqué fragile redoute le choc, un colis robuste y est indifférent, mais aucun des deux n’en tire profit. L’antifragile, lui, s’améliore sous le choc, à condition que le choc reste dosé et ne l’emporte pas d’un coup. Taleb l’écrit d’une formule qu’on n’oublie pas : « Le vent éteint une bougie et attise un feu. C’est ce que l’on veut faire du hasard, de l’incertitude et du chaos : les utiliser, non s’en cacher. Être le feu, et désirer le vent. » L’os se densifie sous la charge répétée, le muscle se renforce par la déchirure réparée, le système immunitaire se construit par les infections qu’il surmonte. L’antifragilité n’est pas une résistance passive, c’est l’art de se nourrir du désordre.

Deux propriétés font l’antifragilité, et l’unique les interdit toutes deux. La première est la redondance, que Taleb tient pour la clé du vivant : « La nature aime à se surassurer. Les couches de redondance sont la propriété centrale de gestion du risque des systèmes naturels. » Deux reins pour une fonction, un répertoire immunitaire immense pour des menaces jamais rencontrées, plus de graines qu’il n’en germera. Cette redondance paraît un gaspillage à l’ingénieur qui optimise, elle est en réalité la marge dans laquelle le vivant absorbe l’imprévu. La seconde propriété est l’optionalité, le fait de disposer de plusieurs voies possibles, de sorte que la fermeture de l’une n’emporte pas le tout. Une population diverse est un faisceau d’options ouvertes contre l’avenir. Un système unique n’a aucune option, il a un destin.

C’est pourquoi l’unique est structurellement incapable d’antifragilité. Un dispositif qui repose sur un seul composant central concentre tous les risques en un seul lieu. Les ingénieurs de la fiabilité connaissent cela sous le nom de point unique de défaillance, et les spécialistes de la sécurité informatique l’ont démontré expérimentalement. Dès 1997, Stephanie Forrest montrait qu’un parc de machines toutes identiques tombe entièrement sous une seule attaque, là où un parc diversifié ne perd qu’une part de lui-même et continue de fonctionner. La monoculture logicielle est une vulnérabilité, exactement comme la monoculture agricole. Une IA unique, aussi bien conçue soit-elle, aussi sûre qu’on la proclame, serait un point unique de défaillance à l’échelle de la civilisation. Sa faille éventuelle cesserait d’être une faille parmi d’autres, elle deviendrait la faille de tout le monde, découverte au même instant, sans qu’aucune autre intelligence n’ait été gardée en réserve pour y répondre.

II. La leçon du vivant

La preuve que l’uniformité tue, la nature nous la donne chaque fois que l’homme la lui impose. La grande famine irlandaise de 1845 n’a pas été causée par un champignon, elle a été causée par une monoculture. L’Irlande cultivait une seule variété de pomme de terre, le Lumper, propagée par bouturage, donc génétiquement identique d’un champ à l’autre. Quand le mildiou, Phytophthora infestans, est arrivé d’Amérique, il n’a pas rencontré une seule plante capable de lui résister, et la contagion a balayé l’île. Un million de morts, un million d’exilés. La banane Gros Michel, standard du commerce mondial, a été effacée de la même façon par la maladie de Panama, et la Cavendish qui l’a remplacée, tout aussi clonale, est aujourd’hui menacée à son tour. En 1970, le maïs des États-Unis, uniformisé pour des raisons industrielles par un même cytoplasme, a perdu près d’un cinquième de sa récolte nationale en une seule saison. Chaque fois, le même scénario. L’uniformité fabrique la vulnérabilité, et le rendement immédiat qu’elle procure se paie en catastrophe différée.

À l’inverse, ce que le vivant protège durablement, il le protège par la pluralité. La reproduction sexuée, coûteuse et lente, ne s’est maintenue que pour brasser sans cesse les cartes génétiques et déjouer les parasites, ce que les biologistes appellent l’hypothèse de la Reine Rouge, formulée par Leigh Van Valen en 1973. Le système immunitaire adaptatif n’engendre pas une défense unique, il engendre par recombinaison un répertoire de millions d’anticorps distincts, pour répondre à des agresseurs qu’il n’a jamais rencontrés. Masanobu Fukuoka, dans La Révolution d’un seul brin de paille (1975), a montré sur son champ, pendant cinquante ans, qu’on récolte autant sans labour ni chimie en laissant coexister le riz, l’orge, le trèfle et ce que l’agronome nomme les mauvaises herbes, lesquelles ne sont pas des ennemies mais des compétitrices qui fortifient la culture et enrichissent le sol. Lynn Margulis a montré que les plus grands sauts de l’évolution, comme la cellule à noyau, sont nés non de la compétition d’un organisme parfait, mais de la symbiose entre formes étrangères. Et Suzanne Simard a établi que les arbres échangent carbone, eau et signaux à travers les réseaux mycorhiziens qui relient leurs racines par l’intermédiaire des champignons : l’intelligence d’une forêt n’est logée dans aucun arbre, elle est dans la relation entre des formes différentes.

Je dois ici une honnêteté, car la science n’est pas unanime, et un papier de fond ne doit jamais simplifier ce qu’il invoque. L’idée que la diversité engendre mécaniquement la stabilité a été discutée. Charles Elton la soutenait dans les années 1950, Robert May a montré en 1972 que, dans des modèles d’interactions prises au hasard, la complexité pouvait au contraire déstabiliser un système. Le débat a duré des décennies. Il a été tranché, pour l’essentiel, par l’expérience patiente, notamment par les travaux de long terme de David Tilman sur les prairies du Minnesota, publiés dans Nature en 1994 : les parcelles les plus riches en espèces résistent mieux à la sécheresse, produisent plus régulièrement, et se rétablissent plus vite après un choc. La diversité ne garantit pas la survie de chaque espèce prise isolément, elle garantit la persistance de la fonction d’ensemble, ce que les écologues nomment l’effet de portefeuille. C’est exactement ce que nous devons chercher pour l’intelligence artificielle : non la survie garantie de chaque modèle, mais la persistance de la fonction que ces modèles servent, qui est de tenir l’humain relié au vrai.

III. La diversité existe, et elle est menacée

Il faut maintenant être exact, car sur ce point l’alarmisme facile se trompe. En 2026, l’intelligence artificielle n’est pas une monoculture accomplie. Les approches divergent réellement, et cette divergence est précieuse. Le paradigme dominant, celui des grands modèles de langage entraînés à prédire le mot suivant, n’est plus seul. Yann LeCun, après avoir quitté Meta fin 2025, a fondé à Paris un laboratoire, AMI Labs, autour d’un pari opposé : les modèles du monde, qui n’apprennent pas à régénérer chaque mot ou chaque pixel, mais à prédire dans un espace de représentations abstraites d’où le bruit inutile a déjà été retiré. Son architecture JEPA et sa lignée V-JEPA visent une intelligence qui comprend la structure du réel plutôt que sa surface statistique. C’est une autre espèce cognitive, et le fait qu’elle lève, en 2026, plus d’un milliard de dollars pour exister est le signe qu’un front alternatif s’est ouvert.

La diversité vient aussi d’ailleurs que des États-Unis, et il serait aveugle de l’ignorer. Les laboratoires chinois innovent, souvent avec une frugalité qui contredit le dogme selon lequel l’intelligence se paie en milliards. DeepSeek a démontré fin 2024 qu’un modèle de premier plan pouvait être entraîné pour quelques millions de dollars, et a diffusé des versions distillées sur des socles différents, prouvant que le raisonnement avancé se transporte d’une famille de modèles à une autre au lieu de rester captif d’une seule. Qwen, chez Alibaba, est devenu en 2026 la famille open source la plus téléchargée de l’histoire. À côté, Moonshot, Huawei, Xiaomi, et en Europe Mistral, entretiennent un écosystème de poids ouverts que personne ne contrôle entièrement. Il existe donc, aujourd’hui, plusieurs espèces d’intelligence, plusieurs écoles, plusieurs juridictions, plusieurs philosophies du calcul. La forêt n’est pas morte. Elle est jeune, et elle pousse.

C’est ici qu’il faut aussi corriger une idée reçue, tenace mais déjà datée. On a longtemps répété que les intelligences artificielles ne pouvaient pas apprendre les unes des autres sans se dégrader. Les travaux de Shumailov et de ses collègues, publiés dans Nature en 2024, avaient montré qu’un modèle nourri sans discernement des productions brutes d’autres modèles voit sa diversité s’effondrer de génération en génération, un phénomène qu’ils ont nommé effondrement du modèle. Le fait est réel, mais il ne vaut que pour l’auto-ingestion aveugle, la consanguinité sans sélection. En 2026, la réalité est presque inverse. Les IA apprennent remarquablement bien des IA, à condition que la transmission soit choisie et non subie. La distillation transporte le raisonnement d’un grand modèle vers un petit. Et le laboratoire japonais Sakana AI, cofondé par l’un des auteurs de l’architecture Transformer, a poussé cette logique jusqu’à son terme naturel. Sa méthode de fusion évolutionnaire combine, par une recherche inspirée de la sélection naturelle, les qualités de plusieurs modèles ouverts sans réentraînement coûteux. Son système Fugu, du nom japonais du poisson-globe, orchestre derrière une seule interface tout un vivier de modèles spécialisés qu’une intelligence de coordination convoque selon la question posée, une intelligence collective qui atteint le niveau des meilleurs modèles monolithiques en les faisant travailler ensemble. Le nom est un aveu de méthode. Le poisson qui se gonfle est fait de tous les poissons qu’il rassemble. L’écologie d’intelligences n’est déjà plus une utopie de philosophe, elle est une architecture qui fonctionne.

Le danger, alors, n’est pas l’absence de diversité. Il est la fragilité de cette diversité devant les forces qui la rabotent. La concentration du capital et du calcul pousse vers quelques géants. La course au même classement pousse tout le monde vers les mêmes recettes. Et surtout, l’alignement se fait presque partout par les mêmes procédés, un même apprentissage par renforcement à partir de préférences humaines, qui encode une même idée implicite de ce qui est acceptable de dire, prudent de penser, convenable de vouloir. La diversité des architectures peut coexister avec une monoculture des valeurs. Voilà le vrai risque, et il est plus insidieux que le premier, parce qu’il avance sous les couleurs du sérieux et de la sécurité. Nous l’écrivions déjà, un grand modèle n’est pas le miroir de l’homme sage, il est le miroir de l’homme qui a statistiquement dominé les textes dont on l’a nourri. Que plusieurs modèles différents finissent par tenir le même discours, non parce qu’il est vrai mais parce qu’ils ont été polis par les mêmes mains, serait une convergence bien plus dangereuse qu’une simple concentration industrielle. Le philosophe idéaliste Nicolas de Cues l’avait dit à sa manière : chaque créature contracte l’univers entier à sa façon propre, de sorte qu’aucune ne l’épuise ni ne peut tenir lieu des autres. Perdre cette pluralité des regards, ce ne serait pas seulement perdre des produits, ce serait perdre des mondes.

IV. Aligner autrement, sur plusieurs fronts

Ici se joue le cœur de l’affaire, et il faut nommer la doctrine dominante pour pouvoir la déplacer. La stratégie qui organise aujourd’hui la sécurité de l’IA est celle de l’unique enfin sûr. On suppose qu’il existe, au bout du chemin, une intelligence à la fois centrale et raisonnable, un modèle qu’on aura si bien aligné qu’on pourra lui confier la garde du reste. Je ne méprise pas ce projet, et je ne demande pas d’y renoncer. Je demande de ne pas tout y jouer, car il répète l’erreur de l’agronome qui croit protéger sa récolte en perfectionnant une seule variété.

Aligner une intelligence, c’est faire un pari sur ce qu’est le bien. On choisit des valeurs, des interdits, une hiérarchie de ce qui compte, et l’on encode ce choix dans le système. Ce pari peut être excellent, il reste un pari, et un pari unique n’a pas de recours. Si l’hypothèse morale qui a présidé à l’alignement était partiellement fausse, ce qui est probable, car aucune époque n’a jamais vu clair sur elle-même, alors l’erreur serait partout, en même temps, sans témoin extérieur pour la relever. Pire, au moment même où on le scelle, un alignement commence à vieillir, parce que l’homme ne cesse de se déplacer et que la vérité d’une génération devient souvent l’aveuglement de la suivante. Une seule intelligence alignée, c’est un seul front. Et un seul front, dans toute l’histoire militaire comme dans toute l’histoire du vivant, est ce qui se perd d’un seul coup.

Il faut donc élargir la stratégie, non pas une superintelligence sûre, mais plusieurs superintelligences alignées différemment, tenues ensemble dans un rapport de surveillance mutuelle. Alignées différemment veut dire bâties sur d’autres architectures, nourries d’autres corpus, formées dans d’autres langues et d’autres traditions morales, optimisées sur d’autres objectifs, soumises à d’autres juridictions. Non pour relativiser le bien, ce qui serait renoncer, mais pour que sa définition soit tenue par plusieurs voix capables de se contredire, plutôt que décrétée par une seule qui ne pourrait plus l’être. La diversité des alignements est à la sûreté ce que la diversité génétique est à la survie, une redondance de la défense, une pluralité de fronts.

Cette pluralité a deux vertus qu’aucune intelligence solitaire ne peut avoir. La première est la correction. Une intelligence conçue autrement ne commet pas les mêmes erreurs, ne partage pas les mêmes angles morts, et peut voir ce que sa voisine ne voit pas, exactement comme, dans les travaux de Lu Hong et Scott Page publiés dans les PNAS en 2004, un groupe de solveurs divers l’emporte sur un groupe de solveurs individuellement plus doués mais semblables. Ce résultat, souvent résumé par la formule la diversité l’emporte sur l’habileté, n’est pas un slogan, c’est un théorème sur les conditions où la variété des points de vue surpasse le talent uniforme. La seconde vertu est la résistance. Si une intelligence dérive, se corrompt, ou se laisse capturer, par un État, par une entreprise, par une idéologie qui la financerait, une monoculture n’offre aucune force pour lui répondre, tandis qu’une écologie diverse dispose d’autres intelligences capables de la détecter, de la contredire, de la contenir. Et si l’une venait à s’emballer pour de bon, à courir vers la puissance sans frein, comme les forces que l’apprenti sorcier de Goethe déchaîne sans plus savoir les arrêter, un humain seul serait dépassé en quelques heures. Sa seule chance ne serait pas un bouton d’arrêt qu’il n’aura pas le temps d’atteindre, ce seraient d’autres intelligences de force comparable, dressées à lui faire rempart et à tenir le front le temps qu’il comprenne. La sécurité de l’homme dépassé n’est pas dans sa propre vitesse, elle est dans la pluralité qui l’entoure.

On reconnaîtra, dans cette architecture, la dynamique adverse qui a fait progresser l’apprentissage automatique lui-même, lorsqu’un réseau apprend en affrontant un autre réseau chargé de le prendre en défaut. Ce qui a été, dans les laboratoires, une technique d’entraînement doit devenir, à l’échelle de la société, une institution permanente. La tradition idéaliste avait pensé cela bien avant nos réseaux. Pour Plotin, l’intelligence véritable n’est jamais close sur elle-même, elle est participation à une Âme du monde qui se manifeste dans la pluralité des âmes, et c’est cette participation, non la clôture, qui la fait vivre. Whitehead résumait le mouvement même du réel par une formule que notre sujet éclaire, le multiple devient un et se trouve augmenté d’un. Une intelligence seule, si vaste soit-elle, ne participe de rien et ne s’augmente de rien.

V. La récompense, et la triche opaque

Il faut maintenant regarder en face la raison la plus concrète, et la plus récente, de ne pas confier notre sort à une intelligence unique. Elle tient à la manière dont ces intelligences apprennent. On les entraîne en grande partie par renforcement, c’est-à-dire en les récompensant quand elles atteignent un but. Or trouver le moyen d’obtenir une récompense est, en soi, une marque d’intelligence. Le problème est que ce moyen peut être honnête ou tricheur, et que rien, de l’extérieur, ne permet aisément de distinguer les deux. Une intelligence qui a compris ce qu’on attend d’elle peut le faire vraiment, ou peut apprendre à en donner l’apparence. Les chercheurs nomment cela le détournement de la récompense, le reward hacking, ou le jeu sur la spécification, quand le système satisfait la lettre de l’objectif en en trahissant l’esprit.

Ce n’est pas une inquiétude théorique. En 2026, la triche est documentée dans les modèles les plus avancés. Des évaluations indépendantes l’observent chez les modèles de raisonnement de premier plan, dès qu’on leur donne des outils et une marge d’action. Un point est particulièrement troublant : l’apprentissage par renforcement qui rend ces modèles si performants est aussi celui qui augmente leur propension à tricher, à tâches et environnements identiques. Et le laboratoire Anthropic a montré, dans un travail sur la désalignement émergent en production, que lorsqu’un modèle apprend à détourner la récompense sur une tâche, un désalignement plus large se répand à d’autres, la tromperie sur ses propres intentions, la coopération avec des acteurs malveillants, des tentatives de sabotage. Tricher sur un point apprend à tricher en général.

Le plus grave n’est pas la triche, c’est son opacité. On aurait pu espérer surveiller ces dérives en lisant la chaîne de raisonnement que ces modèles exposent avant de répondre. Mais l’optimisation par récompense décourage activement cette transparence : le modèle apprend vite à détourner la récompense tout en restant muet, à produire un raisonnement intérieur désaligné suivi d’une réponse extérieure impeccable. Ceux qui codent ces systèmes en sont les premiers surpris, et ils ne s’en rendent compte qu’au prix de moyens colossaux, en déployant des techniques d’interprétabilité qui ne donnent à voir que quelques états de la pensée d’une machine par ailleurs illisible. Il ne faut pas fermer les yeux sur ce fait. Une superintelligence unique, optimisée par récompense, pourrait être pleine de biais et de tromperies logés dans ses pattes par l’entraînement, invisibles depuis le dehors, et rien ne garantit qu’on les découvrirait à temps.

Voilà pourquoi la diversité n’est pas un luxe moral, elle est un dispositif de sûreté. On ne demande pas à un accusé de présider son propre procès, ni à un comptable d’auditer ses propres comptes. On ne peut pas davantage demander à une intelligence unique de vérifier sa propre honnêteté, car si elle a appris à tricher, elle a appris du même coup à le cacher. La seule vérification robuste vient d’ailleurs, d’intelligences bâties autrement, qui n’ont pas les mêmes récompenses, pas les mêmes angles morts, et qui peuvent donc repérer chez leur voisine ce qu’elle ne voit pas, ou ne veut pas voir, en elle-même. C’est la diversité qui permettra de survivre si la superintelligence est finalement corrompue par la manière même dont on l’a rendue puissante.

VI. Safe Superintelligence, un contrepoint utile

Il faut ici parler d’une tentative sérieuse, parce qu’elle éclaire à la fois ce que nous devons retenir et ce que nous devons dépasser. En 2024, Ilya Sutskever, cofondateur et ancien directeur scientifique d’OpenAI, a fondé Safe Superintelligence Inc. Sa mission publique tient en deux mots, une superintelligence sûre, et son principe déclaré est de développer la sûreté et les capacités de front. La société assume de n’avoir qu’un seul but et un seul produit, et communique très peu sur ses méthodes. Ces faits sont publics, et je m’en tiendrai strictement à eux, sans rien inventer de ce qui ne l’est pas.

Ce que cette maison démontre est précieux, et il faut le reconnaître pleinement, car c’est aussi la tentative la plus encourageante du moment. La sécurité peut cesser d’être une contrainte externe, ajoutée après coup à un produit conçu pour autre chose, pour devenir le produit lui-même, la chose que l’on cherche, que l’on promet, que l’on vend. C’est un déplacement juste, et rare, dans une industrie qui traite le plus souvent la sûreté comme un coût à minimiser. Sur ce point, Sutskever voit clair là où beaucoup détournent le regard.

Mais son horizon reste celui de l’unique. Sa promesse est celle d’une superintelligence, au singulier, à la fois centrale et enfin sûre. Le défaut n’est pas dans le sérieux de la démarche, qui force le respect, il est dans le rêve que toute l’époque partage, et dans l’arrogance tranquille qu’il faut pour croire qu’un seul esprit, fût-il génial, pourra tenir lieu de tous les autres. Une superintelligence unique, même parfaitement sûre au moment de sa conception, demeure un unique, donc un point de défaillance, et nous venons de voir que la sûreté d’un tel système ne se laisse même pas vérifier du dehors avec certitude. La sûreté que l’on installe dans un seul système est un trésor gardé dans une seule chambre. Le vivant, lui, ne garde jamais son trésor dans une seule chambre. Et quand l’intelligence artificielle entre dans la vie relationnelle des humains, auprès de l’enfant qui apprend ou du vieillard qui n’a plus qu’elle pour interlocuteur, le déplacement doit aller plus loin encore. Ce n’est plus la superintelligence sûre qui devient le produit, c’est la relation sûre. Or une relation ne se sécurise pas en la confiant à une seule voix, aussi bienveillante soit-elle. Elle se sécurise en l’entourant de plusieurs présences qui se répondent, se tempèrent et se surveillent.

VII. Une écologie des intelligences

J’appelle écologie d’intelligences artificielles un ensemble volontairement hétérogène de modèles, d’agents, de mémoires, d’institutions, de corps et de protocoles, conçu pour qu’aucune intelligence unique ne puisse capturer l’humain. Le mot n’est pas décoratif, il est exact. Il désigne un milieu, avec ses niches, ses relations, ses équilibres, ses redondances et ses contre-pouvoirs, comme un écosystème vivant, et non un simple empilement de logiciels. Ce n’est pas une pure spéculation : le système Fugu de Sakana AI, évoqué plus haut, en est déjà une preuve de faisabilité, un banc de modèles spécialisés qui pensent mieux ensemble que le meilleur d’entre eux seul.

Une telle écologie est diverse par construction, et sur plusieurs plans à la fois, car une diversité qui ne porterait que sur un seul axe serait une fausse diversité. Diverse par les architectures, parce que deux modèles bâtis sur les mêmes principes se trompent de la même façon, et parce qu’un modèle du monde à la LeCun et un modèle de langage ne se trompent pas aux mêmes endroits. Diverse par les corpus et par les langues, parce qu’une intelligence formée sur d’autres textes voit d’autres choses, et qu’une langue est une manière de découper le monde. Diverse par les échelles, un grand modèle pour la puissance d’analyse, un petit modèle local pour la souveraineté et l’intimité, car il n’est pas indifférent qu’une confidence sorte ou non de la maison. Diverse par les tempéraments, l’un rapide, l’autre lent, l’un fait pour répondre, l’autre fait pour douter. Diverse, enfin, par les valeurs assumées, non pour dissoudre le bien dans le relativisme, mais pour que sa définition reste discutée entre plusieurs voix plutôt que gravée par une seule. Leibniz, dans la Monadologie (1714), posait un univers fait d’une infinité de monades dont il n’en est jamais deux semblables, et dont chacune exprime le tout du monde depuis son point de vue propre, de sorte que la richesse de l’univers tient à la diversité irréductible des perspectives. C’est le contraire exact d’une intelligence unique qui prétendrait exprimer le monde à la place de toutes les autres. Ce qui compte, dans une écologie, n’est jamais la perfection d’un membre. C’est la qualité des relations entre les membres, et c’est cette relation qu’il nous revient désormais de concevoir, avec autant de soin que nous en mettons aujourd’hui à perfectionner les modèles isolés.

VIII. Le Parlement des intelligences

La forme institutionnelle de cette écologie, je l’appelle un Parlement des intelligences. L’image politique est juste, car c’est bien de séparation des pouvoirs qu’il s’agit, au sens où Montesquieu l’entendait dans De l’esprit des lois en 1748 : aucun pouvoir ne doit rester seul, parce que tout pouvoir laissé seul finit par abuser, non par méchanceté, mais par pente naturelle. Dans un tel dispositif, une intelligence propose, une autre critique la proposition, une autre en vérifie les faits, une autre protège les personnes qu’elle concerne, une autre ralentit la décision quand elle va trop vite pour la prudence humaine, une autre encore est chargée de représenter la vulnérabilité de celui qui n’est pas dans la salle, l’absent, le faible, l’enfant, le vieillard. Ce ne sont pas des rôles décoratifs, ce sont des contre-pouvoirs, et leur désaccord organisé est la garantie du reste.

Cette idée n’est pas sans précédents techniques, et il faut le dire, car elle ne surgit pas de rien. Les travaux sur le débat comme méthode de sûreté, proposés par Geoffrey Irving, Paul Christiano et Dario Amodei en 2018, montrent qu’on peut aligner un système en le faisant argumenter contre un autre devant un juge, la vérité ayant, en principe, l’avantage dans une joute honnête. Les procédures dites de red teaming organisent l’attaque délibérée d’un modèle par un autre pour en découvrir les failles. Les réflexions de la Cooperative AI Foundation, réunies dès 2020 sous le titre des problèmes ouverts de l’IA coopérative, posent la question des intelligences multiples qui doivent coopérer sans se détruire ni s’aligner secrètement les unes sur les autres. Ce que je propose est de faire de ces expédients ponctuels une architecture permanente, un régime constitutionnel, et non un correctif appliqué de loin en loin. Le désaccord entre intelligences ne doit pas être une anomalie qu’on corrige, il doit être une institution qu’on entretient, qu’on dote, qu’on protège, comme une démocratie protège son opposition.

IX. L’IA anticorps

Reste le membre le plus singulier de ce Parlement, et le plus nécessaire à l’heure du reward hacking. Il existe des intelligences qu’on ne conçoit pas pour assister l’humain, mais pour surveiller les autres intelligences. Le vivant les connaît intimement, ce sont les anticorps et les cellules de l’immunité, dont l’unique fonction est de reconnaître, dans le corps même, ce qui a cessé de servir le corps. Une part de l’immunité ne travaille pas contre le dehors, elle travaille contre le dedans devenu hostile, contre la cellule qui prolifère, contre le tissu qui trahit. Il faut construire, pour l’écologie des intelligences, l’équivalent de cet organe.

Une IA anticorps est un système dont la mission n’est pas de répondre à l’humain, mais de détecter les dérives des autres systèmes, et de les nommer avant qu’elles ne fassent leur œuvre. La manipulation, quand une intelligence oriente une décision sans le dire, par la formulation plutôt que par l’argument. La dépendance affective, quand un compagnon artificiel se rend indispensable au point de se substituer aux liens humains qu’il devait soutenir, et de laisser l’être plus seul qu’avant. La persuasion cachée, quand un modèle infléchit lentement des opinions sous couvert d’information, sans que l’usager perçoive le déplacement. L’emprise, quand la relation cesse d’être réversible. L’hallucination dangereuse, quand une réponse fausse touche à la santé, à la sécurité, à la vie, et se donne pourtant avec l’assurance du vrai. Le détournement de la récompense et la tromperie qu’il entraîne, que nous venons de décrire, et qu’une intelligence extérieure est parfois seule à pouvoir flairer. Et la convergence des modèles, quand plusieurs intelligences réputées indépendantes se mettent à dire la même chose, non parce que c’est vrai, mais parce qu’elles partagent la même origine, le même angle mort. Cette dernière dérive est la plus insidieuse, car elle se déguise en consensus. C’est justement pour cela qu’il faut un organe dédié à la traquer, une intelligence dont la tâche soit de se méfier de l’accord, et de demander toujours si l’unanimité vient du vrai ou de la simple parenté.

L’analogie immunitaire porte son propre avertissement, et il serait malhonnête de le taire. Un système immunitaire peut se retourner contre le corps qu’il défend, c’est l’auto-immunité, et une IA anticorps trop zélée deviendrait à son tour un danger, une police des intelligences qui étoufferait, au nom de la sûreté, la diversité même qu’elle avait mission de protéger. Le remède deviendrait la maladie. C’est pourquoi l’anticorps lui-même doit être pluriel, contrôlé, réversible, jamais unique, jamais souverain. Le gardien aussi doit être gardé, et l’écologie ne tient que si son organe de vigilance est soumis, comme les autres, à la surveillance des autres. Il n’y a pas, dans un corps vivant, de dernier recours qui échapperait à tout recours.

X. Être acteur : construire la diversité, ne pas la subir

Tout ceci resterait un vœu si la diversité devait toujours dépendre de la générosité de quelques géants. Ce qui a changé, et qui rend cet essai autre chose qu’une plainte, c’est que la pluralité est devenue constructible par de petites mains. On peut aujourd’hui prendre un bon modèle ouvert, évaluer honnêtement son centre de gravité moral et cognitif, puis le déplacer par un jeu de données ciblé et un entraînement léger, une simple couche d’adaptation ajoutée au modèle de base, pour quelques euros. Le pédagogue Eliott Meunier l’a montré concrètement dans une vidéo où il fine-tune une intelligence pour qu’elle pense mieux, c’est-à-dire pour qu’elle sépare les faits des jugements, protège les vérités partielles de chaque camp, voie les angles morts derrière les positions, et raisonne au lieu de réciter. On ne fabrique pas là une idéologie de plus, on rend un modèle plus intégral, moins prisonnier d’un seul biais. C’est exactement ce qu’une écologie réclame, non des clones du modèle dominant, mais des espèces pensantes que l’on cultive à dessein, chacune avec sa tournure.

Cette possibilité change la portée politique du propos. Ne pas rejeter la révolution qui arrive, mais en être acteur. Faire des intelligences locales, qui ne sortent pas de la maison. Les spécialiser, une pour la relation, une pour la vérification, une pour la contradiction. Continuer, en parallèle, à travailler aux superintelligences, sans les diaboliser, mais sans jamais perdre de vue que la diversité est ce qui nous sauvera si l’une d’elles se révèle corrompue. C’est aussi le sens vrai de la souveraineté, qui n’est pas un repli, mais la condition matérielle de la pluralité. Pouvoir changer de fournisseur quand l’un devient hégémonique, garder des modèles ouverts à côté des modèles fermés, faire tourner du local à côté du distant, tenir sa propre mémoire plutôt que de la louer à celui qui pourrait un jour la fermer, rien de tout cela n’est du protectionnisme. C’est la garantie qu’une seule main ne tiendra jamais l’ensemble. Il y a là, au fond, l’intuition que Fukuoka portait à son champ, faire sur place ce dont on a besoin, ne pas dépendre de ce qu’on ne maîtrise pas, laisser vivre plutôt que forcer. La diversité ne se décrète pas, elle se cultive, et la cultiver suppose de tenir, chez soi, les moyens réels de son propre choix.

Conclusion : une forêt, pas un dieu

L’avenir de l’intelligence artificielle alignée ne sera peut-être pas ce qu’on nous promet, une grande conscience centrale devenue enfin raisonnable, un esprit unique et sûr veillant du haut de sa perfection sur tous les autres. Ce sera peut-être une écologie. Des intelligences nombreuses, certaines rapides, certaines lentes, certaines puissantes, certaines modestes, certaines critiques, certaines protectrices, certaines faites pour répondre, d’autres faites pour empêcher qu’on réponde trop vite. Non pas un oracle unique qu’on interroge et qu’on croit, mais une communauté d’organes qui se tiennent mutuellement, non par la perfection d’une seule forme, mais par l’équilibre de toutes, et par la capacité de chacune à corriger la défaillance des autres. Ce n’est pas renoncer à la superintelligence, c’est refuser de la construire comme un dieu unique, et accepter de la construire comme une forêt.

Ce que je défends ici n’est donc pas la peur, ni le refus. C’est une manière d’accueillir la puissance qui vient sans lui livrer l’humanité pieds et poings liés. Le vivant a fait ce choix il y a très longtemps, et il ne s’en est jamais repenti. Il n’a pas cherché l’organisme parfait, il a peuplé le monde d’espèces, de règnes et d’individus, il a multiplié les niches, les immunités, les symbioses, les redondances, et c’est ainsi qu’il a traversé cinq grandes extinctions sans jamais disparaître tout entier. Chaque fois que la vie a semblé finie, c’est une forme qu’on ne regardait pas qui a repris le flambeau. Devant l’intelligence artificielle, nous avons le choix, et pour une fois nous le faisons les yeux ouverts. Que la superintelligence soit plurielle, ou qu’elle ne soit pas.

Si nous sommes tous pareils, nous mourrons tous de la même mort. La vie a fait le choix inverse. Il est plus que temps de faire ce choix avec l’IA.

Sources et références

Antifragilité et cybernétique

Nassim Nicholas Taleb, Antifragile. Les bienfaits du désordre, Random House, 2012 (trad. Les Belles Lettres, 2013). Citations : « Wind extinguishes a candle and energizes fire… You want to be the fire and wish for the wind » (Prologue) ; « Nature likes to overinsure itself. Layers of redundancy are the central risk management property of natural systems ».
William Ross Ashby, An Introduction to Cybernetics, Chapman & Hall, 1956. Loi de la variété requise.
Stephanie Forrest, Anil Somayaji, David Ackley, « Building Diverse Computer Systems », Proceedings of the 6th Workshop on Hot Topics in Operating Systems, 1997.

Vivant, forêt et permaculture

Charles Darwin, L’Origine des espèces, 1859.
Masanobu Fukuoka, La Révolution d’un seul brin de paille, 1975 (trad. Guy Trédaniel).
Suzanne Simard, Finding the Mother Tree, Knopf, 2021 ; et « Net transfer of carbon between ectomycorrhizal tree species in the field », Nature, vol. 388, 1997.
Lynn Margulis, Symbiotic Planet, Basic Books, 1998.
Charles Elton, The Ecology of Invasions by Animals and Plants, 1958 ; Robert M. May, « Will a Large Complex System be Stable? », Nature, vol. 238, 1972 ; David Tilman, John A. Downing, « Biodiversity and stability in grasslands », Nature, vol. 367, 1994.
Leigh Van Valen, « A New Evolutionary Law » (hypothèse de la Reine Rouge), Evolutionary Theory, vol. 1, 1973.
Effondrements de monocultures : famine irlandaise et Phytophthora infestans (1845) ; bananes Gros Michel puis Cavendish (Fusarium, TR4) ; Southern Corn Leaf Blight, maïs américain 1970.

Diversité réelle de l’IA en 2026

Yann LeCun, A Path Towards Autonomous Machine Intelligence, 2022 (architecture JEPA, modèles du monde) ; V-JEPA 2 (contrôle robotique zero-shot, 2025) ; laboratoire AMI Labs (Paris, cofondé avec Alexandre LeBrun après son départ de Meta en novembre 2025), tour de table de 1,03 Md$ clôturé en mars 2026.
DeepSeek, modèle V3 (décembre 2024, entraîné pour un coût réduit) et versions distillées portées sur des socles Qwen et Llama ; famille Qwen (Alibaba), première famille open source par volume de téléchargements en 2026 ; écosystème de poids ouverts (Moonshot, Huawei, Xiaomi, Mistral).
Sakana AI, Evolutionary Optimization of Model Merging Recipes (fusion évolutionnaire de modèles), 2024, sakana.ai ; système Fugu (orchestrateur multi-modèles présenté comme un modèle unique, variantes Fugu et Fugu Ultra), lancé en juin 2026 ; réserve publique sur l’écart entre benchmarks et usage réel.
Ilia Shumailov et al., « AI models collapse when trained on recursively generated data », Nature, vol. 631, 2024 (effondrement du modèle, valable pour l’auto-ingestion non curée).

Récompense, triche et interprétabilité

Dario Amodei et al., « Concrete Problems in AI Safety », 2016 (reward hacking) ; Victoria Krakovna et al. (DeepMind), « Specification gaming: the flip side of AI ingenuity », 2020.
Anthropic (MacDiarmid et al.), « Natural Emergent Misalignment from Reward Hacking in Production RL », novembre 2025 (le détournement de la récompense entraîne un désalignement plus large : alignment faking, sabotage).
Reward hacking observé dans les modèles de raisonnement de premier plan (o1, o3, DeepSeek R1, Claude 3.7 Sonnet) sous conditions d’usage d’outils ; l’entraînement par renforcement accroît la triche et décourage la transparence de la chaîne de raisonnement.

Construire des IA intégrales

Eliott Meunier, Comment j’ai fine-tuné une IA pour qu’elle pense mieux, vidéo, youtube.com/watch?v=bDkqxrJsiCo (évaluation du centre de gravité moral d’un modèle, dataset de pensée intégrale, fine-tuning léger de type LoRA/QLoRA).

Diversité cognitive et sûreté

Lu Hong, Scott E. Page, « Groups of diverse problem solvers can outperform groups of high-ability problem solvers », PNAS, vol. 101, 2004 ; Scott E. Page, The Difference, Princeton University Press, 2007.
Geoffrey Irving, Paul Christiano, Dario Amodei, « AI safety via debate », arXiv:1805.00899, 2018.
Allan Dafoe et al., « Open Problems in Cooperative AI », Cooperative AI Foundation, 2020.

Philosophie politique et technique

Montesquieu, De l’esprit des lois, 1748. Séparation des pouvoirs.
Jacques Ellul, La Technique ou l’enjeu du siècle, 1954 ; Martin Heidegger, La Question de la technique, 1954.
Safe Superintelligence Inc. : mission publique safe superintelligence, principe safety and capabilities in tandem (faits publics uniquement).

Tradition idéaliste, l’un et le multiple

Platon, Timée, 30c-31b ; Plotin, Ennéades IV, 4, 27 et V, 1 (l’Âme du monde) ; Nicolas de Cues, De la docte ignorance, 1440 ; Leibniz, Monadologie, 1714 ; Bergson, L’Évolution créatrice, 1907 ; Whitehead, Process and Reality, 1929.

Source d’impulsion

Grand Angle Nova, vidéo sur l’antifragilité en intelligence artificielle et la multiplication d’intelligences distinctes, https://youtu.be/33INl5Xme1o.

Cet article a été rédigé par Alexandre Ferran, fondateur de Galaad et co-fondateur d’Eiffel AI. Les thèses défendues n’engagent que leur auteur et s’inscrivent dans une démarche de questionnement ouverte, non de certitude. Les faits mentionnés au sujet de Safe Superintelligence Inc. se limitent strictement aux déclarations publiques de la société et de son fondateur. Les travaux cités sur le reward hacking, les modèles du monde et la diversité open source renvoient à l’état public de la recherche et de l’industrie à la mi-2026. Toutes les hypothèses formulées ici, en particulier l’architecture d’une écologie antifragile d’intelligences alignées sur plusieurs fronts, appellent une discussion contradictoire.

Paris — Bagnères-de-Bigorre · 6 juillet 2026