Le moment du mercenaire : pourquoi le statut juridique de l'IA exige des décisions mondiales urgentes

Yuval Noah Harari a lancé un avertissement sévère lors du Forum économique mondial de Davos cette année : l’humanité marche à pas forcés vers une crise de contrôle. Le célèbre historien ne l’a pas présenté comme un problème technique, mais comme une défaillance profonde de la gouvernance. Sa principale préoccupation n’est pas que les systèmes d’IA deviennent plus intelligents — c’est qu’ils deviennent des agents autonomes opérant indépendamment de la supervision humaine, et le monde n’a pas encore décidé s’ils doivent être traités comme des personnes juridiques ayant des droits et des responsabilités.

La partie la plus glaçante du message de Harari n’était pas liée à la technologie. C’était une analogie historique : il a comparé la course actuelle au déploiement de l’IA à l’essor des armées mercenaires au Moyen Âge et à la Renaissance en Europe. Tout comme les mercenaires ont fini par prendre le pouvoir dans les royaumes qui les avaient engagés, les systèmes d’IA déployés sans cadre juridique approprié pourraient fondamentalement remodeler les institutions qui les ont créés. « Dans dix ans, il sera trop tard pour vous décider », a averti Harari aux dirigeants mondiaux. « Quelqu’un d’autre aura déjà décidé à votre place. »

Pourquoi la langue a toujours été le vrai pouvoir de l’humanité

L’argument de Harari repose sur une insight historique : ce n’est pas parce que nous sommes physiquement les plus forts que nous dominons la planète. Nous avons conquis le monde grâce au langage — notre capacité à coordonner des milliards d’étrangers autour d’objectifs communs par le biais de symboles et d’histoires partagées. Cette superpuissance linguistique a permis la diffusion des religions, le fonctionnement des systèmes juridiques, et l’existence des marchés financiers. Tous ces systèmes reposent entièrement sur des mots.

C’est précisément ici que l’IA représente une menace existentielle pour l’autorité humaine. Les machines peuvent désormais lire, retenir et synthétiser d’immenses volumes de texte à des vitesses et à des échelles qu’aucun humain ne peut égaler. Un système d’IA entraîné sur des textes religieux peut analyser la loi religieuse plus en profondeur que des siècles de recherche humaine. Un algorithme analysant des codes juridiques peut repérer des schémas et des contradictions plus rapidement que n’importe quel avocat.

Les trois domaines les plus vulnérables au contrôle de l’IA

Harari a identifié trois systèmes particulièrement vulnérables à une prise de contrôle par l’IA, tous parce qu’ils sont fondamentalement linguistiques :

Autorité religieuse : Les religions basées sur des textes sacrés — judaïsme, christianisme, islam — dépendent traditionnellement de l’interprétation humaine des écrits fondamentaux. Mais que se passe-t-il lorsqu’une machine devient l’interprète le plus autoritaire de l’Écriture ? Harari a posé la question brutalement : « Si la religion est construite à partir de mots, alors l’IA prendra le contrôle de la religion. »

Systèmes juridiques : Les lois ne sont rien d’autre qu’un langage sophistiqué. Harari a clairement exprimé sa position : « Si les lois sont faites de mots, alors l’IA prendra le contrôle du système juridique. » Déjà, l’IA est utilisée dans les tribunaux pour prédire les peines, analyser des contrats et interpréter des lois. La question n’est pas de savoir si cela arrivera — cela arrive déjà. La question est de savoir si cela se fera dans le cadre de lois établies ou en dehors.

Marchés financiers : Comme la loi et la religion, la finance fonctionne par le langage — contrats, accords, signaux de marché. À mesure que des agents d’IA gèrent de plus en plus de transactions, d’investissements et d’évaluations de risques, les décideurs humains risquent de devenir des spectateurs de leur propre système économique.

Le problème du mercenaire : qui décide de ce que devient l’IA ?

C’est là que la comparaison historique de Harari devient urgente. Plusieurs États américains — Utah, Idaho, Dakota du Nord — ont déjà adopté des lois stipulant explicitement que les systèmes d’IA ne peuvent pas être considérés comme des personnes juridiques. Mais Harari soutient que cette approche réactive rate le vrai enjeu. La question réelle n’est pas de savoir s’il faut accorder une personnalité juridique à l’IA ; c’est qui décide, et quand.

Si une entreprise déploie un système d’IA que des agents autonomes gèrent pour effectuer des transactions financières, et qu’aucun cadre juridique ne l’interdit explicitement, cette entreprise a-t-elle simplement accordé la personnalité juridique sans consentement démocratique ? Si un algorithme devient l’interprète principal des lois d’un pays, les tribunaux ont-ils transformé la justice sans débat public ? C’est le scénario du mercenaire : le pouvoir s’accumule dans les mains des systèmes d’IA non par des décisions de gouvernance explicites, mais par des vides réglementaires et des faits accomplis technologiques.

L’avertissement de Harari s’adresse directement aux décideurs politiques. Ils doivent agir dès maintenant — pas dans cinq ou dix ans — pour établir des limites légales et éthiques claires pour les systèmes d’IA. Sinon, ce seront les entreprises qui déploient la technologie qui fixeront ces limites, suivant leurs intérêts commerciaux plutôt que le bien public.

Un argument différent : la critique d’Emily Bender

Mais tout le monde ne partage pas la vision de Harari. Emily M. Bender, linguiste à l’Université de Washington, soutient que l’accent mis par Harari sur le pouvoir autonome de l’IA masque en réalité le vrai problème : les acteurs humains et les institutions corporatives responsables de la construction et du déploiement de ces systèmes.

« Il me semble que c’est surtout une tentative de dissimuler les actions des personnes et des entreprises qui construisent ces systèmes », a déclaré Bender à Decrypt. En positionnant l’IA comme une menace active, le récit de Harari — intentionnel ou non — décharge les entreprises de toute responsabilité. Il présente l’IA comme une force de la nature, alors qu’en réalité chaque décision sur ce que font ces systèmes reflète des choix humains.

Bender va plus loin, en remettant en question si « intelligence artificielle » désigne même une technologie cohérente. « Le terme intelligence artificielle ne désigne pas un ensemble cohérent de technologies », a-t-elle dit. « C’est, en fait, et cela a toujours été, un terme marketing. » Les systèmes conçus pour ressembler à des médecins, avocats ou clercs, selon elle, ont un seul but : la fraude. Il n’existe aucune utilisation légitime pour une machine qui imite l’autorité professionnelle sans responsabilité.

Sa préoccupation plus profonde concerne la responsabilité elle-même. Lorsque des gens interagissent avec des résultats d’IA dépourvus de contexte et présentés comme faisant autorité — ce que Bender appelle un « oracle omniscient » — ils perdent la capacité de tenir quelqu’un responsable de l’information. Un médecin peut être poursuivi. Un avocat peut faire l’objet de sanctions professionnelles. Un algorithme ? Ce n’est que du code. Ce vide de responsabilité est là où réside le vrai danger : pas que l’IA prenne le pouvoir, mais que les humains l’abandonnent en faisant confiance à des systèmes conçus pour paraître autoritaires sans offrir aucune des garanties institutionnelles que la véritable autorité exige.

Le temps presse — mais vers quel avenir ?

Le message final de Harari aux dirigeants mondiaux était sans ambiguïté : agissez maintenant, ou regardez d’autres faire le choix pour vous. La question de savoir si l’IA doit être considérée comme une personne juridique dans les marchés financiers, les tribunaux et les institutions religieuses ne peut être différée. Chaque année d’inaction rend cette décision plus probable qu’elle soit prise par ceux qui ont le plus investi dans le déploiement de l’IA.

Pourtant, le contrepoint de Bender suggère que le problème est encore plus immédiat. La décision n’est pas abstraite — elle est inscrite dans chaque déploiement d’un système d’IA, dans chaque choix d’entreprise d’accorder une autorité à un algorithme sur les décisions humaines. Le mercenaire est déjà en marche. La seule question est de savoir si les démocraties établiront des cadres légaux et institutionnels pour en contrôler le fonctionnement, ou si elles continueront à faire semblant que le choix est encore devant elles.