L’intelligence artificielle peut-elle nous gouverner ?

Un client du supermarché américain « Target » fit irruption, en 2012, dans le magasin en rage. Il se plaignait que sa fille de 14 ans reçoive des coupons de réduction sur le prix des produits pour femmes enceintes. Quelques jours plus tard, il découvrit, en même temps que sa fille, que celle-ci était effectivement enceinte.

Un journaliste du « New York Times Magazine » rendit célèbre cette histoire dans un article intitulé : « How companies learn your secrets » [1], dans lequel il explique la puissance du département d’analyse prédictive des grandes entreprises, chargé d’accumuler et d’acheter un maximum d’informations personnelles sur leurs clients pour comprendre leurs habitudes et anticiper leurs comportements. Afin de se garantir la fidélité des femmes enceintes, « Target » avait mis au point un programme de prédiction de la grossesse basé sur une étude des comportements d’achat indiquant un changement dans le métabolisme de la cliente et permettant même d’évaluer la date de l’accouchement.

A la tête de ce programme, le statisticien Andrew Pole résume son objectif : “We’ll be sending you coupons for things you want before you even know you want them.” [2] Cet exemple d’utilisation de la technologie comme instrument de contrôle social illustre parfaitement les préoccupations au cœur de la formule de Lawrence Lessig : « code is law » [3]. L’accumulation de données et leur synthèse par les nouveaux outils technologiques confèrent au code une capacité de régulation, de prescription et de contrôle ordinairement associés à la loi.

En octobre 2017, le Président russe Vladimir Poutine rapportait cette histoire lors de son intervention à la conférence de Valdaï, un sommet annuel qui rassemble à Sotchi chefs d’entreprises, hommes politiques, universitaires et experts du monde entier. Il conclut de cette anecdote la définition de la tâche principale posée aux États aujourd’hui : comprendre et utiliser ces outils de contrôle des humains par la technologie pour « le bénéfice de notre peuple » [4] . Quelques mois plus tôt, il déclarait déjà : « celui qui deviendra le leader dans cette sphère [de l’intelligence artificielle] sera le maître du monde » [5]. En d’autres termes, le code, devenu loi, serait roi.

L’intelligence artificielle n’est pas nouvelle. Le concept apparaît dès les années 1950 et les premiers algorithmes sont conçus peu de temps après [6]. Cependant, les années 2012-2017 ont marqué une véritable révolution dans l’accroissement de la puissance de ces algorithmes, désormais dotés de capacités exceptionnelles de stockage, de traitement d’informations, de méthode d’apprentissage (« deep learning ») et d’autonomie de la décision.

Le pouvoir croissant exercé par l’intelligence artificielle est au cœur des interrogations contemporaines, comme le montrent les titres évocateurs d’essais politiques qui jadis auraient relevé de la science fiction : La guerre des intelligences, de Laurent Alexandre [7], ou encore La chute de l’empire romain, Mémoires d’un robot, de Charles-Edouard Bouée [8]. La puissance de l’intelligence artificielle fait directement concurrence à l’État dans ses prérogatives classiques : connaissance, contrôle et administration de son corps social. Elle finit par rendre plausible la disparition de la loi humaine au profit d’un code dont la capacité de savoir, de régulation et d’application de décisions est rarement mise en défaut.

Ces développements de l’intelligence artificielle posent un défi à la puissance d’un État de deux manières. Si l’on considère l’intelligence artificielle comme une technique de contrôle parmi d’autres, les États doivent répondre à ce défi technologique afin de prendre la tête d’une course à la puissance entre pairs. Cependant, si l’intelligence artificielle est un mode de gouvernement et de régulation qui peut posséder son fonctionnement interne et autonome échappant au contrôle de la puissance publique, les États doivent répondre à un défi d’un genre nouveau : le renversement du modèle de gouvernement classique de l’État souverain moderne. Dans ces conditions, l’État doit entamer une réflexion sur les manières de résistance, de transformation ou d’adaptation de sa raison d’être et de persister.

I. La loi par le code : l’innovation technologique au service du contrôle par l’État

En tant qu’instrument de connaissance et de contrôle, l’intelligence artificielle (IA) est utilisée par les États pour accroître leur puissance. Le domaine numérique est ainsi devenu l’objet d’une compétition qui prend des allures de course à l’armement. La Chine a adopté une stratégie nationale afin de devenir le leader et le centre de l’innovation en IA d’ici 2030, considérant que l’investissement dans l’IA est lié à des enjeux de défense et de sécurité nationale [9]. Les États-Unis ont élaboré un plan national appelé « Third Offset » qui prévoit l’utilisation de l’IA pour maintenir un avantage militaire technologique sur ses adversaires. La polyvalence d’utilisation de l’IA, pour des objectifs commerciaux comme militaires, fait de cette technologie un outil de contrôle indispensable pour occuper une place de grande puissance mondiale.

La France s’est elle-même récemment emparée de ce sujet, reconnaissant qu’il s’agissait d’une question d’État majeure avec la parution symbolique du rapport « France Intelligence Artificielle » [10] et depuis, plusieurs missions dédiées à ce sujet dont la dernière est placée sous la direction de Cédric Villani.

Suite de l’article Ici.