Les sociétés de capital-risque et les startups du secteur
militaire de la Silicon Valley ont commencé leur offensive pour
promouvoir une version de la guerre robotisée qui utilisera
l’intelligence artificielle (IA) à grande échelle. Ces entreprises et
leurs PDG se lancent à présent à corps perdu dans cette technologie
émergente, en balayant pratiquement tout risque de dysfonctionnements
qui pourraient à l’avenir, conduire au massacre de civils, sans parler
de la possible émergence de scénarios dangereux dans le cadre de
l’escalade entre les grandes puissances militaires. Les raisons de cette
fuite en avant tiennent notamment à une confiance mal placée dans les «
armes miracles », mais surtout, cette vague de soutien aux technologies
militaires émergentes est motivée par l’ultime raison d’être du
complexe militaro-industriel : les profits considérables à engranger.
Source : TomDispatch, William D Hartung
Traduit par les lecteurs du site Les-Crises
Les techno-enthousiastes
Si certains militaires et membres du Pentagone s’inquiètent en effet
des risques futurs liés à des armements dotés d’IA, les dirigeants du
ministère de la défense sont pleinement satisfaits. Leur engagement
résolu en faveur des technologies émergentes a été révélé au monde
entier pour la première fois lors d’un discours prononcé en août 2023
par la secrétaire adjointe à la défense, Kathleen Hicks, devant la
National Defense Industrial Association, le plus grand groupe commercial
de l’industrie de l’armement du pays. Elle a profité de l’occasion pour
annoncer ce qu’elle a appelé « l’initiative Replicator », un projet
global visant à créer « un nouvel état de l’art – comme l’Amérique l’a
fait par le passé – en s’appuyant sur des systèmes attritables [ système
à longue portée sans pilote, subsonique et autonomes dans tous les
domaines, NdT] – qui sont moins coûteux, qui mettent moins de personnes
dans la ligne de mire et qui peuvent être modifiés, mis à jour ou
améliorés dans des délais beaucoup plus courts. »
Hicks n’a pas hésité à souligner la principale raison d’être d’une
telle course à la guerre robotisée : devancer et intimider la Chine. «
Nous devons nous assurer que les dirigeants de la RPC (République
populaire de Chine) se réveillent chaque jour, prennent en compte les
risques inhérents à une agression et concluent que ce n’est pas le
moment – et pas seulement aujourd’hui, mais tous les jours, d’ici 2027,
d’ici 2035, d’ici 2049 et au-delà », a-t-elle déclaré.
Le fait que Hick ait une confiance absolue dans la capacité du
Pentagone et des fabricants d’armes américains à mener les futures
techno guerres a été renforcé par un groupe de militaristes New-Age de
la Silicon Valley et au-delà, dont le fer de lance est constitué par des
chefs d’entreprise tels que Peter Thiel de Palantir, Palmer Luckey
d’Anduril, et des investisseurs en capital-risque tels que Marc
Andreessen d’Andreessen Horowitz.
Patriotes ou profiteurs mercantiles ?
Ces entreprises qui encouragent une nouvelle façon de faire la guerre
se considèrent également comme une nouvelle génération de patriotes,
capables de relever avec succès les défis militaires de l’avenir.
En témoigne « Rebooting the Arsenal of Democracy », un long manifeste
publié sur le blog d’Anduril. Il souligne la supériorité des startups
de la Silicon Valley sur les mastodontes militaro-industriels de la
vieille école, comme Lockheed Martin, quand il s’agit de fournir la
technologie indispensable pour gagner les guerres de demain :
« Il est vrai que les plus grandes entreprises de défense comptent
dans leurs rangs des patriotes qui n’ont pas l’expertise logicielle ou
le modèle commercial nécessaire pour construire la technologie dont nous
avons besoin… Ces entreprises ont construit les outils qui ont assuré
notre sécurité dans le passé, mais elles ne représentent pas l’avenir de
la défense. »
Contrairement à l’approche industrielle qu’il critique, Luckey et ses
compatriotes d’Anduril cherchent une toute nouvelle façon de développer
et de vendre des armes :
« Les logiciels vont changer la façon dont les guerres sont menées.
Le champ de bataille de l’avenir regorgera de dispositifs dotés d’une
intelligence artificielle et sans pilote, qui combattront, recueilleront
les données de reconnaissance et communiqueront à des vitesses
époustouflantes. »
À première vue, il paraît tout à fait inattendu que Luckey ait pu se
hisser aussi haut dans les rangs des dirigeants de l’industrie de
l’armement. Il a fait fortune en créant l’appareil de réalité virtuelle
Oculus, un gadget que les utilisateurs peuvent fixer sur leur tête afin
de vivre des expériences en trois dimensions (avec la sensation d’être
immergé dans ces scènes). Ses goûts vestimentaires le portent vers les
sandales et les chemises hawaïennes, ce qui ne l’empêche pas de se
consacrer entièrement à des activités dans le domaine militaire. En
2017, il a fondé Anduril, en partie avec le soutien de Peter Thiel et de
sa société d’investissement, Founders Fund. Anduril fabrique
actuellement des drones autonomes, des systèmes de commande et de
contrôle automatisés et d’autres dispositifs destinés à accélérer la
vitesse à laquelle le personnel militaire peut identifier et détruire
des cibles.
Thiel, mentor de Palmer Luckey, montre bien en quoi les dirigeants
des nouvelles entreprises d’armement diffèrent des titans de l’époque de
la guerre froide. Tout d’abord, il est entièrement acquis à Donald
Trump. Il fut un temps où les dirigeants des grandes entreprises
d’armement comme Lockheed Martin faisaient en sorte de maintenir de
bonnes relations tant avec les Démocrates qu’avec les Républicains, en
contribuant largement aux campagnes électorales des deux partis et de
leurs candidats, et en engageant des lobbyistes disposant de relations
dans les deux camps. La logique de cette démarche n’aurait pas pu être
plus claire à l’époque. Ils voulaient sceller un consensus bipartisan
afin de dépenser toujours plus au profit du Pentagone, l’une des rares
choses sur lesquelles la plupart des membres clés des deux partis
étaient d’accord. Ils voulaient également entretenir des relations
particulièrement fructueuses quel que soit le parti contrôlant la Maison
Blanche et/ou le Congrès à tout moment.
Les jeunes pousses de la Silicon Valley et leurs représentants sont
également beaucoup plus virulents dans leurs critiques à l’égard de la
Chine. Ils sont les plus froids (ou devrais-je dire les plus brûlants ?)
des nouveaux combattants de la guerre froide de Washington, employant
une rhétorique plus acerbe que celle du Pentagone ou des grands patrons.
En revanche, ceux-ci édulcorent généralement leurs critiques à
l’encontre de la Chine ainsi que leur soutien aux guerres dans le monde
entier, lesquelles ont contribué à arrondir leurs résultats nets grâce
aux groupes de réflexion qu’ils ont financés à hauteur de dizaines de
millions de dollars chaque année.
L’entreprise principale de Thiel, Palantir, a également été critiquée
pour avoir fourni des systèmes qui ont permis aux services
d’immigration et de douane américains (ICE) de mener des opérations de
répression sévères aux frontières, ainsi que des opérations de « police
prédictive ». Cela (et vous n’en serez pas surpris) implique la collecte
de grandes quantités de données personnelles sans mandat, en s’appuyant
sur des algorithmes intégrant des préjugés raciaux qui conduisent à un
ciblage et à une discrimination systématiques et injustes à l’égard des
personnes de couleur.
Pour bien comprendre comment les militaristes de la Silicon Valley
envisagent la guerre de la prochaine génération, il faut se pencher sur
les travaux de Christian Brose, directeur de la stratégie de Palantir.
Ce dernier est un spécialiste de la réorganisation militaire depuis
longtemps, il est aussi l’ancien collaborateur de feu le sénateur John
McCain. Son livre Kill Chain est en quelque sorte la bible des partisans
de la guerre automatisée. Son constat principal : le vainqueur d’un
combat est celui qui peut le plus efficacement raccourcir la « chaîne de
la mort » (le laps de temps qui s’écoule entre l’identification et la
destruction d’une cible). Son livre part du principe que l’adversaire le
plus probable dans la prochaine guerre technologique sera bel et bien
la Chine et il se livre à une exagération des capacités militaires de
Pékin, tout en surestimant ses ambitions militaires et en insistant sur
le fait que devancer ce pays dans le développement de technologies
militaires émergentes est le seul moyen de remporter une victoire dans
le futur.
Et attention, il ne faut pas oublier que la stratégie de Brose, qui
consiste à raccourcir la chaîne de la mort, présente d’immenses risques.
La tentation de faire « sortir les humains de la boucle » ne fera que
croître à mesure que le laps de temps pour décider des actions à
entreprendre sera raccourci, laissant les décisions de vie ou de mort à
des machines dépourvues de sens moral et exposées à des
dysfonctionnements catastrophiques, ce qui est inhérent à tout système
logiciel complexe.
Une grande partie de la critique de Brose concernant le complexe
militaro-industriel actuel est tout à fait pertinente. Quelques grandes
entreprises s’enrichissent en fabriquant de gigantesques plates-formes
d’armes toujours plus vulnérables, telles que des porte-avions et des
chars, tandis que le Pentagone dépense des milliards pour un vaste et
onéreux réseau de bases mondiales qui pourrait être remplacé par un
dispositif de défense qui aurait une empreinte beaucoup plus limitée et
plus dispersée. Sa vision alternative pose malheureusement plus de
problèmes qu’elle n’en résout.
Tout d’abord, il n’y a aucune garantie que les systèmes logiciels
promus par la Silicon Valley fonctionneront comme annoncé. Après tout,
il existe une longue histoire d’« armes miracles » qui ont échoué,
depuis le champ de bataille électronique au Viêt Nam jusqu’au désastreux
bouclier antimissile Star Wars du président Ronald Reagan [L’Initiative
de défense stratégique, dite aussi guerre des étoiles dans les médias,
était un projet de défense anti-missile destiné à la protection des
États-Unis contre une frappe nucléaire stratégique par des missiles
balistiques intercontinentaux et des missiles balistiques lancés par des
sous-marins, NdT]. Même lorsqu’il a été possible de trouver et de
détruire des cibles plus rapidement, des guerres comme celles d’Irak et
d’Afghanistan, menées en utilisant ces mêmes technologies, ont été des
échecs pitoyables.
Une récente enquête du Wall Street Journal laisse entendre que la
nouvelle génération de technologie militaire est également surévaluée.
Le Journal a constaté que les nouveaux petits drones américains haut de
gamme fournis à l’Ukraine pour sa guerre défensive contre la Russie se
sont révélés bien trop « chaotiques et onéreux », à tel point que,
comble de l’ironie, les Ukrainiens ont choisi d’acheter à la place des
drones chinois moins chers et plus fiables.
Enfin, l’approche préconisée par Brose et ses acolytes va rendre la
guerre toujours plus probable, à mesure que l’hubris technologique
incite à croire que les États-Unis peuvent effectivement « battre » une
puissance nucléaire rivale comme la Chine dans un conflit, si seulement
nous investissons dans une nouvelle force dynamique de haute
technologie.
Il en résulte, comme mon collègue Michael Brenes et moi-même l’avons
souligné récemment, que des milliards de dollars d’argent privé affluent
aujourd’hui dans des entreprises cherchant à repousser les frontières
de la techno-guerre. Les estimations vont de 6 à 33 milliards de dollars
par an et, selon le New York Times, 125 milliards de dollars au cours
des quatre dernières années. Quels que soient les chiffres, le secteur
technologique et ses bailleurs de fonds sentent qu’il y a d’énormes
sommes d’argent à gagner dans l’armement de nouvelle génération et ils
ne laisseront personne se mettre en travers de leur chemin.
Dans le même temps, une enquête menée par Eric Lipton du New York
Times a révélé que les sociétés de capital-risque et les startups qui
accélèrent déjà le rythme des guerres assistées par IA s’emploient
également à recruter et à mettre à leur service d’anciens responsables
de l’armée et du Pentagone. L’ancien secrétaire à la défense de Trump,
Mark Esper, figure en bonne place sur cette liste. De tels
rapprochements peuvent certes être motivés par la ferveur patriotique,
mais une motivation plus probable est simplement le désir de s’enrichir.
Comme l’a fait remarquer Ellen Lord, ancienne responsable des
acquisitions au Pentagone : « Aujourd’hui, on constate un certain
panache quant aux liens entre la communauté de la défense et les
sociétés de capital-investissement. Mais les investisseurs espèrent
aussi pouvoir passer à la caisse et gagner un maximum d’argent. »
Le roi philosophe
Autre acteur central de la construction d’une machine de guerre
high-tech, l’ancien PDG de Google, Eric Schmidt, s’intéresse à bien
d’autres domaines que la sphère militaire. Il est devenu un véritable
philosophe-roi lorsqu’il s’agit de savoir comment les nouvelles
technologies vont remodeler la société et, en fait, ce que veut dire
être humain. Il réfléchit à ces questions depuis un certain temps et a
exposé sa vision dans un livre publié en 2021 et modestement intitulé
The Age of AI and Our Human Future (L’âge de l’IA et notre avenir
humain), coécrit avec nul autre que le regretté Henry Kissinger. Schmidt
est au fait des dangers potentiels de l’IA, mais joue également un rôle
central dans les efforts déployés pour promouvoir ses applications
militaires. Bien qu’il renonce à l’approche messianique de certaines
figures montantes de la Silicon Valley, on peut se demander si son
approche apparemment plus réfléchie contribuera au développement d’un
monde plus sûr et plus rationnel en matière d’armement avec IA.
Commençons par le plus fondamental : Schmidt pense que l’IA va
changer la vie telle que nous la connaissons et ce, d’une manière
absolument extraordinaire. Dans leur ouvrage, Kissinger et lui affirment
que l’IA provoquera « une altération de l’identité et de la culture
humaines à des niveaux jamais atteints depuis l’aube de l’ère moderne »,
affirmant : « Son fonctionnement laisse augurer un progrès sur la voie
de l’essence même des choses, progrès que les philosophes, les
théologiens et les scientifiques recherchent, avec un succès mitigé,
depuis des millénaires. »
En revanche, le groupe d’experts gouvernementaux sur l’intelligence
artificielle au sein duquel Schmidt a siégé a pleinement reconnu les
risques que présentent les utilisations militaires de l’IA. La question
mérite d’être posée : Va-t-il, au moins, appuyer la mise en place de
solides garde-fous contre son utilisation abusive ? Pendant son mandat à
la tête du Defense Innovation Board du Pentagone de 2017 à 2020, il a
contribué à préparer le terrain pour les directives du Pentagone sur
l’utilisation de l’IA lesquelles garantissaient que les humains seraient
toujours « dans la boucle » lors du lancement d’armes de nouvelle
génération. Mais comme l’a fait remarquer un détracteur de ce secteur,
une fois la rhétorique mise de côté, les directives « n’empêchent pas
vraiment de faire quoi que ce soit ».
En fait, la sénatrice Elizabeth Warren (Démocrate-Maryland) et
d’autres défenseurs de la bonne gouvernance se sont demandé si le rôle
de Schmidt à la tête de la Defense Innovation Unit ne représentait pas
un potentiel conflit d’intérêts. Après tout, alors qu’il contribuait à
l’élaboration des lignes directrices sur les applications militaires de
l’IA, il investissait également dans des entreprises susceptibles de
tirer profit du développement et de l’utilisation de l’IA. Son entité
d’investissement, America’s Frontier Fund, investit régulièrement dans
des startups de technologie militaire, et une organisation à but non
lucratif qu’il a fondée, le Special Competitive Studies Project, décrit
sa mission comme étant de « conforter la compétitivité à long terme de
l’Amérique à mesure que l’intelligence artificielle (IA) [remodèle]
notre sécurité nationale, notre économie et notre société ». Cette
association est en relation avec un grand nombre de dirigeants de
l’armée et de l’industrie technologique et milite, entre autres, en
faveur d’un assouplissement de la réglementation sur le développement
des technologies militaires. En 2023, Schmidt a même fondé une
entreprise de drones militaires, White Stork, qui, selon Forbes, a testé
secrètement ses systèmes à Menlo Park, dans la banlieue de la Silicon
Valley.
La question est maintenant de savoir si l’on peut amener Schmidt à
user de toute son influence pour freiner les utilisations les plus
dangereuses de l’IA. Malheureusement, son enthousiasme à l’égard de
l’utilisation de l’IA pour améliorer les capacités de combat laisse
présager le contraire :
« De temps à autre, une nouvelle arme, une nouvelle technologie fait
son apparition et change les choses. Dans les années 1930, Einstein a
écrit une lettre à Roosevelt pour lui dire que cette nouvelle
technologie – les armes nucléaires – pourrait changer la guerre, ce
qu’elle a manifestement fait. Je dirais que l’autonomie [assurée par
l’IA] et les systèmes décentralisés et en réseaux sont tout aussi
puissants.
Compte tenu des risques déjà cités, la comparaison entre l’IA
militaire et le développement d’armes nucléaires n’est pas vraiment
rassurante. La combinaison des deux – des armes nucléaires contrôlées
par des systèmes automatiques sans intervention humaine – a jusqu’à
présent été exclue, mais on ne peut pas s’attendre à ce que cela dure.
Cela reste une possibilité, en l’absence de garanties solides et
contraignantes sur le moment et la manière dont l’IA peut être utilisée.
L’IA arrive, et son impact sur nos vies, que ce soit en temps de
guerre ou en temps de paix, risque de défier l’imagination. Dans ce
contexte, une chose est claire : nous ne pouvons pas nous permettre de
laisser les individus et les entreprises qui profiteront le plus d’une
application effrénée de l’IA avoir la mainmise sur les règles
d’utilisation de cette technologie.
N’est-il pas temps d’affronter les guerriers de la nouvelle ère ?
William D. Hartung, contributeur habituel de TomDispatch, est maître
de recherche au Quincy Institute for Responsible Statecraft et auteur de
Prophets of War : Lockheed Martin and the Making of the
Military-Industrial Complex (Prophètes de guerre : Lockheed Martin et la
naissance du complexe militaro-industriel).