L’INTELLIGENCE ARTIFICIELLE

Mettre à profit les contributions des alliés au chapitre de l’intelligence artificielle : le lien essentiel entre l’industrie commerciale et l’industrie de la défense

par Simon Poudrier

Le colonel Simon Poudrier, CD, est officier de logistique de la Force aérienne. Depuis 25 ans, il sert un peu partout au Canada et dans le cadre d’opérations de déploiement. Pendant qu’il étudiait à la National Defense University, à Washington, D.C., il a été choisi pour participer à la première étude de l’industrie sur les nouvelles technologies qui mettait l’accent sur l’intelligence artificielle dans le contexte du Concours des grandes puissances organisé par le département de la Défense des États-Unis. Dans le cadre de cette étude, il a communiqué avec des laboratoires, des écoles et des entreprises de pointe dans diverses parties des États-Unis, en Suisse et au Canada relativement à leur point de vue sur des questions connexes.

Nous devons profiter de la demande de principes et de cadres éthiques réfléchis et conjoints pour développer et utiliser l’IA dans les sociétés démocratiques. Les États-Unis n’assumeront vraisemblablement pas ce rôle. [...] La domination écrasante de quelques puissantes entreprises de technologie dans la mise au point de l’IA réduit la possibilité qu’un débat vraiment démocratique entre égaux, auquel prendraient part l’État, le secteur privé, les universités et le public, ait lieu dans ce pays. De même, la Chine ne se montre pas très encline à limiter la capacité de l’État ou des entreprises soutenues par l’État de recourir à l’IA à des fins intrusives alarmantes. [TCO]

~ Chambre des lords du Royaume-Uni, 2018¹

Introduction

Le gouvernement des États-Unis (É.-U.) accuse du retard sur l’industrie dans le domaine de l’intelligence artificielle (IA) pour ce qui est d’en comprendre les effets sur la population du pays et ses applications éventuelles. De grandes entreprises se sont rendues maîtresses de ce vide et évoluent maintenant de façon quasi indépendante dans un environnement peu réglementé. Cependant, cette absence de réglementation n’est pas aussi manifeste à l’extérieur des États-Unis. Les Européens, par exemple, semblent avoir accepté la nouvelle réalité de l’IA et ont amorcé des discussions au niveau des gouvernements afin d’adopter l’IA dans l’intérêt de leur pays respectif. Reconnaissant que les applications commerciales actuelles de l’IA reposent sur les données principalement recueillies auprès de leur population, les pays européens ont mis en vigueur des règlements sur la protection des renseignements personnels, règlements qui ont ralenti la progression et l’adoption de l’IA dans leur territoire et en ont sans doute favorisé une meilleure structuration.

Le gouvernement des É.-U. a récemment publié l’ « American AI Initiative » (Initiative américaine en matière d’IA); le document expose un point de vue sur l’IA axé sur le « mode de vie » américain tel qu’il est déterminé par l’industrie du pays. Un regard sur les politiques d’autres pays concernant l’IA révèle sur l’industrie de l’IA un point de vue différent et perspicace qui se rapporte à la défense et au solide lien de cette industrie avec le commerce mondial. En me fondant sur une étude des politiques et des perspectives des alliés actuels en matière d’IA, je mets ici en lumière la nécessité immédiate pour les É.-U. d’évaluer les effets de leur stratégie économique agressive, de mobiliser davantage les gouvernements alliés et de les mettre à profit dans le contexte des liens entre l’industrie de la défense et l’IA. J’examinerai les avantages d’une solide collaboration avec les alliés des É.-U., en définissant l’état et la structure de l’industrie générique de l’IA, les défis intrinsèques de l’industrie de l’IA relativement à la défense, et le rôle de divers gouvernements et des politiques connexes sur l’IA en ce qui concerne la défense.

Définition, état et structure de l’industrie de l’IA

L’industrie de l’IA – Les questions de forme

L’IA a fait l’objet de discussions pour la première fois il y a plus d’un demi-siècle, et depuis, cette science a traversé des périodes d’évolution et de stagnation. La majorité des progrès sur le plan de la recherche et développement (R et D), qui ont amené l’IA où elle en est aujourd’hui, proviennent d’initiatives financées par le gouvernement des É.-U. L’évolution de la puissance informatique et de la miniaturisation, parallèlement à la disponibilité des données numérisées au cours des dernières décennies, a grandement amélioré les utilisations éventuelles de l’IA et en a ainsi fait une industrie viable. De grandes entreprises ont vu le jour aux É.-U. et en Chine et sont devenues les chefs de file mondiaux dans le domaine de la R et D; elles ont, par conséquent, déterminé l’avenir de cette industrie. L’applicabilité de l’IA peut maintenant paraître illimitée. Cependant, les chercheurs américains soutiennent que l’absence d’une définition officielle de l’IA formulée par le gouvernement des É.-U. rend l’évaluation de l’industrie plutôt compliquée. Aux fins du présent article, la définition générale de l’IA sera considérée comme étant la suivante : « l’industrie destinée à utiliser des données électroniques pour procurer à un agent d’inférence ou à un algorithme une capacité de raisonnement à caractère humain, de manière à faire remplir une tâche à un système doté d’une IA » [tco].

L’industrie de l’IA diffère des autres industries en raison de sa nature intrinsèquement complexe due à la convergence de disciplines dans un écosystème. Une des principales différences entre cette industrie et une industrie de défense plus classique réside dans les « fournitures » dont elle a besoin pour exister et qui proviennent du secteur privé. Ces fournitures sont les données, les professionnels du codage informatique qui programment les algorithmes, la puissance informatique et les capteurs procurant les données à la boucle de rétroaction. L’Internet des objets (IDO) explique l’écosystème composé des appareils et des technologies qui envoient et reçoivent les données qui actionnent l’ensemble du système intelligent. Ces fournitures doivent être harmonisées afin de faire fonctionner l’IA dans sa forme actuelle, et seulement à une fin particulière et limitée. L’application de l’IA au domaine médical, par exemple, peut être décrite comme « l’analyse d’images pour cerner l’évolution éventuelle du cancer de la prostate chez des patients » [TCO]. Toutefois, le même système d’IA, en particulier l’ensemble de données qui se compose des milliers ou des millions d’images nécessaires pour enseigner au système à rechercher les traces de cancer de la prostate, ne serait pas valide pour analyser un cancer d’un autre type. Par conséquent, la création de l’expertise et de la technologie voulues pour actionner un système d’IA revêt un caractère très technique et nécessite d’importants investissements financiers.

L’industrie de l’IA – Les immobilisations

Pendant la première semaine du mois de mars 2019, la Defense Advanced Research Projects Agency (DARPA) des É.-U. a reçu des crédits de deux milliards de dollars, qui seront répartis sur cinq ans, pour mener ses sous-projets faisant partie de son grand projet « AI Next » (L’IA, prochaine étape²). Ce financement d’envergure pourrait être considéré comme un investissement de taille dans d’autres industries. Cependant, les grandes entreprises prenant part à la course à l’IA affectent des milliards de dollars chaque année à la R et D. Amy Webb, futurologue du domaine de la technologie à l’Université de New York, estime que seulement neuf entreprises mondiales contrôlent l’avenir de l’intelligence artificielle. Il s’agit des sociétés américaines Amazon, Apple, Facebook, Google, IBM et Microsoft, ainsi que les sociétés chinoises Baidu, Alibaba et Tencent³; elles visent à commercialiser les produits auprès des masses. Elles possèdent aussi les fonds et l’ambition nécessaires pour créer les écosystèmes voulus afin de rendre véritablement possibles les diverses applications de l’industrie de l’IA. Faisant preuve de lucidité, les auteurs d’un rapport des services de recherche du Congrès sur l’industrie de l’IA ont souligné qu’il était inhabituel de voir une technologie revêtant une importance aussi stratégique être mise au point et commercialisée par un nombre relativement petit d’entreprises⁴. Les É.-U. ont sans doute l’avantage en ce sens que les plus grandes entreprises sont américaines. En dehors de ce pays, toutefois, les sociétés chinoises gagnent du terrain et elles possèdent beaucoup de données pour stimuler l’innovation liée à l’IA.

L’industrie de l’IA – Les données

Un système intelligent doit avoir accès à une grande quantité de données pertinentes pour alimenter et améliorer ses algorithmes. Ce besoin est essentiel pour comprendre comment l’industrie de l’IA se rapporte à la défense. Dans le marché civil de l’IA, les personnes cèdent leurs données aux grandes entreprises en échange de services gratuits reçus par l’entremise de leur ordinateur personnel ou d’applications installées sur leurs appareils mobiles; ces services visent à améliorer leur qualité de vie (songeons, par exemple, aux services de navigation ou de traduction). Dans le domaine de la défense, toutefois, l’ennemi ne fournira pas ses renseignements essentiels afin d’alimenter un système intelligent dont le but est de neutraliser ses forces armées. L’accès aux données est vital, et les fournisseurs de réseaux et de services IDO misent sur son potentiel pour le secteur civil et aussi, probablement, pour le secteur de la défense.

Le géant chinois Huawei, un fournisseur de services de télécommunications, de téléphone et d’accès IDO, a muni notamment le Royaume-Uni (R.-U.), l’Espagne et l’Allemagne de la technologie sur laquelle sont axés la plupart de leurs réseaux fédérateurs 4G. Des statistiques internes montrent que 63 p. 100 des recettes mondiales de l’entreprise proviennent de la vente d’équipement pour les réseaux de télécommunications – la technologie dite opérationnelle – tandis que les ventes de téléphones cellulaires de Huawei en Europe rivalisent de près avec celles d’Apple⁵. Huawei est résolue à faire adopter par l’Europe sa technologie de la 5^e génération (5G) pour les réseaux de télécommunications; ce sera la prochaine génération de l’interconnectivité IDO. Cette technologie 5G d’une applicabilité plus rapide et plus puissante constitue le « lien manquant » pour intégrer pleinement des produits intelligents perturbateurs à notre vie quotidienne, par exemple des véhicules autonomes. En d’autres termes, Huawei pourrait être à même de brancher l’Europe à sa prochaine génération de réseaux et de dispositifs d’échange de données et de s’établir ainsi comme le principal élément habilitant de l’IA. Les É.-U. sont grandement préoccupés par le partage éventuel de données entre le secteur privé et le secteur de la défense. C’est pourquoi le secrétaire d’État des É.-U. a menacé les pays européens de cesser de partager les renseignements militaires américains avec eux s’ils décident de continuer à mettre en place l’infrastructure des télécommunications de Huawei⁶.

L’industrie de l’IA – Les alliés

Au cours des deux dernières années, le gouvernement américain a poursuivi en matière d’économie une stratégie protectionniste agressive contre des alliés de longue date. Il est même allé jusqu’à laisser entendre, par exemple, que les voitures BMW représentaient une menace pour la sécurité nationale des États-Unis⁷. Il a aussi déclaré que les pays où des troupes américaines sont basées devraient payer le coût de la présence de ces dernières chez eux et ajouter à cela une prime de 50 p. 100 pour bénéficier du privilège d’accueillir des Américains sur leur territoire. Ce même gouvernement a également formulé l’idée qu’il conviendrait de réintégrer la Russie dans le G7⁸. Inutile de dire que ces changements déconcertants dans la politique étrangère américaine risquent d’influer négativement sur le processus décisionnel d’alliés de longue date. Avant l’apport de ces récents changements, les É.-U. pouvaient compter indiscutablement sur l’appui de leurs alliés, mais l’érosion des relations commerciales et des relations de défense risque de miner certains des éléments clés garantissant l’intégrité de l’alliance. Les Européens sont en train de décider de l’avenir de leur fournisseur de réseaux. Le R.-U. aurait, semble-t-il, trouvé un moyen de faire en sorte qu’il n’y ait aucun moyen « détourné » de partager les données avec la Chine par l’entremise du réseau de Huawei. D’autres pays, convoitant eux aussi le marché commercial chinois éventuel, pourraient s’intéresser à cette autre vision consistant à nouer des liens économiques avec les É.-U., tout en rejetant leurs avertissements. Pour souligner la gravité de cette situation, l’Allemagne a annoncé, le 19 mars 2019, qu’elle n’exclurait pas les géants chinois Huawei et ZTE de la course et qu’elle leur permettrait de soumissionner pour la mise sur pied de son futur réseau 5G⁹. La Thaïlande, un allié des États-Unis en Asie, a annoncé son intention de faire de même en lançant une technologie 5G expérimentale actionnée par Huawei en février 2019¹⁰.

L’industrie privée de l’IA dépend des données, et il en va de même de l’IA du secteur militaire. Une alliance solide garantirait l’harmonisation des technologies réseau entre les partenaires pour stimuler la prochaine génération de cette évolution industrielle et la production des données nécessaires pour ce faire. Le ton acerbe adopté récemment par le gouvernement américain envers des partenaires de longue date dans les domaines du commerce et de la défense a amené les observateurs à remettre en question la position des É.-U. au sujet de l’importance et de la validité des alliances établies dans le passé. Cette nouvelle stratégie favorise peut-être à l’heure actuelle le secteur secondaire américain, mais elle risque grandement de nuire à la multiplication des ramifications des réseaux dont l’industrie de l’IA a besoin pour assurer la défense des alliés des É.-U. Comme de solides partenaires commerciaux se font rarement la guerre, nous ne pouvons qu’espérer que la relation commerciale privilégiée dont les É.-U. se sont servis pour accroître leur présence à l’échelle mondiale depuis la Seconde Guerre mondiale demeurera forte à mesure que nous avancerons dans l’ère de l’IA.

L’industrie de l’IA dans le secteur de la défense et les défis qui se posent à elle

L’industrie de l’IA dans le secteur de la défense – La stratégie militaire

La troisième stratégie de compensation des É.-U. est décrite par le secrétaire adjoint à la Défense comme englobant « les systèmes d’apprentissage autonomes, le processus décisionnel fondé sur la collaboration entre l’être humain et la machine, les armes autonomes assistées et les projectiles à haute vitesse¹¹ » [TCO]. Les quatre composantes de cette stratégie reposent sur l’intégration des technologies misant sur les données qui sont essentielles aux affaires militaires. Dans l’esprit de cette stratégie, les analystes de la défense estiment que l’utilisation novatrice de l’IA pour la défense accélérera le processus décisionnel, ce qui, dans un environnement plus cinétique, accroît la rapidité de la boucle OODA (Observation, Orientation, Décision, Exécution¹²). Cette augmentation de la vitesse a en fait été rendue nécessaire par l’évolution des armes de l’adversaire^13,14. Le recours à l’IA dans le domaine de la défense n’est pas nouveau. Des drones ont été employés pour la surveillance et des soldats-robots pour le combat, et l’analyse de l’imagerie est déjà intégrée dans nos appareils militaires. Depuis 2017, les véhicules et les bâtiments ciblés en Iraq et en Syrie sont repérés 80 p. 100 du temps par des systèmes intelligents¹⁵. À mesure que les ennemis amélioreront leur compréhension des systèmes intelligents, ils adopteront invariablement des tactiques de déception sur le terrain pour faire échec aux systèmes intelligents fondés sur l’imagerie. La coopération avec les pays étrangers et leurs capacités en matière d’IA pourrait sans doute accélérer le perfectionnement continu des ensembles de données nécessaires pour analyser les capacités de l’ennemi, et aider à en prévoir tout mouvement éventuel. Or, si les alliés combinent leurs analyses, en se fondant sur une multiplication des capacités grâce à divers systèmes intelligents, une solide alliance des pays participants permettra de régler ce problème complexe¹⁶. Par conséquent, l’opposé est vrai pour un pays isolé, tel que la Chine ou la Russie, qui n’aurait pas accès à un vaste réseau de données partagées. Cette « double incitation » explique pourquoi il faut encourager une fructueuse coopération entre les alliés relativement à l’IA. Un solide réseau allié alimentant un écosystème mondial intelligent de surveillance en temps réel pourrait assurer aux É.-U. une formidable présence mondiale dans le domaine de l’IA.

L’industrie de l’IA dans le secteur de la défense – Des logiciels et un matériel informatique axés sur l’IA

Dans le contexte de la troisième stratégie de compensation, des simulations de combats aériens faites à titre d’essai en 2015 ont montré qu’un as pilote avait été vaincu par un système intelligent. [Ce fut peut-être un incident isolé – La rédaction] L’évaluation de la situation de combat s’est faite 250 fois plus vite que le processus de réflexion humain¹⁷. Des progrès récents accomplis dans la formulation du concept de « l’ailier loyal », selon lequel des drones coordonnés par un système intelligent voleraient aux côtés de chasseurs avec pilote, portent à croire à un avenir très probable pour cette technologie. Le coût exorbitant des programmes d’acquisition d’avions F-22 et F-35, par exemple, pourrait par ailleurs rendre nécessaires des réductions des coûts et entraîner plus vite un plus grand recours aux capacités intelligentes. Si les É.-U. ont l’intention de combattre au sein d’une coalition, ils auraient avantage à prendre les devants afin de garantir une intégration alliée plus poussée des efforts de développement dans ce domaine. L’élaboration de la doctrine ultérieure nécessaire pour soutenir cette nouvelle structure des forces au combat devrait elle aussi être coordonnée par l’intermédiaire de l’Organisation du Traité de l’Atlantique Nord (OTAN). Une telle coordination solide des capacités intelligentes futures dans le contexte des combats aériens ne peut qu’apporter une stabilité à l’industrie de l’IA en matière de défense, en particulier en ce qui concerne les États-Unis.

Comme les applications de l’IA sont principalement mises au point par le secteur privé pour la commercialisation de masse et que, par conséquent, elles visent à améliorer la qualité de vie, leur emploi dans les armes autonomes constitue un phénomène relativement nouveau. Des mouvements sociaux ont contesté le développement de l’IA à des fins militaires. Les employés d’entreprises recourant à l’IA à des fins commerciales – Google, par exemple – se sont opposés à tout partenariat entre leur employeur et le département de la Défense américain en raison de préoccupations d’ordre éthique¹⁸. Même au sein de ce Département, il existe une résistance à l’intégration de technologies intelligentes dans des systèmes d’armes et des processus militaires existants¹⁹. Faisant face à un problème semblable dans son pays, le premier ministre français, Édouard Philippe, a commandé une étude qui a conclu qu’il était encore plus urgent de nouer des alliances, car les composantes nécessaires pour mettre au point des armes ne sont désormais plus fabriquées par le complexe militaro-industriel²⁰. Autrement dit, il a donné à entendre que la technologie de l’IA pourrait permettre de construire des armes autonomes qui contourneraient fondamentalement les International Traffic in Arms Regulations (ITAR) des É.-U. Donnant suite à la conclusion de cette étude, le gouvernement français a mis sur pied la Commission interministérielle pour l’étude des exportations de matériels de guerre en la chargeant d’étudier cette question. La Commission comprend des représentants des secteurs de la défense, des affaires étrangères, du développement international, de l’économie et des finances, et elle rend compte au Secrétariat général pour la défense et la sécurité nationale. La création de cette nouvelle entité gouvernementale constitue un solide point de départ pour gérer la nouvelle réalité du commerce, du transfert et de l’utilisation des armes intelligentes secrètes. En adoptant un esprit de coopération avec les entités étrangères de ce genre, le gouvernement américain pourrait renforcer le contrôle exercé sur la militarisation et la distribution du matériel intelligent partout dans le monde et optimiser ainsi les ressources limitées dont les États-Unis disposeraient, le moment venu, pour examiner cette question.

Aperçu de l’industrie de l’IA sur le rôle du gouvernement et les politiques

L’industrie de l’IA dans le secteur de la défense – L’éthique

Un système de défense autonome intelligent pourrait être décrit comme une plateforme amorale capable de prendre des mesures morales. Pour demeurer moralement acceptable dans le contexte de la défense, l’industrie de l’IA devrait respecter les principes des Nations Unies, ce qui est perçu comme étant un critère limitatif dans le rapport adressé au Congrès des États-Unis. Ces principes suggèrent aussi que les défaillances de l’IA se multiplieront dans les environnements complexes et qu’elles risqueront rapidement de transformer une opération fructueuse en un désastre²¹. Au cours d’opérations au Moyen-Orient, les forces américaines ont lancé des missiles Patriot qui ont détruit un avion Tornado britannique et un chasseur F-18 américain. Voilà deux exemples d’accidents technologiques désastreux dus à des logiciels intelligents²². Il n’est donc pas surprenant que de nombreux États aient réclamé un traité qui interdirait les systèmes d’armes totalement autonomes pour des considérations d’ordre éthique, tandis que d’autres ont demandé l’adoption de règlements ou de déclarations politiques officielles qui pourraient assujettir tôt ou tard à des pressions les ambitions américaines au chapitre de l’autonomie en matière de défense²³. Il y a moins d’un an, la Chambre des lords britannique a produit un rapport sur l’IA et ses conséquences pour le Royaume-Uni. Les auteurs du rapport ont mis en lumière les différentes définitions des armes autonomes intelligentes et ils ont même comparé la leur à celles d’autres pays, dont le Vatican (annexe A). Le gouvernement britannique a rédigé un code des principes primordiaux devant régir l’IA pour établir clairement sa position sur l’emploi de l’IA. Le cinquième principe de ce code précise que « la capacité autonome de blesser, de tuer ou de tromper des êtres humains ne doit jamais être laissée exclusivement à l’intelligence artificielle²⁴ » [TCO]. Les É.-U. ont participé aux discussions internationales du Groupe d’experts sur les systèmes d’armes létaux autonomes (SALA), aux termes de la Convention de l’ONU sur certaines armes classiques (CCAC), mais aucune résolution définitive n’a été adoptée. Cela pourrait constituer pour les É.-U. une occasion unique de prendre la tête du monde en se faisant les champions de ce noble effort, auquel ne pourraient s’opposer que les pays ennemis nourrissant de mauvaises intentions.

Le président de la France, Emmanuel Macron, a abordé le manque de contrôle exercé sur l’IA et les armes en en faisant un impératif de l’État. Il a déclaré que le rôle de l’État doit être réaffirmé à l’égard de l’IA et que les forces du marché à elles seules ne s’avèrent pas suffisantes pour garantir une véritable indépendance politique²⁵. Après cette intervention, la Commission européenne (la plus haute instance dirigeante de l’Union européenne [UE]) a mis sur pied le Groupe d’experts de haut niveau sur l’IA (GEHN-IA²⁶). Ce groupe comprend des représentants de l’industrie (SAP, Airbus), des milieux universitaires et du gouvernement et il manifeste la volonté de l’UE de fournir et de coordonner les efforts visant à perfectionner l’IA d’une façon cohésive pour tous les pays s’intéressant à ses divers domaines d’applicabilité éventuels.

L’approche multicouche de l’Europe à l’égard de la promotion de l’éthique relative à l’IA illustre l’existence d’un désir commun et cohérent d’améliorer l’IA et ses utilisations pour le plus grand bien de tous. Une solide coopération avec de tels groupes de travail pourrait indéniablement contribuer à harmoniser les positions alliées entre elles et à créer une synergie dans l’emploi et le développement de l’IA qui pourrait profiter à l’industrie américaine de l’IA. Le partage des réseaux et des techniciens spécialisés nécessaires pour créer et maintenir un écosystème allié et sûr de l’IA constitue un exemple éloquent des fruits qu’une telle coopération peut produire.

L’industrie de l’IA dans le secteur de la défense – La perspective gouvernementale

Le Canada a récemment accueilli le premier techno-diplomate du monde en la personne de Casper Klynge, fonctionnaire du Danemark, qui venait ici afin de discuter de la façon dont le pays allait se protéger en préparation de la prochaine élection fédérale. M. Klynge voit son rôle comme celui d’un protecteur de la démocratie contre l’utilisation malveillante de l’IA. Son travail est notamment motivé par le souci d’empêcher un autre scandale semblable à celui de la Cambridge Analytica. Cette entreprise britannique avait exploité les données d’utilisateurs de Facebook pour alimenter un système intelligent capable de prédire et d’influencer le comportement des électeurs américains pendant la campagne présidentielle de 2016. L’influence présumée des cyberinterventions russes dans le contexte de la même campagne ajoute un degré d’inquiétude au sujet du manque de contrôle existant dans l’industrie de l’IA, ce qui porte à croire que le gouvernement des É.-U. doit mieux réglementer l’IA. Selon les recherches de M. Klynge, les données de plus de 500 millions de personnes ont été utilisées sans leur consentement au cours des 10 derniers mois seulement²⁷. Ce fait a soulevé de nombreuses questions sur le recours à l’industrie de l’IA aux fins de la défense. Dans un monde où l’IA est contrôlée par des entreprises privées, à qui incombe-t-il de réglementer et de garantir son utilisation judicieuse? Les Européens ont confié le dossier à leur gouvernement [l’UE], ce qui n’a pas été le cas aux É.-U. Si un pays étranger se sert de données et de l’IA contre une autre démocratie, cela constitue-t-il un problème intéressant la défense nationale? Les gouvernements alliés doivent s’unir pour garantir la coopération au nom de la démocratie et de la sécurité à l’échelle mondiale. Les É.-U. auraient avantage à adhérer à de tels groupes de travail, voire à les diriger, afin de mieux protéger les démocraties contre l’utilisation de l’IA à des fins hostiles pour des applications ou dans des domaines encore inconnus ou non maîtrisés par le département de la Défense.

L’industrie de l’IA dans le secteur de la défense – La concurrence entre les grandes puissances

La Chine n’a pas laissé grand-chose entraver la marche qu’elle poursuit pour devenir le « chef de file mondial dans le domaine de l’IA » [TCO] d’ici 2030. Sa principale entreprise dans le secteur de l’IA, appelée Baidu (l’équivalent de Google), a créé, presque un an avant Microsoft, un logiciel intelligent capable de l’emporter sur l’être humain au chapitre de la reconnaissance du langage. En 2016 et 2017, une « jeune » entreprise chinoise a remporté le premier prix lors d’un concours international de reconnaissance visuelle. Au printemps de 2017, une université chinoise ayant des liens avec les forces armées a démontré, au cours d’un spectacle aérien, les capacités d’un essaim de 1 000 drones habilité par l’IA²⁸. Il est clair que la Chine accomplit d’importants progrès quant à l’utilisation de l’IA aux fins de la défense et qu’elle a les moyens de faire vigoureusement concurrence aux É.-U. sur ce plan. Cependant, sa technologie sert en grande partie à surveiller la population chinoise et à faire respecter l’autorité du Parti communiste.

Les É.-U. sont devenus le chef de file incontesté du monde libre en poursuivant la réalisation de leurs idéaux démocratiques. Ils auraient avantage à utiliser ce leadership dans le domaine de l’IA pour solidifier leurs acquis moraux, leur éthique et leur autorité mondiale tout au long de cette révolution industrielle. Le discours populiste agressif du gouvernement actuel risque cependant de réduire l’influence américaine. La dynamique actuelle porte à croire que les entreprises telles que Google et Amazon pourraient être de meilleurs ambassadeurs des É.-U. dans le domaine de l’IA, et pourtant elles demeurent des entités commerciales mondiales cotées en bourse. À cet égard, le général Dunford, qui était alors président de l’Instance collégiale des chefs d’état-major, a récemment souligné que le nouveau centre de l’IA établi par Google en Chine pourrait équivaloir à un transfert de technologie dont le gouvernement de ce pays pourrait tôt ou tard profiter²⁹. Le gouvernement des É.-U. cultive depuis toujours une solide relation industrielle avec l’OTAN en matière de défense, par l’intermédiaire du « Groupe des cinq » et d’autres alliances avec des pays de diverses régions du monde. Ces alliances solides et durables sont d’une utilité inestimable dans le domaine de l’IA en évolution, et il conviendrait, pour déterminer l’avenir de l’IA dans l’industrie de la défense, d’en profiter au lieu d’en contester la valeur.

Conclusion

L’industrie de l’IA continue d’évoluer sans être véritablement réglementée. Presque tous les pays sont engagés dans la course à la maîtrise de l’IA. Les É.-U. ont pris une avance considérable en ce qui concerne l’application civile commerciale de l’IA par l’intermédiaire de leurs entreprises mondiales, mais ils se situent sans doute au même niveau que d’autres pays, tels que la Chine, pour ce qui est des applications militaires. L’IA puise sa force dans l’utilisation et l’analyse fructueuses de grandes quantités de données validées qu’à peu près tout le monde produit chaque jour en se servant de l’Internet des objets. La Chine « cogne à la porte de l’Europe » et à celle du reste du monde en leur proposant la technologie des réseaux de demain pour alimenter l’IDO. En même temps, elle offre un vaste marché aux pays en difficulté sur le plan économique.

Les É.-U. ont déjà établi de solides alliances économiques et militaires avec la plupart des pays convoités par la Chine. Ils auraient donc fortement avantage à coopérer avec leurs alliés de longue date afin de mettre au point une technologie de l’IA commune et respectueuse de l’éthique et intensifier leurs efforts pour accroître l’applicabilité de l’IA dans le secteur de la défense. De multiples occasions s’offrent aux É.-U. de prendre la tête dans le domaine, mais le discours hostile de ce pays à l’endroit de ses alliés traditionnels risque de réduire ces occasions et, par conséquent, de nuire aux alliances, ce qui pourrait en fin de compte compromettre les chances de succès de l’industrie de l’IA de demain et ses liens avec le secteur de la défense.

Autriche Les systèmes d’armes autonomes (SAA) sont des armes qui, par opposition aux dispositifs traditionnels inertes, peuvent fonctionner en l’absence partielle ou totale d’interventions humaines.

France Le sigle « SALA » (système d’arme létal autonome) désigne un dispositif n’étant aucunement assujetti à la supervision humaine; cela signifie qu’il n’existe absolument aucun lien (communication ou contrôle) entre le système et la chaîne de commandement militaire. La plateforme d’une telle arme pourrait se déplacer, s’adapter à son environnement terrestre, maritime ou aérien et larguer l’effecteur létal (balle, missile, bombe, etc.) sans aucune intervention ou validation humaines.

Saint-Siège Par « système d’arme autonome », on désigne un système d’arme à même de repérer, de choisir et d’engager un objectif sans supervision humaine.

Italie Les SALA sont des systèmes qui prennent des décisions de façon autonome en fonction de leurs propres règles et « apprentissages »; ils peuvent s’adapter aux changements d’environnement indépendamment ou sans programmation préalable, choisir leurs objectifs et « décider » quand ils recourront à la force. Ils échappent à tout contrôle humain.

Pays-Bas Arme qui, sans intervention humaine, choisit et attaque des objectifs possédant certaines caractéristiques prédéfinies, après que des êtres humains ont décidé de la déployer. Il est entendu qu’une fois déclenchée, l’attaque ne peut pas être arrêtée par une intervention humaine.

Norvège Les SALA sont des systèmes d’armes pouvant exécuter des tâches régies par le droit humanitaire international, en remplaçant partiellement ou totalement l’être humain lorsqu’il s’agit de recourir à la force, notamment dans le cycle de choix des objectifs.

États-Unis Système d’arme qui, une fois lancé, peut choisir et engager des objectifs sans aucune autre intervention humaine.

[Traduction] Written evidence by Professeur Noel Sharkey (AIC0248)

Annexe A : Définition des systèmes d’armes autonomes létaux employés par divers pays³⁰

 

Notes

1. Committee on Artificial Intelligence, Chambre des lords, Rapport de session, 2017-19, AI in the UK: Ready, willing and able?, 16 avril 2018, publié par l’Authority of the House of Lords, R.U., p. 119.
2. « Les États-Unis annoncent 9 projets de recherche inusités en IA | ICI.Radio-Canada.Ca. », n.d. Document consulté le 13 mars 2019, à l’adresse suivante : https://ici.radio-canada.ca/nouvelle/1157375/intelligence-artificielle-darpa-algorithmes-futur-ai-next?depuisRecherche=true.
3. « Deus Ex Artificial Intelligence? », n.d. 1A (blogue). Document consulté le 7 mars 2019, à l’adresse suivante : https://the1a.org/shows/2019-03-05/deus-ex-SC-intelligence.
4. Daniel S. Hoadley et Nathan J. Lucas, 2018, « Artificial Intelligence and National Security », Congressional Research Service, p. 97.
5. Laurens Cerulus, « China’s Ghost in Europe’s Telecom Machine », POLITICO, 11 décembre 2017. Voir le site https://www.politico.eu/article/huawei-china-ghost-in-europe-telecom-machine/.
6. Derek B. Johnson, 22 février 2019, « Pompeo: Huawei Deals Threatens Info-Sharing with Allies », FCW, Document consulté le 18 mars 2019, à l’adresse suivante : https://fcw.com/articles/2019/02/22/pompeo-huawei-info-sharing.aspx.
7. « Merkel Rejects Trump Claims That German Cars Are Threat », Patrick Donahue, Bloomberg.com, 16 février 2019, à l’adresse suivante : https://www.bloomberg.com/news/articles/2019-02-16/merkel-pushes-back-on-u-s-claims-that-german-cars-are-a-threat.
8. Nick Wadhams et Jennifer Jacobs, Bloomberg, « Trump Wants Allies to Pay Cost of U.S. Troops Abroad “ Plus 50% ” ». Document consulté le 13 mars 2019, à l’adresse suivante : http://time.com/5548013/trump-allies-pay-cost-plus-50-troops/.
9. , Daphné Rousseau, 2019, « L’Allemagne avance avec Huawei sur sa 5G malgré les menaces américaines », La Presse, 19 mars 2019. Voir le site https://www.lapresse.ca/techno/mobilite/201903/19/01-5218763-lallemagne-avance-avec-huawei-sur-sa-5g-malgre-les-menaces-americaines.php.
10. « US Allies Defy Trump Administration’s Plea to Ban Huawei from 5G Networks », n.d. Document consulté le 23 mars 2019, à l’adresse suivante : https://ca.finance.yahoo.com/news/us-allies-defy-trump-administration-062548817.html.
11. Kathleen H. Hicks et coll., « Assessing the Third Offset Strategy ». Document consulté le 17 mars 2019, à l’adresse suivante : https://www.csis.org/analysis/assessing-third-offset-strategy.
12. Jean-Christophe Noël et Institut français des relations internationales, 2018, Intelligence artificielle : vers une nouvelle révolution militaire? Voir le site https://www.ifri.org/sites/default/files/atoms/files/fs84_noel.pdf., p. 36.
13. Naveen Joshi, 2018, « 4 Ways Global Defense Forces Use AI », Forbes. Document consulté le 9 mars 2019 à l’adresse suivante : https://www.forbes.com/sites/cognitiveworld/2018/08/26/4-ways-the-global-defense-forces-are-using-ai/.

14. « Artificial Intelligence in Defense | KPMG Global », 2018, KPMG, 17 octobre 2018. Voir le site https://home.kpmg/xx/en/home/insights/2018/04/artificial-intelligence-in-defense.html.
15. Noël, p. 34.
16. Ibid., p. 52.
17. Ibid., p. 38.
18. https://www.facebook.com/drewharwell, n.d., « Google to Drop Pentagon AI Contract after Employee Objections to the “ Business of War ” », Washington Post. Article consulté le 7 mars 2019, à l’adresse suivante : https://www.washingtonpost.com/news/the-switch/wp/2018/06/01/google-to-drop-pentagon-ai-contract-after-employees-called-it-the-business-of-war/.
19. « Artificial Intelligence at the Service of the Citizen — AI White Paper Draft Documentation », Gouvernement de l’Italie. Document consulté le 27 février 2019, https://ai-white-paper.readthedocs.io/en/latest/index.html, p. 2.
20. Cédric Villani et coll., 2018, « For a Meaningful Artificial Intelligence − Towards a French and European Strategy », mission parlementaire française, p. 127.
21. Hoadley et Lucas, p. 7.
22. Personnel et organismes, 2006, « Coroner Condemns ‘glaring Failures’ That Led to US Missile Killing RAF Crew », The Guardian, 31 octobre 2006, cahier des nouvelles du RoyaumeUni. Voir le site https://www.theguardian.com/uk/2006/oct/31/military.iraq.
23. Hoadley et Lucas, p. 16.
24. Committee on Artificial Intelligence, Chambre des lords, 2018, p. 120.
25. Villani et coll., p. 6.
26. Commission européenne, 2018, « Groupe d’experts de haut niveau sur l’intelligence artificielle », Marché unique numérique – Commission européenne. Document consulté le 14 juin 2018, à l’adresse suivante : https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence.
27. ICI.Radio-Canada.ca, Zone internationale, 2019, « Le premier « techno-diplomate » du monde en visite au Canada ». Document consulté le 20 mars 2019, à l’adresse suivante : https://ici.radio-canada.ca/nouvelle/1154879/danemark-technologie-diplomatie-gafa-donnees-ambassade.
28. Hoadley et Lucas, p. 23.
29. La Presse. 2019, « Le chef d’état-major américain déplore le retard de son pays dans la 5G », 21 mars 2019. Voir le site https://www.lapresse.ca/techno/mobilite/201903/21/01-5219133-le-chef-detat-major-americain-deplore-le-retard-de-son-pays-dans-la-5g.php.
30. Committee on Artificial Intelligence, Chambre des lords, 2018, p. 104+.