Armes létales autonomes : faut-il interdire les robots tueurs ?
Aux Nations Unies, quelques pays viennent de bloquer la mise en place d'un traité d'interdiction des Systèmes d'armes létaux autonomes, ou SALA. Les robots tueurs peuvent donc poursuivre leur développement avant d'arriver sur le champ de bataille. La communauté scientifique est inquiète et les ONG multiplient les appels pour imposer ce traité. Et si la solution consistait à donner une morale aux robots ?
Après une semaine de réunion au bureau des Nations Unies à Genève (Suisse), la mise en place d'un nouveau traité international interdisant l'usage d'armes létale autonomes a été bloquée par une minorité de pays (Australie, Corée du Sud, États-Unis, Israël et Russie). Au final, sur ce sujet, seules une vingtaine de recommandations, non contraignantes, ont été adoptées à l'issue de la réunion, dans la nuit de vendredi à samedi derniers. Elle s'est surtout consacrée à reconduire le mandat actuel du groupe d'experts gouvernementaux.
L'Allemagne et la France ont simplement proposé de maintenir le principe de contrôle humain sur l'usage de la force, alors que le président Emmanuel Macron s'était déjà « catégoriquement opposé »aux armes létales entièrement autonomes.
Mais seul un traité peut protéger l'humanité contre ces robots tueurs, et celui-ci est loin d'être sur les rails. D'ailleurs, l'Australie, la Corée du Sud, les États-Unis, Israël et la Russie s'opposent à toute proposition de traité pour le moment.
Faut-il un code éthique chez les robots tueurs ?
Les SALA, ou robots tueurs, sont déjà expérimentés depuis des années. Futura évoque régulièrement les prototypes de Boston Dynamics. La firme développe depuis plus de vingt ans des robots dédiés à la guerre. Des robots qui se déclinent en machines bipèdes, quadrupèdes aux capacités impressionnantes. Qu'il s'agisse de ces robots particuliers, de drones autonomes ou de véhicules armés sans occupants, l'arrivée d'un « Terminator » programmé pour tuer de façon autonome et froide des cibles prédéfinies n'est désormais plus du domaine de la science-fiction. Ce genre de robot de combat pourrait débarquer sur les champs de bataille d'ici quelques années aux côtés des troupes, ou à leur place. Et surtout, l'absence de réglementation en la matière va fatalement engendrer une course aux armements une fois que les premiers modèles de robots de combat seront véritablement opérationnels.
Pour l'ONG Human Rights Watch, à l'origine de la campagne Stop Killer Robots, l'arrivée de ces armes est dramatique. Selon elle, des dictateurs ou des terroristes pourraient en disposer assez facilement et à bon prix pour contrôler ou exterminer des populations. Ils pourraient également ordonner aux machines des assassinats ciblés. L'ONG n'est pas la seule à mobiliser les consciences sur ces robots tueurs. Le 18 juillet dernier, des ténors de l'univers du high-tech, dont Elon Musk, ont mis en garde les pays membres des Nations Unies contre ces armements. Les signataires craignent que leur utilisation dans les conflits vienne dépasser l'échelle de la compréhension humaine.
Ces réactions sont loin d'être les premières. Chaque année, depuis 2014, ce genre de message est adressé aux Nations Unies. En vain. Dès les prémices de ces évolutions techniques, des personnalités notoires des sciences, à commencer par Stephen Hawking, Max Tegmark, Stuart Russell ou Frank Wilczek, y ont exposé leurs craintes contre le potentiel danger de l’IA.
Si aucun accord ne peut les interdire, une des solutions pourrait consister à les humaniser, pour qu'elles se comportent de façon « morale » sur les champs de bataille. Il s'agirait de les doter d'un code de valeurs propre aux combattants. C'est d'ailleurs ce que préconise le lieutenant-colonel de l'armée française Brice Erbland dans son ouvrage Robots tueurs, aux éditions Armand Colin. Il montre ce que pourrait être un SALA doué d'une IA pouvant faire preuve de suffisamment de discernement pour se comporter comme des soldats. Autrement dit, ces robots autonomes de combat devraient intégrer une éthique artificielle. On ne parlerait alors plus de SALA, mais plutôt de SALMA (Systèmes d'armes létaux, moralement autonomes).
Cependant, pour que cela soit le cas, il faudrait que tous les États jouent le jeu. En attendant, ils restent majoritairement d'accord sur la nécessité de maintenir un contrôle humain sur les systèmes d'armes létaux autonomes. C'est pourquoi la grande majorité des 88 États membres souhaitent qu'un nouveau traité soit proposé en 2019.
Publier Le 5 septembre 2018
Source web par: futura-sciences
Les articles en relation
Spot, le robot chien de Boston Dynamics, danse aussi bien que nous !
Spot, le robot chien de Boston Dynamics, danse aussi bien que nous ! Dans cette énième vidéo, le robot quadrupède Spot de Boston Dynamics se montre sous un jour plus amusant. Une façon de rassurer l
Savoir plus...Liste de Géoparc mondiaux UNESCO trans-nationaux
Liste en anglais Last updated in 2016 pays nom des geoparcs adress Austria & Slovenia Karawanken / Karavanke UNESCO Global Geopark Hauptplat
Savoir plus...Qui sont les physiciens les plus célèbres ?
Qui sont les physiciens les plus célèbres ? Parce que ce sont des hommes et des femmes qui font la science, voici quelques-uns de celles et ceux qui ont marqué l'histoire de la physique. La liste n'est bi
Savoir plus...Friouato, la grotte de tous les silences
Friouato, la grotte de tous les silences Véritable cœur battant du tourisme dans la province de Taza, la grotte de Friouato est fermée aux touristes depuis plus de 2 ans après un accident mortel survenu dan
Savoir plus...Ouarzazate colloque Espace oasien : Pour la préservation du patrimoine matériel et immatériel
Ouarzazate colloque Espace oasien : Pour la préservation du patrimoine matériel et immatériel Un énième colloque autour de l’espace oasien. Va-t-on aboutir à une politique d’inter
Savoir plus...Le chat marsupial moucheté repart à la conquête de l'Australie
Le chat marsupial moucheté repart à la conquête de l'Australie [Image du jour] Apparenté au fameux tigre de Tasmanie (Thylacinus cynocephalus ou thylacine) éteint depuis les années 1930, l
Savoir plus...Environnement – Pays à risque climatique dans le monde : Le Maroc 124ème
Environnement – Pays à risque climatique dans le monde : Le Maroc 124ème Selon un rapport sur l’indice mondial des risques climatiques, qui a été dévoilé lors de la COP24 qui se t
Savoir plus...Les deux tiers de la faune sauvage ont disparu en moins de 50 ans (Géoparc Jbel Bani)
Les deux tiers de la faune sauvage ont disparu en moins de 50 ans (Géoparc Jbel Bani) PARIS | Le monde a perdu plus des deux tiers de ses populations d’animaux sauvages en moins de 50 ans, principalement à cause d
Savoir plus...Alerte sur la biodiversité : une espèce sur 8 est menacée d'extinction !
Alerte sur la biodiversité : une espèce sur 8 est menacée d'extinction ! On pourrait les qualifier de Giec de la biodiversité. Les scientifiques de la plateforme intergouvernementale sur la biodiversit
Savoir plus...Déchets plastiques: les produits d'une poignée de multinationales polluent la planète selon un rapport
Déchets plastiques: les produits d'une poignée de multinationales polluent la planète selon un rapport Des dizaines de milliers de déchets plastiques polluant la planète sont génér
Savoir plus...Début du sommet mondial sur le climat de San Francisco
Début du sommet mondial sur le climat de San Francisco Maires, gouverneurs, élus et patrons du monde entier se retrouvent mercredi à San Francisco pour le premier Sommet mondial pour l'action climatique, cens
Savoir plus...COP 23 : où en est l'accord de Paris ?
COP 23 : où en est l'accord de Paris ? À Bonn, en Allemagne, vient de s'ouvrir la « Conférence des parties » numéro 23, avec les États-Unis en vedette surréaliste, pr&eacu
Savoir plus...