Cette semaine dans le podcast Lock and Code…
Il faut qu'on parle des robots tueurs. Non, pas de Terminator, ni d'un robot de Boston Dynamics qui se déchaîne. Il faut plutôt parler d'une réalité technologique qui est déjà bien bien là.
Fin février, le développeur d'intelligence artificielle Anthropic a fait une déclaration qui a peut-être surpris ceux qui ne connaissent que son utilitaire de chatbot Claude : l'entreprise refuserait de permettre au gouvernement d'utiliser sa technologie pour tuer des personnes sans contrôles de sécurité adéquats.
Attends… quoi ?
Bien qu'Anthropic soit surtout connue du grand public comme le créateur d'un assistant collaboratif basé sur l'IA destiné au codage, à la rédaction et à la recherche, l'entreprise avait déjà déployé Claude au sein du gouvernement américain pour répondre à des besoins militaires stratégiques. Selon Anthropic, Claude a été utilisé par le département américain de la Défense et d'autres agences de sécurité nationale pour « des applications critiques, telles que l'analyse du renseignement, la modélisation et la simulation, la planification opérationnelle, les cyberopérations, et bien plus encore ».
Mais en coulisses, le gouvernement américain exigeait encore davantage d’applications, et il avait regroupé toutes ses demandes sous une expression large et vague : « toute utilisation légale ». Anthropic s’est insurgé contre cette demande du gouvernement, définissant deux cas d’utilisation qui étaient tout simplement hors de question : la surveillance de masse des Américains et les armes entièrement autonomes — ou, en d’autres termes, la mise en service de robots tueurs indépendants.
Comme l'a indiqué Anthropic dans son communiqué:
« Les systèmes d’IA de pointe ne sont tout simplement pas assez fiables pour équiper des armes entièrement autonomes. Nous ne fournirons pas sciemment un produit qui mettrait en danger les combattants et les civils américains. Nous avons proposé de collaborer directement avec le ministère de la Défense sur la R&D afin d’améliorer la fiabilité de ces systèmes, mais cette offre n’a pas été acceptée. De plus, sans une surveillance adéquate, on ne peut pas compter sur des armes entièrement autonomes pour faire preuve du jugement critique dont font preuve chaque jour nos troupes professionnelles hautement qualifiées. Elles doivent être déployées avec des garde-fous appropriés, qui n’existent pas aujourd’hui. »
Certes, ces garde-fous n'existent peut-être pas aujourd'hui, mais existent-ils vraiment ? Peuvent-ils exister ?
Aujourd’hui, dans le podcast « Lock and Code » animé par David Ruiz, nous nous entretenons avec Peter Asaro, président de la Campagne pour l’interdiction des robots tueurs, afin de comprendre ce qu’est réellement un robot tueur, dans quelle mesure nous sommes proches de leur déploiement, et quelles sont certaines des conséquences cachées de la mise en œuvre d’une technologie capable de prendre des décisions à une vitesse fulgurante dans un contexte où la désescalade nécessite du temps, de l’espace et un jugement humain.
« Cette prolifération massive de cibles ne fait qu'accélérer la vitesse et l'intensité de la destruction en temps de guerre, sans pour autant apporter nécessairement un quelconque avantage militaire ou politique. »
Connectez-vous dès aujourd'hui pour écouter l'intégralité de la conversation.
Afficher les notes et les crédits :
Musique d'introduction : « Spellbound » par Kevin MacLeod (incompetech.com)
Sous licence Creative Commons : Attribution 4.0
http://creativecommons.org/licenses/by/4.0/
Musique de fin : « Good God » par Wowa (unminus.com)
Écoutez bien :Malwarebytes parler de cybersécurité, nous la fournissons.
Protégez-vous contre les attaques en ligne qui menacent votre identité, vos fichiers, votre système et votre santé financière grâce à notreoffre exclusive Malwarebytes Premium réservée aux auditeurs de Lock and Code.
