Cette semaine, dans le podcast Lock and Code…
Il faut parler de robots tueurs. Non, pas du Terminator, ni d'un robot de Boston Dynamics devenu incontrôlable . Il faut parler d'une réalité technologique qui est déjà bien présente.
Fin février, la société Anthropic, spécialisée dans le développement d'intelligence artificielle, a fait une déclaration qui pourrait surprendre ceux qui ne connaissent que son outil de chatbot Claude : l'entreprise n'autoriserait pas le gouvernement à utiliser sa technologie pour tuer des personnes sans contrôles de sécurité appropriés.
Attendez… quoi ?
Bien qu'Anthropic soit surtout connue du grand public pour avoir créé Claude, un assistant collaboratif basé sur l'IA pour la programmation, la rédaction et la recherche, la société avait déjà déployé cet assistant au sein du gouvernement américain pour des besoins militaires stratégiques. Selon Anthropic, Claude était utilisé par le département de la Défense américain et d'autres agences de sécurité nationale pour des « applications critiques, telles que l'analyse du renseignement, la modélisation et la simulation, la planification opérationnelle, les cyberopérations, etc. »
Mais en coulisses, le gouvernement américain demandait encore plus d'applications, et il enveloppait toutes ses demandes sous un terme large et vague : « Toute utilisation légale ». Anthropic s'est indigné de la demande du gouvernement, définissant deux cas d'utilisation qui étaient tout simplement interdits : la surveillance de masse des Américains et les armes entièrement autonomes — ou, en d'autres termes, l'alimentation de robots tueurs indépendants.
Comme l'a indiqué Anthropic dans son communiqué :
« Les systèmes d'IA de Frontier ne sont tout simplement pas assez fiables pour alimenter des armes entièrement autonomes. Nous ne fournirons jamais sciemment un produit qui mette en danger les militaires et les civils américains. Nous avons proposé de collaborer directement avec le Département de la Guerre sur la recherche et le développement afin d'améliorer la fiabilité de ces systèmes, mais cette offre a été refusée. De plus, sans un contrôle adéquat, on ne peut pas compter sur des armes entièrement autonomes pour faire preuve du même discernement que nos troupes professionnelles et hautement qualifiées au quotidien. Leur déploiement doit être encadré par des garde-fous appropriés, qui n'existent pas aujourd'hui. »
Certes, ces garde-fous n'existent peut-être pas aujourd'hui, mais existent-ils – peuvent-ils exister – tout court ?
Aujourd'hui, dans le podcast Lock and Code animé par David Ruiz, nous discutons avec Peter Asaro, président de la Campagne pour stopper les robots tueurs, de ce qu'est réellement un robot tueur, de la proximité de leur déploiement et des conséquences cachées du déploiement d'une technologie de prise de décision ultra-rapide dans un contexte où la désescalade exige du temps, de l'espace et un jugement humain.
« Cette prolifération massive de cibles ne fait qu'accélérer le rythme et l'intensité des destructions liées à la guerre, sans pour autant procurer un quelconque avantage militaire ou politique. »
Écoutez l'intégralité de la conversation dès aujourd'hui.
Notes et crédits de l'émission :
Musique d'introduction : « Spellbound » de Kevin MacLeod ( incompetech.com )
Sous licence Creative Commons : Attribution 4.0
http://creativecommons.org/licenses/by/4.0/
Musique de fin : « Good God » par Wowa (unminus.com)
Écoutez bien — Malwarebytes Nous ne nous contentons pas de parler de cybersécurité, nous la fournissons.
Protégez-vous des attaques en ligne qui menacent votre identité, vos fichiers, votre système et votre bien-être financier grâce à notre offre exclusive pour Malwarebytes Premium Security pour les écouteurs Lock and Code .
