Esta semana en el podcast Lock and Code…
Tenemos que hablar de robots asesinos. No, no me refiero a Terminator, ni a algún robot de Boston Dynamics descontrolado . Tenemos que hablar, en cambio, de una realidad tecnológica que ya está aquí.
A finales de febrero, la empresa desarrolladora de inteligencia artificial Anthropic hizo una declaración quizás sorprendente para aquellos que solo están familiarizados con su útil herramienta de chatbot Claude: la compañía no permitiría que el gobierno utilizara su tecnología para matar personas sin los controles de seguridad adecuados.
Espera… ¿qué?
A pesar de la reputación de Anthropic entre la mayoría de la gente como creadora de un asistente colaborativo con IA para programar, escribir y buscar información, la compañía ya había implementado Claude en todo el gobierno estadounidense para necesidades militares estratégicas. Según Anthropic, el Departamento de Defensa de EE. UU. y otras agencias de seguridad nacional utilizaron Claude para aplicaciones de misión crítica, como análisis de inteligencia, modelado y simulación, planificación operativa, operaciones cibernéticas y más.
Pero entre bastidores, el gobierno estadounidense solicitaba aún más aplicaciones, y englobaba todas sus peticiones bajo un término amplio y vago: "Cualquier uso lícito". Anthropic se indignó ante la petición del gobierno, definiendo dos casos de uso que simplemente estaban fuera de los límites: la vigilancia masiva de los estadounidenses y las armas totalmente autónomas, o dicho de otro modo, el suministro de energía a robots asesinos independientes.
Tal como dijo Anthropic en su comunicado :
Los sistemas de IA de vanguardia simplemente no son lo suficientemente fiables para alimentar armas totalmente autónomas. No proporcionaremos a sabiendas un producto que ponga en riesgo a los militares y civiles estadounidenses. Nos hemos ofrecido a colaborar directamente con el Departamento de Guerra en I+D para mejorar la fiabilidad de estos sistemas, pero no han aceptado nuestra oferta. Además, sin la supervisión adecuada, no se puede confiar en que las armas totalmente autónomas ejerzan el juicio crítico que nuestras tropas profesionales y altamente entrenadas demuestran a diario. Deben desplegarse con las salvaguardias adecuadas, que actualmente no existen.
Es cierto que hoy en día puede que no existan las barreras de seguridad, pero ¿acaso pueden existir alguna vez?
Hoy, en el podcast Lock and Code con el presentador David Ruiz, hablamos con Peter Asaro, presidente de la Campaña para Detener los Robots Asesinos, sobre qué es realmente un robot asesino, cuán cerca estamos de verlos desplegados y cuáles son algunas de las consecuencias ocultas de implementar tecnología de toma de decisiones increíblemente rápida en un entorno donde la desescalada requiere tiempo, espacio y juicio humano.
“Esta proliferación masiva de objetivos simplemente acelera la velocidad y la intensidad de la destrucción en la guerra, y no necesariamente proporciona ningún tipo de ventaja militar o política.”
Sintoniza hoy para escuchar la conversación completa.
Notas y créditos del programa:
Música de introducción: “Spellbound” de Kevin MacLeod ( incompetech.com )
Licenciado bajo Creative Commons: Licencia de Atribución 4.0
http://creativecommons.org/licenses/by/4.0/
Música de cierre: “Good God” de Wowa (unminus.com)
Escuchen... Malwarebytes No solo hablamos de ciberseguridad, sino que la proporcionamos.
Protéjase de los ataques en línea que amenazan su identidad, sus archivos, su sistema y su bienestar financiero con nuestra oferta exclusiva de Malwarebytes Premium Security para oyentes de Lock and Code .
