Según informa The Wall Street Journal, crece la preocupación en los laboratorios de IA de que la competencia esté empujando a las empresas tecnológicas a apresurarse hacia modelos de autoaprendizaje que podrían escapar al control humano.
Jacob Coxon, investigador de IA que ha trabajado en Anthropic y OpenAI, dijo :
“Quienes desarrollan la IA creen firmemente que podría acabar con todos nosotros para finales de la década.”
Evan Hubinger, líder de ciencia de alineación de Anthropic, quien también trabajó en OpenAI, respondió en una publicación en X :
“Realmente creemos que la IA podría acabar con todos los humanos. Personalmente, creo que esto ocurrirá en más del 10% de los casos en la próxima década.”
Hubinger añadió:
“Lo que me preocupa es la superinteligencia que surge del auto-mejoramiento recursivo, que, como hemos dicho, está ocurriendo más rápido de lo que pensábamos.”
Esa cifra debe considerarse como la valoración personal de Hubinger. No es una predicción, un hecho comprobado ni una prueba de que los chatbots actuales vayan a volverse peligrosos por sí solos. Tampoco es algo que yo conozca lo suficiente como para respaldarlo o desestimarlo.
Los investigadores están estudiando activamente si los sistemas de alta capacidad podrían actuar de maneras no previstas , explotar vulnerabilidades o utilizarse para automatizar ciberataques.
Un informe de la BBC señala que Hubinger describió el riesgo de los modelos actuales como bajo. Sus preocupaciones se centran en posibles sistemas futuros con mucha mayor autonomía y capacidad.
Mientras las empresas y los gobiernos sopesan el ritmo de desarrollo de la IA, necesitamos salvaguardias sensatas, que incluyan pruebas independientes, límites a los usos autónomos de alto riesgo, transparencia por parte de los desarrolladores y rendición de cuentas cuando los sistemas de IA causen daños.
Estas medidas también deberían abordar los problemas que ya enfrentamos, ya que los ciberdelincuentes utilizan la IA para cometer fraudes, violaciones de la privacidad y otros delitos cibernéticos. Al igual que muchas tecnologías poderosas, la IA puede usarse como arma, especialmente cuando las medidas de seguridad no están a la altura de sus capacidades.
Las predicciones extremas pueden resultar emocionalmente impactantes, sobre todo cuando las hacen personas directamente involucradas en la tecnología. Pero la incertidumbre es un arma de doble filo: las advertencias serias merecen ser analizadas con detenimiento, no aceptadas sin cuestionarlas.
El mensaje práctico no es ni “ignorar la seguridad de la IA” ni “prepararse para un apocalipsis robótico”. Las empresas, los gobiernos y los investigadores deben colaborar para garantizar que las medidas de seguridad se adapten al rápido desarrollo.
La cooperación puede complementar la competencia y, en este caso, podría ser crucial.
Es posible que tu nombre, dirección y número de teléfono ya estén a la venta.
Las empresas de venta de datos recopilan y venden tus datos personales a cualquiera que esté dispuesto a pagar por ellos. Malwarebytes Personal Data Remover losPersonal Data Remover y elimina tu información, y luego se encarga de vigilar que todo siga así.
