La IA en el ciberespacio Security: Riesgos de la IA
La inteligencia artificial (IA) lleva años mejorando las herramientas de ciberseguridad. Por ejemplo, las herramientas de aprendizaje automático han hecho más potentes los programas de seguridad de redes, antimalware y detección de fraudes, al encontrar anomalías mucho más rápido que los seres humanos. Sin embargo, la IA también ha supuesto un riesgo para la ciberseguridad. La fuerza bruta, la denegación de servicio (DoS) y los ataques de ingeniería social son sólo algunos ejemplos de amenazas que utilizan la IA.
Se espera que los riesgos de la inteligencia artificial para la ciberseguridad aumenten rápidamente con herramientas de IA cada vez más baratas y accesibles. Por ejemplo, se puede engañar a ChatGPT para que escriba un código malicioso o una carta de Elon Musk solicitando donaciones,
También se pueden utilizar varias herramientas de deepfake para crear pistas de audio o clips de vídeo falsos sorprendentemente convincentes con muy pocos datos de entrenamiento. También hay una creciente preocupación por la privacidad, ya que cada vez más usuarios se sienten cómodos compartiendo información sensible con la IA.
Lea esta guía detallada para obtener más información:
- Definición de IA.
- Riesgos de la inteligencia artificial.
- IA en ciberseguridad.
- IA y riesgos para la privacidad.
Qué es la IA: Inteligencia Artificial
La IA, o Inteligencia Artificial, se refiere al desarrollo de sistemas informáticos capaces de realizar tareas y tomar decisiones que normalmente requieren inteligencia humana. Implica crear algoritmos y modelos que permitan a las máquinas aprender de los datos, reconocer patrones y adaptarse a nueva información o situaciones.
En términos sencillos, la IA es como enseñar a los ordenadores a pensar y aprender como los humanos. Permite a las máquinas procesar y analizar grandes cantidades de datos, identificar patrones o anomalías y hacer predicciones o tomar decisiones basadas en esa información. La IA puede utilizarse en diversas aplicaciones, como el reconocimiento de imágenes y del habla, el procesamiento del lenguaje natural, la robótica y la ciberseguridad, por citar algunas.
En general, la IA pretende imitar la inteligencia humana para resolver problemas complejos, automatizar tareas y mejorar la eficacia y precisión en distintos campos.
Aprendizaje automático y aprendizaje profundo
El aprendizaje automático (AM) es un subconjunto de la IA de uso común. Los algoritmos y técnicas de ML permiten a los sistemas aprender de los datos y tomar decisiones sin estar explícitamente programados.
El aprendizaje profundo es un subconjunto del aprendizaje automático que aprovecha modelos computacionales artificiales inspirados en el cerebro humano, denominados redes neuronales, para tareas más avanzadas. ChatGPT es un ejemplo de IA que utiliza el aprendizaje profundo para comprender y responder a instrucciones generadas por humanos.
IA estrecha e inteligencia artificial general
Todos los tipos de IA se consideran IA estrecha. Su alcance es limitado y no son sintientes. Ejemplos de este tipo de IA son los asistentes de voz, los chatbots, los sistemas de reconocimiento de imágenes, los vehículos autoconducidos y los modelos de mantenimiento.
La inteligencia general artificial (AGI) es un concepto hipotético que se refiere a una IA autoconsciente capaz de igualar o incluso superar la inteligencia humana. Mientras que algunos expertos estiman que la AGI está a varios años o incluso décadas de distancia, otros creen que es imposible.
¿Qué es la IA generativa?
La IA generativa se refiere a un subconjunto de técnicas de inteligencia artificial que implican la creación y generación de nuevos contenidos, como imágenes, texto, audio o incluso vídeos. Consiste en entrenar modelos para comprender patrones en datos existentes y luego utilizar ese conocimiento para generar contenidos nuevos y originales que se parezcan a los datos de entrenamiento.
Un enfoque popular de la IA generativa es el uso de redes generativas adversariales (GAN). Las GAN constan de dos redes neuronales: una red generadora y una red discriminadora. La red generadora crea nuevos contenidos, mientras que la red discriminadora evalúa y distingue entre los contenidos generados y los contenidos reales. Las dos redes trabajan de forma competitiva: la generadora intenta producir contenidos que la discriminadora no pueda distinguir de los datos reales.
La IA generativa tiene aplicaciones en diversos ámbitos. Por ejemplo:
-
Generación de imágenes: La IA generativa puede utilizarse para generar imágenes realistas, como la creación de rostros fotorrealistas, paisajes o incluso objetos totalmente nuevos que no existen en el mundo real.
-
Generación de texto: Los modelos generativos pueden entrenarse para generar texto coherente y contextualmente relevante, que puede utilizarse para tareas como chatbots, creación de contenidos o traducción de idiomas.
-
Generación de música y audio: La IA generativa puede crear nuevas composiciones musicales o generar sonidos y voces realistas.
Aunque la IA generativa tiene muchas aplicaciones positivas, también preocupa su posible uso indebido, como la generación de contenidos falsos o vídeos deepfake que pueden utilizarse para engañar o manipular a las personas. Las consideraciones éticas y el uso responsable de la IA generativa son factores importantes para hacer frente a estos riesgos.
En el ámbito de la ciberseguridad, la IA generativa puede ser tanto una herramienta como un reto. Puede utilizarse para generar datos sintéticos realistas para entrenar modelos y mejorar las medidas de seguridad, pero también puede plantear riesgos cuando se utiliza con fines maliciosos, como generar correos electrónicos de phishing convincentes o ataques de ingeniería social deepfake. Esto pone de relieve la importancia de desarrollar defensas y mecanismos de detección robustos para mitigar las amenazas potenciales.
Cuáles son los riesgos de la IA en la ciberseguridad
Como cualquier tecnología, la IA puede utilizarse con fines buenos o maliciosos. Los actores de amenazas pueden utilizar algunas de las mismas herramientas de IA diseñadas para ayudar a la humanidad para cometer fraudes, estafas y otros ciberdelitos.
Exploremos algunos riesgos de la IA en la ciberseguridad:
1: Optimización de los ciberataques
Los expertos afirman que los atacantes pueden utilizar la IA generativa y los grandes modelos lingüísticos para escalar los ataques a un nivel de velocidad y complejidad nunca visto. Pueden utilizar la IA generativa para encontrar nuevas formas de socavar la complejidad de las nubes y aprovechar las tensiones geopolíticas para realizar ataques avanzados. También pueden optimizar sus técnicas de ataque de ransomware y phishing puliéndolas con IA generativa.
2: Malware automatizado
Una IA como ChatGPT es excelente para hacer números con precisión. Según Oded Netzer, profesor de la Columbia Business School, ChatGPT ya puede "escribir código bastante bien".
Los expertos afirman que, en un futuro próximo, podría ayudar a los desarrolladores de software, programadores informáticos y codificadores o desplazar una mayor parte de su trabajo.
Aunque programas como ChatGPT cuentan con algunas protecciones para evitar que los usuarios creen código malicioso, los expertos pueden utilizar técnicas ingeniosas para saltárselas y crear malware. Por ejemplo, un investigador fue capaz de encontrar una laguna y crear un complejo ejecutable de robo de datos casi indetectable. El ejecutable tenía la sofisticación del malware creado por un agente de amenazas patrocinado por el Estado*.
Esto podría ser la punta del iceberg. Las futuras herramientas basadas en IA podrían permitir a desarrolladores con conocimientos básicos de programación crear malware automatizado, como un bot malicioso avanzado.¿Qué son los bots maliciosos? Un bot malicioso puede robar datos, infectar redes y atacar sistemas sin apenas intervención humana.
* https://www.foxnews.com/tech/ai-created-malware-sends-shockwaves-cyber seguridad-mundo
3: Seguridad física
A medida que más sistemas como los vehículos autónomos, los equipos de fabricación y construcción y los sistemas médicos utilizan la IA, pueden aumentar los riesgos de la inteligencia artificial para la seguridad física. Por ejemplo, un coche autónomo basado en IA que sufra un fallo de ciberseguridad podría poner en peligro la seguridad física de sus pasajeros. Del mismo modo, el conjunto de datos de las herramientas de mantenimiento de una obra podría ser manipulado por un atacante para crear condiciones peligrosas.
Riesgos para la privacidad de la IA
En lo que fue un fallo embarazoso para el CEO de OpenAI, Sam Altman,ChatGPT filtró fragmentos del historial de chat de otros usuarios. Aunque el fallo se solucionó, existen otros posibles riesgos para la privacidad debido a la gran cantidad de datos que la IA procesa. Por ejemplo, un hacker que vulnere un sistema de IA podría acceder a distintos tipos de información sensible.
Un sistema de IA diseñado para el marketing, la publicidad, la elaboración de perfiles o la vigilancia también podría amenazar la privacidad de formas que George Orwell no podría imaginar. En algunos países, la tecnología de perfiles de IA ya está ayudando a los Estados a invadir la privacidad de los usuarios.
Robo de modelos de IA
Existen algunos riesgos de robo de modelos de IA a través de ataques a la red, técnicas de ingeniería social y explotación de vulnerabilidades por parte de actores de amenazas como agentes patrocinados por el Estado, amenazas internas como espías corporativos y hackers informáticos corrientes. Los modelos robados pueden manipularse y modificarse para ayudar a los atacantes en diferentes actividades maliciosas, lo que agrava los riesgos de la inteligencia artificial para la sociedad.
Manipulación y envenenamiento de datos
Aunque la IA es una herramienta poderosa, puede ser vulnerable a la manipulación de datos. Al fin y al cabo, la IA depende de sus datos de entrenamiento. Si los datos se modifican o envenenan, una herramienta de IA puede producir resultados inesperados o incluso maliciosos.
En teoría, un atacante podría envenenar un conjunto de datos de entrenamiento con datos maliciosos para cambiar los resultados del modelo. Un atacante también podría iniciar una forma más sutil de manipulación denominada inyección de sesgo. Estos ataques pueden ser especialmente dañinos en sectores como la sanidad, la automoción y el transporte.
Suplantación de identidad
No hay que mirar más allá del cine para ver cómo las herramientas de inteligencia artificial ayudan a los cineastas a engañar al público. Por ejemplo, en el documental Roadrunner, la controvertida voz del célebre chef Anthony Bourdain fue creada con audio generado por inteligencia artificial y engañó fácilmente a los espectadores. Del mismo modo, el veterano actor Harrison Ford envejeció varias décadas gracias a la inteligencia artificial en Indiana Jones y el dial del destino.
Un atacante no necesita un gran presupuesto de Hollywood para realizar trucos similares. Con el material adecuado, cualquiera puede crear imágenes falsas utilizando aplicaciones gratuitas. También se pueden utilizar herramientas gratuitas basadas en IA para crear voces falsas increíblemente realistas a partir de segundos de audio.
Por eso no es de extrañar que la inteligencia artificial seutilice ahora para estafas de secuestros virtuales. Jennifer DeStefano vivió la peor pesadilla de un padre cuando su hija la llamó, gritando y sollozando. Su voz fue sustituida por la de un hombre que amenazaba con drogarla y abusar de ella a menos que pagara un rescate de un millón de dólares.
¿El truco? Los expertos especulan con que la voz fue generada por IA. Las fuerzas del orden creen que, además de los planes de secuestro virtual, la IA puede ayudar a los delincuentes con otros tipos de fraude de suplantación de identidad en el futuro, incluidas las estafas a los abuelos.
La IA generativa también puede producir texto con la voz de líderes de opinión. Los ciberdelincuentes pueden utilizar este texto para realizar diferentes tipos de estafas, como regalos fraudulentos, oportunidades de inversión y donaciones en medios como el correo electrónico o plataformas de redes sociales como Twitter.
Ataques más sofisticados
Como ya se ha mencionado, los actores de amenazas pueden utilizar la IA para crear malware avanzado, suplantar la identidad de otras personas para realizar estafas y envenenar los datos de entrenamiento de la IA. Pueden utilizar la IA para automatizar ataques de phishing, malware y robo de credenciales. La IA también puede ayudar a los ataques a eludir los sistemas de seguridad, como el software de reconocimiento de voz, en ataques denominados de adversario.
Daños a la reputación
Una organización que utilice IA puede sufrir daños en su reputación si la tecnología funciona mal o sufre una brecha de ciberseguridad que provoque la pérdida de datos. Estas organizaciones pueden enfrentarse a multas, sanciones civiles y deterioro de las relaciones con los clientes.
Cómo protegerse de los riesgos de la IA
Aunque la IA es una herramienta poderosa, puede presentar algunos riesgos de ciberseguridad. Tanto las personas como las organizaciones deben adoptar un enfoque holístico y proactivo para utilizar la tecnología de forma segura.
He aquí algunos consejos que pueden ayudarle a mitigar los riesgos de la IA:
1: Audite los sistemas de IA que utilice
Compruebe la reputación actual de cualquier sistema de IA que utilice para evitar problemas de seguridad y privacidad. Las organizaciones deben auditar sus sistemas periódicamente para tapar las vulnerabilidades y reducir los riesgos de la IA. La auditoría puede realizarse con la ayuda de expertos en ciberseguridad e inteligencia artificial que puedan completar pruebas de penetración, evaluaciones de vulnerabilidad y revisiones de sistemas.
2: Limitar la información personal compartida a través de la automatización
Cada vez más personas comparten información confidencial con la inteligencia artificial sin comprender los riesgos que ésta entraña para la privacidad. Por ejemplo, se descubrió que el personal de importantes organizaciones introducía datos confidenciales de la empresa en ChatGPT. Incluso un médico introdujo el nombre y el estado de salud de su paciente en el chatbot para redactar una carta, sin darse cuenta del riesgo de seguridad de ChatGPT.
Tales acciones plantean riesgos de seguridad e infringen normativas de privacidad como la HIPAA. Aunque los modelos lingüísticos de IA no puedan revelar información, las conversaciones se graban para el control de calidad y son accesibles a los equipos de mantenimiento del sistema. Por eso es una buena práctica evitar compartir cualquier información personal con la IA.
3: Seguridad de los datos
Como ya se ha dicho, la IA depende de sus datos de entrenamiento para ofrecer buenos resultados. Si los datos se modifican o envenenan, la IA puede ofrecer resultados inesperados y peligrosos. Para proteger la IA del envenenamiento de datos, las organizaciones deben invertir en tecnología punta de cifrado, control de acceso y copias de seguridad. Las redes deben protegerse con cortafuegos, sistemas de detección de intrusos y contraseñas sofisticadas.
4: Optimizar el software
Siga todas las mejores prácticas de mantenimiento de software para protegerse del riesgo de la IA. Esto incluye actualizar su software y marcos de trabajo de IA, sistemas operativos y apps con los últimos parches y actualizaciones para reducir el riesgo de explotación y ataques de malware. Proteja sus sistemas con tecnología antivirus de última generación para detener las amenazas maliciosas avanzadas. Además, invierta en medidas de seguridad de redes y aplicaciones para reforzar sus defensas.
5: Formación adversaria
El entrenamiento de adversarios es una medida de seguridad específica de la IA que la ayuda a responder a los ataques. Este método de aprendizaje automático mejora la resistencia de los modelos de IA exponiéndolos a diferentes escenarios, datos y técnicas.
6: Formación del personal
Los riesgos de la IA son bastante amplios. Consulte con expertos en ciberseguridad e IA para formar a sus empleados en la gestión de riesgos de la IA. Por ejemplo, deben aprender a comprobar los correos electrónicos que puedan ser ataques de phishing diseñados por IA. Del mismo modo, deben evitar abrir software no solicitado que podría ser malware creado por inteligencia artificial.
7: Gestión de la vulnerabilidad
Las organizaciones pueden invertir en la gestión de vulnerabilidades de la IA para mitigar el riesgo de filtraciones y violaciones de datos. La gestión de vulnerabilidades es un proceso integral que implica identificar, analizar y clasificar las vulnerabilidades y reducir la superficie de ataque relacionada con las características únicas de los sistemas de IA.
8: Respuesta a incidentes de IA
A pesar de contar con las mejores medidas de seguridad, su organización puede sufrir un ataque de ciberseguridad relacionado con la IA a medida que aumentan los riesgos de la inteligencia artificial. Debe contar con un plan de respuesta a incidentes claramente definido que abarque la contención, la investigación y la reparación para recuperarse de un suceso de este tipo.
La otra cara de la moneda: cómo la IA puede beneficiar a la ciberseguridad
Industrias de distintos tamaños y sectores utilizan la IA para mejorar la ciberseguridad. Por ejemplo, todo tipo de organizaciones de todo el mundo utilizan la IA para autenticar identidades, desde bancos hasta gobiernos. Y los sectores financiero e inmobiliario utilizan la IA para encontrar anomalías y reducir el riesgo de fraude.
Más información sobre las ventajas de la IA para la ciberseguridad:
1: Detección de ciberamenazas
El malware sofisticado puede eludir la tecnología de ciberseguridad estándar utilizando diferentes técnicas de evasión, incluida la modificación del código y la estructura. Sin embargo, el software antivirus avanzado puede utilizar IA y ML para encontrar anomalías en la estructura general, la lógica de programación y los datos de una amenaza potencial.
Las herramientas de detección de amenazas basadas en IA pueden proteger a las organizaciones cazando estas amenazas emergentes y mejorando las capacidades de alerta y respuesta. Por otra parte, el software de seguridad de endpoints basado en IA puede proteger los portátiles, smartphones y servidores de una organización.
2: Modelos predictivos
Los profesionales de la ciberseguridad pueden pasar de una postura reactiva a una proactiva utilizando la IA generativa. Por ejemplo, pueden utilizar la IA generativa para crear modelos predictivos que identifiquen nuevas amenazas y mitiguen los riesgos.
Estos modelos predictivos darán lugar a:
- Detección de amenazas más rápida
- Ahorro de tiempo
- Reducción de costes
- Mejor respuesta a los incidentes
- Protegerse mejor de los riesgos
3: Detección de phishing
Los correos electrónicos de phishing constituyen un importante vector de amenazas. Con poco riesgo, los actores de amenazas pueden utilizar expediciones de phishing para robar información sensible y dinero. Además, cada vez es más difícil diferenciar los correos electrónicos de phishing de los reales.
La IA puede beneficiar a la ciberseguridad mejorando la protección contra el phishing. Los filtros de correo electrónico que utilizan IA pueden analizar texto para marcar correos electrónicos con patrones sospechosos y bloquear distintos tipos de spam.
4: Identificación de bots
Los bots pueden dañar o hacer caer redes y sitios web, afectando negativamente a la seguridad, la productividad y los ingresos de una organización. Los bots también pueden hacerse con el control de cuentas con credenciales robadas y ayudar a los ciberdelincuentes a cometer fraudes y estafas.
El software que aprovecha los modelos basados en el aprendizaje automático puede analizar el tráfico y los datos de la red para identificar patrones de bots y ayudar a los expertos en ciberseguridad a anularlos. Los profesionales de la red también pueden utilizar la IA para desarrollar CAPTCHA más seguros contra bots.
5: Proteger las redes
Los atacantes pueden filtrar datos o infectar sistemas con ransomware tras penetrar en una red. Detectar estas amenazas en una fase temprana es fundamental. La detección de anomalías basada en IA puede escanear el tráfico de red y los registros del sistema en busca de accesos no autorizados, código inusual y otros patrones sospechosos para prevenir las brechas. Además, la IA puede ayudar a segmentar las redes mediante el análisis de requisitos y características.
6: Respuesta a incidentes
La IA puede potenciar la detección y gestión de amenazas y la respuesta ante incidentes. Puede trabajar las 24 horas del día para responder a las amenazas y tomar medidas de emergencia, incluso cuando su equipo no está conectado. Además, puede reducir los tiempos de respuesta a incidentes para minimizar los daños de un ataque.
7: Mitigar las amenazas internas
Las amenazas internas deben tomarse en serio porque pueden costar a una organización ingresos, secretos comerciales, datos confidenciales y mucho más. Existen dos tipos de amenazas internas: maliciosas y no intencionadas. La IA puede ayudar a detener ambos tipos de amenazas internas identificando los comportamientos de riesgo de los usuarios y bloqueando la salida de información confidencial de las redes de una organización.
8: Reforzar el control de acceso
Muchas herramientas de control de acceso utilizan la IA para mejorar la seguridad. Pueden bloquear inicios de sesión desde direcciones IP sospechosas, marcar eventos sospechosos y pedir a los usuarios con contraseñas débiles que cambien sus credenciales de inicio de sesión y se actualicen a la autenticación multifactor.
La IA también ayuda a autenticar a los usuarios. Por ejemplo, puede aprovechar la biometría, la información contextual y los datos de comportamiento del usuario para verificar con precisión la identidad de los usuarios autorizados y mitigar el riesgo de uso indebido.
9: Identificar los falsos positivos
La gestión de los falsos positivos puede resultar agotadora para los equipos informáticos. El mero volumen de falsos positivos puede provocar problemas de salud mental. También pueden obligar a los equipos a pasar por alto amenazas legítimas. Sin embargo, el volumen de falsos positivos puede reducirse con herramientas de ciberseguridad que utilicen inteligencia artificial para mejorar la precisión de la detección de amenazas. Estas herramientas también pueden programarse para gestionar automáticamente las amenazas de baja probabilidad que consumen el tiempo y los recursos de un equipo de seguridad.
10: Eficacia y costes del personal informático
Muchas pequeñas y medianas empresas no pueden permitirse invertir en un gran equipo interno de ciberseguridad para gestionar las amenazas cada vez más sofisticadas las 24 horas del día. Sin embargo, pueden invertir en tecnología de ciberseguridad basada en IA que funcione 24/7 para ofrecer una supervisión continua, mejorar la eficiencia y reducir costes. Esta tecnología también puede adaptarse al crecimiento de la empresa de forma rentable.
Además, la IA mejora la eficiencia del personal porque no cansa. Ofrece la misma calidad de servicio a cualquier hora del día, lo que reduce el riesgo de error humano. La IA también puede gestionar muchos más datos que un equipo de seguridad humano.