¿Qué estarías dispuesto a sacrificar por una tecnología capaz de hacer casi cualquier cosa? Para muchos, la respuesta es clara: todo aquello en lo que creían poder confiar.
En pocos años, las herramientas de inteligencia artificial (IA) han brindado a las personas acceso ilimitado a una escritura más sencilla, una generación de imágenes más rápida, una codificación más ágil y respuestas, consejos e información casi instantáneos: ventajas que valoran y desean. Pero las mismas herramientas que pueden mejorar un perfil de citas o reinventar una fotografía antigua también pueden manipular el mundo digital en general, y la gente lo está notando.
Según una nueva investigación de Malwarebytes El 88% de las personas afirmó que cada vez es más difícil distinguir el contenido en línea que es genuinamente humano o real, y el 84% indicó que las "pruebas de video convincentes" ya no se sienten como una prueba suficiente. Además, el 85% afirmó que puede ser difícil diferenciar las estafas de las reales, un aumento significativo con respecto al 66% que opinó lo mismo el año pasado .
Estas son las primeras señales del mundo de la IA, plagado de sitios web falsos, productos falsos, vídeos falsos, imágenes falsas, voces falsas e incluso personas falsas, amenaza con engullir la web.
El último informe de Malwarebytes El informe “ Face value: How AI is reshaping trust, identity, and scams” (Valor aparente: Cómo la IA está transformando la confianza, la identidad y las estafas ) expone el coste oculto de la IA para el público: un exceso de fraude que está desmantelando la confianza en la realidad y entre las personas.
El daño se manifiesta en momentos importantes y en pequeños detalles, desde el padre estadounidense que dijo haber recibido un mensaje de voz con la misma voz que la de su hijo, en el que decía que estaba en problemas y necesitaba dinero para los honorarios legales, hasta los dos encuestados sin ninguna relación entre sí que fueron engañados por el mismo vídeo generado por IA de conejos saltando en un trampolín, pasando por la persona preocupada porque "mi abuelo me mostró basura generada por IA y él pensó que era real".
Para esta investigación, Malwarebytes Se encuestó a 1500 adultos mayores de 18 años en Estados Unidos, Reino Unido, Austria, Alemania y Suiza sobre sus usos, opiniones y preocupaciones respecto a la IA. La muestra se dividió equitativamente por género, con una amplia variedad de edades, regiones geográficas y grupos raciales, y se ponderó para ofrecer una perspectiva equilibrada.
Las conclusiones completas se pueden consultar en el informe completo:
Estas son algunas de las principales conclusiones y hallazgos:
- El 88% dijo que cada vez es más difícil distinguir qué contenido en línea es genuinamente humano o real.
- El 84% afirmó que las pruebas de vídeo convincentes ya no se sienten como prueba.
- El 85% de las personas afirmó que es difícil distinguir una estafa de algo real (frente al 66% del año pasado).
- El 50% ha experimentado algún tipo de fraude o estafa relacionada con la IA, como ser engañados por fotos de productos generadas por IA o recibir un mensaje fraudulento altamente personalizado.
- El 19% ha sufrido específicamente algún tipo de daño a la identidad provocado por la IA, incluido el 10% que ha visto cómo alguien utilizaba la IA para generar contenido sexualmente explícito sobre ellos sin su consentimiento.
- El 81% teme que alguien robe la imagen de su familia, pero solo el 13% ha creado una palabra clave familiar para protegerse contra ello.
- El 67% se preocupa por la clonación de voz, pero solo el 19% ha desactivado las grabaciones de correo de voz para evitarlo.
- El 45% opina que está bien usar la IA para tareas emocionales personales (como escribir votos matrimoniales o un elogio fúnebre).
- El 34% dice que está bien usar la IA para ayudar a crear o mejorar un perfil de citas.
- Uno de cada tres usuarios declarados de IA que utilizan la tecnología a diario afirmó que está bien generar imágenes explícitas de alguien sin su consentimiento.
La derrota sería la lección equivocada que deberíamos sacar de todo esto. Es cierto que ahora internet necesita ayuda, pero hay muchos lugares seguros donde buscarla.
Mientras Malwarebytes Si bien trabajamos para brindar nuevas herramientas, nos gustaría recordarles tanto a quienes están ansiosos como a quienes están entusiasmados con la IA la primera regla de internet: Recuerden al ser humano. Las voces, los cuerpos, las decisiones y la capacidad de decisión de las personas les pertenecen a ellas y solo a ellas.
Ante cualquier vídeo, producto, sitio web o imagen falsa, es importante saber que hay ayuda disponible. Nadie tiene por qué navegar solo por el mundo virtual de internet. Ya sea mediante la detección de estafas , la protección de la identidad o simplemente estando informados, las personas tienen más opciones de las que creen.
