Was würdest du für eine Technologie eintauschen, die fast alles kann? Für viele Menschen ist die Antwort klar: Alles, worauf sie bisher vertraut haben.
In nur wenigen Jahren haben Tools der künstlichen Intelligenz (KI) den Menschen uneingeschränkten Zugang zu vereinfachtem Schreiben, schnellerer Bilderzeugung, zügigerer Programmierung sowie nahezu sofortigen Antworten, Ratschlägen und Informationen verschafft – Vorteile, die sie schätzen und sich wünschen. Doch dieselben Tools, die ein Dating-Profil aufpeppen oder ein altes Foto neu gestalten können, sind auch in der Lage, die gesamte Online-Welt zu manipulieren, und die Menschen werden sich dessen bewusst.
Laut neuen Forschungsergebnissen von Malwarebytes 88 % der Befragten gaben an, es werde immer schwieriger zu erkennen, welche Online-Inhalte von echten Menschen stammen oder real sind. 84 % sagten, dass „überzeugende Videobeweise“ nicht mehr als Beweis gelten. Zudem gaben 85 % an, es sei schwierig, Betrug von echten Angeboten zu unterscheiden – ein deutlicher Anstieg gegenüber den 66 % im Vorjahr .
Das sind die ersten Anzeichen der gefälschten Welt der KI. Voller gefälschter Websites, gefälschter Produkte, gefälschter Videos, gefälschter Bilder, gefälschter Stimmen und sogar gefälschter Menschen droht sie, das Internet zu verschlingen.
Der neueste Bericht von Malwarebytes „ Face value: How AI is reshaping trust, identity, and scams “ enthüllt die versteckten Kosten der KI für die Öffentlichkeit: ein Übermaß an Betrug, das das Vertrauen in die Realität und ineinander zerstört.
Die Schäden zeigen sich in großen wie in kleinen Momenten: von dem US-amerikanischen Elternteil, der berichtete, er habe „eine Voicemail erhalten, die genau wie die Stimme meines Sohnes klang und in der stand, er stecke in Schwierigkeiten und brauche Geld für Anwaltskosten“, über die beiden völlig unabhängigen Befragten, die sich von demselben KI-generierten Video von auf einem Trampolin hüpfenden Kaninchen täuschen ließen, bis hin zu der Person, die sich Sorgen machte, dass „mein Großvater mir KI-Müll zeigte und er dachte, es sei echt“.
Für diese Forschungsarbeit Malwarebytes Eine Studie befragte 1.500 Erwachsene ab 18 Jahren in den USA, Großbritannien, Österreich, Deutschland und der Schweiz zu ihrer Nutzung, ihren Gefühlen und Bedenken bezüglich KI. Die Stichprobe war hinsichtlich Geschlecht, Alter, geografischer Region und ethnischer Zugehörigkeit gleichmäßig verteilt und wurde gewichtet, um ein ausgewogenes Bild zu gewährleisten.
Die vollständigen Ergebnisse finden Sie im vollständigen Bericht:
Hier sind einige der wichtigsten Erkenntnisse und Ergebnisse:
- 88 % gaben an, dass es immer schwieriger werde, zu erkennen, welche Online-Inhalte tatsächlich von Menschen stammen oder echt sind
- 84 % gaben an, dass überzeugende Videoaufnahmen für sie nicht mehr als Beweis gelten
- 85 % der Befragten gaben an, dass es schwierig sei, einen Betrugsversuch von einem echten Angebot zu unterscheiden (im Vergleich zu 66 % im Vorjahr)
- 50 % sind bereits Opfer einer Form von KI-Betrug oder -Scam geworden, beispielsweise indem sie durch KI-generierte Produktfotos in die Irre geführt wurden oder eine stark personalisierte Betrugsnachricht erhielten
- 19 % haben konkret eine Form von durch KI verursachter Identitätsverletzung erlebt, darunter 10 %, bei denen jemand ohne deren Zustimmung mithilfe von KI sexuell eindeutige Inhalte von ihnen erstellt hat
- 81 % befürchten, dass jemand das Bild ihrer Familie stehlen könnte, doch nur 13 % haben ein Familienkennwort festgelegt, um sich davor zu schützen
- 67 % machen sich Sorgen wegen Stimmklonen, doch nur 19 % haben ihre Voicemail-Aufzeichnung deaktiviert, um dies zu verhindern
- 45 % finden es in Ordnung, KI für persönliche, emotionale Aufgaben einzusetzen (wie das Verfassen von Eheversprechen oder einer Trauerrede)
- 34 % finden es in Ordnung, KI zur Erstellung oder Verbesserung eines Dating-Profils zu nutzen
- Jeder dritte, der angibt, KI täglich zu nutzen, sagte, es sei in Ordnung, explizite Bilder von jemandem ohne dessen Einwilligung zu erstellen
Eine Niederlage wäre die falsche Lehre, die man aus all dem ziehen könnte. Es stimmt zwar, dass man im Internet Unterstützung braucht, aber es gibt viele sichere Orte, an denen man Hilfe finden kann.
Während Malwarebytes Wir arbeiten daran, neue Werkzeuge bereitzustellen, und möchten sowohl die KI-Sorgen als auch die eifrigen Entwickler an die erste Regel des Internets erinnern: Vergesst den Menschen nicht. Die Stimmen, Körper, Entscheidungen und die Handlungsfähigkeit der Menschen gehören ihnen und nur ihnen.
Was gefälschte Videos, Produkte, Websites und Bilder angeht, sollten Sie wissen, dass es Hilfe gibt. Niemand muss sich allein im Internet zurechtfinden. Ob durchBetrugserkennung, Identitätsschutz oder einfach nur Aufklärung – die Menschen haben mehr Möglichkeiten, als ihnen vielleicht bewusst ist.
