Was würdest du für eine Technologie eintauschen, die fast alles kann? Für viele Menschen ist die Antwort klar: Alles, worauf sie bisher vertraut haben.
In nur wenigen Jahren haben Tools der künstlichen Intelligenz (KI) den Menschen uneingeschränkten Zugang zu vereinfachtem Schreiben, schnellerer Bilderzeugung, zügigerer Programmierung sowie nahezu sofortigen Antworten, Ratschlägen und Informationen verschafft – Vorteile, die sie schätzen und sich wünschen. Doch dieselben Tools, die ein Dating-Profil aufpeppen oder ein altes Foto neu gestalten können, sind auch in der Lage, die gesamte Online-Welt zu manipulieren, und die Menschen werden sich dessen bewusst.
Laut einer neuen Studie von Malwarebytes gaben 88 % der Befragten an, dass es immer schwieriger werde, zu erkennen, welche Online-Inhalte tatsächlich von Menschen stammen oder echt sind, wobei 84 % der Meinung waren, dass „überzeugende Videobeweise“ nicht mehr als Beweis gelten. Darüber hinaus gaben 85 % an, dass es schwierig sein könne, Betrugsversuche von echten Inhalten zu unterscheiden – ein deutlicher Anstieg gegenüber den 66 %, die dies im Vorjahr angaben.
Das sind die ersten Anzeichen der gefälschten Welt der KI. Voller gefälschter Websites, gefälschter Produkte, gefälschter Videos, gefälschter Bilder, gefälschter Stimmen und sogar gefälschter Menschen droht sie, das Internet zu verschlingen.
Der neueste Bericht von Malwarebytes mit dem Titel„Face value: Wie KI Vertrauen, Identität und Betrugsmaschen neu definiert“ deckt die versteckten Kosten der KI für die Öffentlichkeit auf: eine Zunahme von Betrugsfällen, die das Vertrauen in die Realität und ineinander untergräbt.
Die Schäden zeigen sich in großen wie in kleinen Momenten: von dem US-amerikanischen Elternteil, der berichtete, er habe „eine Voicemail erhalten, die genau wie die Stimme meines Sohnes klang und in der stand, er stecke in Schwierigkeiten und brauche Geld für Anwaltskosten“, über die beiden völlig unabhängigen Befragten, die sich von demselben KI-generierten Video von auf einem Trampolin hüpfenden Kaninchen täuschen ließen, bis hin zu der Person, die sich Sorgen machte, dass „mein Großvater mir KI-Müll zeigte und er dachte, es sei echt“.
Für diese Studie Malwarebytes 1.500 Erwachsene ab 18 Jahren in den USA, Großbritannien, Österreich, Deutschland und der Schweiz zu ihrer Nutzung, ihren Eindrücken und ihren Bedenken in Bezug auf KI. Die Stichprobe war geschlechtergleich verteilt und deckte verschiedene Altersgruppen, geografische Regionen und ethnische Gruppen ab; sie wurde gewichtet, um ein ausgewogenes Bild zu liefern.
Die vollständigen Ergebnisse finden Sie im vollständigen Bericht:
Hier sind einige der wichtigsten Erkenntnisse und Ergebnisse:
- 88 % gaben an, dass es immer schwieriger werde, zu erkennen, welche Online-Inhalte tatsächlich von Menschen stammen oder echt sind
- 84 % gaben an, dass überzeugende Videoaufnahmen für sie nicht mehr als Beweis gelten
- 85 % der Befragten gaben an, dass es schwierig sei, einen Betrugsversuch von einem echten Angebot zu unterscheiden (im Vergleich zu 66 % im Vorjahr)
- 50 % sind bereits Opfer einer Form von KI-Betrug oder -Scam geworden, beispielsweise indem sie durch KI-generierte Produktfotos in die Irre geführt wurden oder eine stark personalisierte Betrugsnachricht erhielten
- 19 % haben konkret eine Form von durch KI verursachter Identitätsverletzung erlebt, darunter 10 %, bei denen jemand ohne deren Zustimmung mithilfe von KI sexuell eindeutige Inhalte von ihnen erstellt hat
- 81 % befürchten, dass jemand das Bild ihrer Familie stehlen könnte, doch nur 13 % haben ein Familienkennwort festgelegt, um sich davor zu schützen
- 67 % machen sich Sorgen wegen Stimmklonen, doch nur 19 % haben ihre Voicemail-Aufzeichnung deaktiviert, um dies zu verhindern
- 45 % finden es in Ordnung, KI für persönliche, emotionale Aufgaben einzusetzen (wie das Verfassen von Eheversprechen oder einer Trauerrede)
- 34 % finden es in Ordnung, KI zur Erstellung oder Verbesserung eines Dating-Profils zu nutzen
- Jeder dritte, der angibt, KI täglich zu nutzen, sagte, es sei in Ordnung, explizite Bilder von jemandem ohne dessen Einwilligung zu erstellen
Eine Niederlage wäre die falsche Lehre, die man aus all dem ziehen könnte. Es stimmt zwar, dass man im Internet Unterstützung braucht, aber es gibt viele sichere Orte, an denen man Hilfe finden kann.
Während Malwarebytes , neue Tools bereitzustellen, möchten wir sowohl diejenigen, die Bedenken gegenüber KI haben, als auch ihre begeisterten Anhänger an die erste Regel des Internets erinnern: Denkt an den Menschen. Die Stimmen, Körper, Entscheidungen und Handlungsfähigkeit der Menschen gehören ihnen und nur ihnen allein.
Was gefälschte Videos, Produkte, Websites und Bilder angeht, sollten Sie wissen, dass es Hilfe gibt. Niemand muss sich allein im Internet zurechtfinden. Ob durchBetrugserkennung, Identitätsschutz oder einfach nur Aufklärung – die Menschen haben mehr Möglichkeiten, als ihnen vielleicht bewusst ist.
