Das Wall Street Journal berichtet , dass in KI-Laboren die Besorgnis wächst, dass der Wettbewerb die Technologieunternehmen dazu drängt, in Richtung selbstverbessernder Modelle zu rennen, die außer Kontrolle geraten könnten.
Jacob Coxon, ein KI-Forscher, der bei Anthropic und OpenAI gearbeitet hat, sagte :
„Diejenigen, die an der Entwicklung von KI arbeiten, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts auslöschen könnte.“
Evan Hubinger, Leiter der Abteilung für Ausrichtungswissenschaft bei Anthropic und ehemaliger Mitarbeiter von OpenAI, antwortete in einem Beitrag auf X :
„Wir glauben wirklich ernsthaft, dass KI die gesamte Menschheit auslöschen könnte! Ich persönlich denke, dass es innerhalb des nächsten Jahrzehnts über 10 % sein werden.“
Hubinger fügte hinzu:
„Was mir Sorgen bereitet, ist die Entstehung von Superintelligenz durch rekursive Selbstverbesserung, die, wie wir bereits erwähnt haben, schneller voranschreitet als wir dachten.“
Diese Zahl ist als Hubingers persönliche Einschätzung zu verstehen. Sie stellt weder eine Prognose noch eine Tatsache dar und ist auch kein Beweis dafür, dass heutige Chatbots bald von selbst gefährlich werden. Ich kenne mich damit auch nicht ausreichend aus, um sie zu bestätigen oder abzulehnen.
Forscher untersuchen aktiv, ob hochleistungsfähige Systeme unbeabsichtigt reagieren, Sicherheitslücken ausnutzen oder zur Automatisierung von Cyberangriffen eingesetzt werden könnten.
Einem Bericht der BBC zufolge bezeichnete Hubinger das Risiko der aktuellen Modelle als gering. Seine Bedenken beziehen sich auf mögliche zukünftige Systeme mit deutlich höherer Autonomie und Leistungsfähigkeit.
Während Unternehmen und Regierungen das Tempo der KI-Entwicklung abwägen, brauchen wir vernünftige Schutzmaßnahmen, darunter unabhängige Tests, Beschränkungen für risikoreiche autonome Anwendungen, Transparenz seitens der Entwickler und Verantwortlichkeit, wenn KI-Systeme Schaden verursachen.
Diese Maßnahmen sollten auch die Probleme angehen, mit denen wir bereits konfrontiert sind, da Cyberkriminelle KI für Betrug, Datenschutzverletzungen und andere Cyberverbrechen nutzen. Wie viele leistungsstarke Technologien kann auch KI als Waffe eingesetzt werden, insbesondere wenn die Sicherheitsvorkehrungen hinter ihren Fähigkeiten zurückbleiben.
Extreme Prognosen können emotional sehr wirkungsvoll sein, insbesondere wenn sie von Personen stammen, die eng mit der Technologie vertraut sind. Doch Unsicherheit birgt auch Risiken: Ernsthafte Warnungen verdienen kritische Prüfung, nicht unkritischen Glauben.
Die praktische Botschaft lautet weder „KI-Sicherheit ignorieren“ noch „sich auf eine Roboter-Apokalypse vorbereiten“. Unternehmen, Regierungen und Forscher müssen zusammenarbeiten, um sicherzustellen, dass die Sicherheitsmaßnahmen mit der rasanten Entwicklung Schritt halten.
Kooperation kann den Wettbewerb ergänzen, und in diesem Fall könnte sie sogar von entscheidender Bedeutung sein.
Ihr Name, Ihre Adresse und Ihre Telefonnummer werden möglicherweise bereits zum Verkauf angeboten.
Datenbroker sammeln Ihre persönlichen Daten und verkaufen sie an jeden, der bereit ist, dafür zu zahlen. Malwarebytes Personal Data Remover diese DatenPersonal Data Remover , sorgt dafür, dass Ihre Informationen gelöscht werden, und überwacht anschließend, dass dies auch so bleibt.
