De Wall Street Journal meldt dat er binnen AI-laboratoria steeds meer bezorgdheid bestaat over het feit dat de concurrentie technologiebedrijven ertoe aanzet om te streven naar zelfverbeterende modellen die uiteindelijk buiten de menselijke controle kunnen raken.
Jacob Coxon, een AI-onderzoeker die bij Anthropic en OpenAI heeft gewerkt, zei :
"De mensen die AI ontwikkelen, geloven oprecht dat het ons allemaal zou kunnen uitroeien tegen het einde van dit decennium."
Evan Hubinger, hoofd van het Alignment Science-team bij Anthropic en tevens werkzaam bij OpenAI, reageerde in een bericht op X :
“Wij geloven echt oprecht dat AI alle mensen zou kunnen uitroeien! Ik denk persoonlijk dat dat binnen het volgende decennium meer dan 10% zal zijn.”
Hubinger voegde eraan toe:
"Waar ik me zorgen over maak, is dat superintelligentie voortkomt uit recursieve zelfverbetering, en zoals we al zeiden, gebeurt dat sneller dan we dachten."
Dat cijfer moet worden beschouwd als Hubingers persoonlijke inschatting. Het is geen voorspelling, geen vaststaand feit en geen bewijs dat de chatbots van vandaag de dag op het punt staan om uit zichzelf gevaarlijk te worden. Het is ook niet iets waar ik voldoende kennis van heb om het te onderschrijven of te verwerpen.
Onderzoekers bestuderen actief of zeer geavanceerde systemen op onbedoelde manieren kunnen functioneren, kwetsbaarheden kunnen misbruiken of gebruikt kunnen worden om cyberaanvallen te automatiseren.
Een BBC-rapport meldt dat Hubinger het risico van de huidige modellen als laag inschatte. Zijn zorgen betreffen mogelijke toekomstige systemen met veel meer autonomie en mogelijkheden.
Nu bedrijven en overheden de snelheid van de AI-ontwikkeling afwegen, hebben we verstandige waarborgen nodig, waaronder onafhankelijke tests, beperkingen op risicovol autonoom gebruik, transparantie van ontwikkelaars en verantwoording wanneer AI-systemen schade veroorzaken.
Die maatregelen moeten ook de problemen aanpakken waarmee we nu al te maken hebben, namelijk dat cybercriminelen AI gebruiken voor fraude, schending van de privacy en andere cybercriminaliteit. Net als veel andere krachtige technologieën kan AI als wapen worden ingezet, vooral wanneer de beveiligingsmaatregelen achterblijven bij de mogelijkheden ervan.
Extreme voorspellingen kunnen emotioneel aangrijpend zijn, vooral wanneer ze worden gedaan door mensen die nauw betrokken zijn bij de technologie. Maar onzekerheid werkt twee kanten op: serieuze waarschuwingen verdienen nader onderzoek, geen blind geloof.
De praktische boodschap is niet "negeer de veiligheid van AI" en ook niet "bereid je voor op een robotapocalyps". Bedrijven, overheden en onderzoekers moeten samenwerken om ervoor te zorgen dat veiligheidsmaatregelen gelijke tred houden met de snelle ontwikkelingen.
Samenwerking kan concurrentie aanvullen, en in dit geval zou het cruciaal kunnen zijn.
Uw naam, adres en telefoonnummer worden mogelijk al te koop aangeboden.
Datahandelaren verzamelen uw persoonlijke gegevens en verkopen deze aan iedereen die ervoor wil betalen. Malwarebytes Personal Data Remover deze gegevensPersonal Data Remover , zorgt ervoor dat ze worden verwijderd en houdt vervolgens in de gaten of dit zo blijft.
