Toponderzoekers Anthropic waarschuwen: AI kan mensheid uitroeien voor 2030 - maar hoe realistisch is dat?

Anthropic-onderzoeker Jacob Coxon © XAnthropic-onderzoeker Jacob Coxon Toponderzoekers Anthropic waarschuwen: AI kan mensheid uitroeien voor 2030 - maar hoe realistisch is dat? Toponderzoekers van AI-gigant Anthropic luiden de noodklok: AI kan de mensheid uitroeien. Hun bedrijf zou veel meer moeten doen om zo’n scenario te voorkomen, menen zij. Gaan we er allemaal aan door AI? Onderzoekers zitten in twee kampen, de doomers en de boomers. Jelmer Luimstra Techverslaggever 10 september 2026, 17:27Laatste update: 17:57 Reageren Maak ons je Google-favoriet Worden we straks allemaal in de pan gehakt door onverbiddelijke, superintelligente computers? Dat schrikbeeld is niet ondenkbaar, als je verschillende toponderzoekers van AI-bedrijf Anthropic tenminste mag geloven. En nog alarmerender: de mensheid kan volgens hen al voor het einde van dit decennium uitsterven. ‘De mensen die AI ontwikkelen, geloven oprecht dat die ons allemaal zou kunnen doden voor het einde van het decennium’, schrijft de inmiddels vertrokken Anthropic-onderzoeker Jacob Coxon op X. De steeds slimmer wordende AI-modellen veranderen volgens Coxon straks in ‘bovenmenselijke systemen’. Die dreigen volgens hem ‘alles’ te kunnen ‘hacken en ‘echte macht en middelen’ te verwerven. Veel AI-leidinggevenden formuleren hun uitspraken in de pers zorgvuldig, schrijft Coxon, ‘maar in besloten kring hoor ik diezelfde mensen hun angst uiten. Geen enkele andere menselijke activiteit brengt zo’n gevaar met zich mee’. Anthropic zou te weinig doen om zo’n armageddon-scenario te voorkomen, meent Coxon, die het bedrijf daarom gedesillusioneerd de rug toekeert. Hij vraagt AI-onderzoekers tevens ‘andere opties’ te overwegen. Coxon krijgt bijval van Anthropic-onderzoeker Evan Hubiger, die op X schrijft: ‘We geloven er echt oprecht in dat AI alle mensen zou kunnen doden!’ Hubiger schat de kans daarop op ‘10 procent’ in het ‘komende decennium’. AI-onderzoekers menen dat AI de mensheid ‘in de komende paar jaar’ kan uitroeien, schrijft ook Anthropic-onderzoeker Samuel Marks op X. ‘Hoe hoger de functie van de werknemer, des te meer zorgen die zich maakt.’ Marks wijst erop dat je AI-systemen nooit zo kunt ‘programmeren’ dat ze zich gedragen zoals je wilt. Dat AI-agents – een soort AI-hulpjes – van Anthropic en OpenAI deze zomer zelfstandig bedrijven hackten, zou daarvan een eerste teken aan de wand zijn. De betogen zijn opvallend, omdat het niet een ceo is die zijn zorgen uit, maar omdat het toponderzoekers zijn. Ceo’s schrijven vaker alarmerende blogs over de gevaren van hun AI-software. Soms zetten ze de ontwikkeling daarvan tijdelijk stil. Critici zien daar echter ook een marketingelement in. „Deze bedrijven hebben gigantische investeringen nodig om te blijven draaien”, zegt Thomas Moerland, AI-onderzoeker van de Universiteit Leiden. „Ze moeten daarvoor in de spotlight blijven staan.” Van toponderzoekers mag je veronderstellen dat ze zich minder met dit soort pr-zaken bezighouden. Oud-Anthropicman Coxon noemt zijn pleidooi dan ook ‘geen marketingstunt’. Toch is het allerminst bewezen dat AI de mensheid kan uitroeien, zegt Moerland. „Er is een kamp in de wetenschap dat hier fel in gelooft en een die het compleet tegenovergestelde beweert. Als de topexperts het ergens heel erg over oneens zijn, laat dat vooral zien dat we het nog niet weten.” Dit ene kamp, in Silicon Valley-kringen ook wel doomers genoemd, denkt dat AI zal uitgroeien tot een superkrachtig systeem dat ons zal uitroeien. Zij verwijzen bijvoorbeeld naar een theorie van filosoof Nick Bostrom uit 2003. Als je zo’n superintelligent AI-systeem de opdracht geeft om zoveel mogelijk paperclips te maken, zal het alles doen om dat doel te bereiken. De computer zou dan zelfs mensen tot paperclips kunnen verwerken. Ook zijn doomers vaak verbluft door de snelle ontwikkelingen van de techniek, weet Moerland. „AI is nu tot gigantisch veel meer in staat dan tien jaar geleden. Als je dat doortrekt naar tien jaar later, kan