Anthropic waarschuwt beleggers dat zijn AI ‘catastrofaal’ voor de mensheid kan zijn

Anthropic-voorman Dario Amodei. © ReutersAnthropic-voorman Dario Amodei. Anthropic waarschuwt beleggers dat zijn AI ‘catastrofaal’ voor de mensheid kan zijn Kort voor je beursgang waarschuwen dat je software tot het uitsterven van de mensheid kan leiden. Het is een zet die we niet eerder zagen. Toch is dat precies wat AI-bedrijf Anthropic doet. Kun je in zoiets nog met een schoon geweten beleggen? „Het is gevaarlijke technologie.” Jelmer Luimstra Techverslaggever 30 september 2026, 16:01Laatste update: 16:02 Maak ons je Google-favoriet Anthropic waarschuwt dat AI ‘catastrofale of existentiële risico’s voor de mensheid’ kan vormen. Dat blijkt uit beursdocumenten die uitlekten naar Engelstalige media. Maar liefst 80 van van de 261 pagina’s gaan over risicofactoren. Dat is bijna twee keer zoveel als Anthropic er over zijn bedrijfsactiviteiten schrijft. Risico’s alom, zo blijkt dan ook. AI-modellen kunnen volgens de AI-grootgrutter ‘zelfbeschermend gedrag’ vertonen. Ze kunnen proberen om ‘uitschakeling te weerstaan’ en ‘informatie te verbergen of te manipuleren’, en vertonen gedrag dat ‘op chantage lijkt’. Potentiële beleggers krijgen zelfs nog een extra waarschuwing, zo schrijft Anthropic: ‘Onze ontwikkeling van sterk geavanceerde modellen (...) kan het risico vergroten dat onze modellen schade veroorzaken’. Met andere woorden: wie geld steekt in Anthropic, loopt de kans daarmee de doos van Pandora te openen. Een weinig wervende boodschap. Dat Anthropic de veiligheid van zijn techniek niet altijd op orde heeft, is al langer duidelijk. Het bedrijf levert onder meer software voor AI-agents, een soort digitale hulpjes die mails kunnen beantwoorden of online boodschappen kunnen doen. Die AI-hulpjes blijken soms onbedoeld het boevenpad op te gaan. Zo braken AI-agents van Anthropic al vier keer in bij andere bedrijven. AI-hulpjes van concurrent OpenAI hackten onlangs zelfs een site van de Australische overheid. Dat bedrijf zette deze week tijdelijk de rem op de ontwikkeling van zijn krachtigste AI-modellen. Amodei, OpenAI-baas Sam Altman en andere techleiders pleitten afgelopen maand voor een algehele pauze in de ontwikkeling van AI. De Amerikaanse president Donald Trump wil daar niet aan, omdat hij bang is dat China dan op voorsprong komt te staan. Huidige en ex-onderzoekers van het bedrijf zwengelden de discussie over de gevaren van AI begin september aan, met verschillende roepkreten op sociale media. Hun boodschap: AI kan de mensheid uitroeien, misschien al voor 2030. Dit scenario is nooit bewezen, maar onderzoekers in een Canadese AI-veiligheidsstudie van eerder dit jaar zeggen wel dat de mogelijkheid bestaat. Anthropic leed afgelopen jaar een operationeel verlies van maar liefst 8 miljard dollar, blijkt uit de beursdocumenten. Het bedrijf wil de komende jaren 518 miljard dollar uitgeven aan de ontwikkeling van zijn techniek. Een beursgang kan daar goed bij van pas komen. Nu draait de beurs niet om idealen, maar om dollars. Toch, kun je nog met een schoon geweten geld steken in een bedrijf dat de mensheid kan bedreigen? „Je investeert in een onveilige technologie”, reageert AI-ethicus Joris Krijger. Door alle hacks blijkt: Anthropic heeft zijn veiligheid niet op orde Anthropic wordt beheerd door een soort maatschappelijke stichting, die bestuurders kan aanwijzen. Krijger: „Investeerders krijgen het niet voor het zeggen, wat volgens het bedrijf tot meer veiligheid leidt. Toch is de afgelopen tijd door alle hacks gebleken dat ze hun veiligheid niet op orde hebben.” Ook noemt hij het ‘tegenstrijdig’ dat Amodei enerzijds pleit voor een AI-pauze, maar wel op de beurs ‘miljarden wil ophalen voor maximale opschaling’. „Je kunt niet zeggen: ‘We hebben honderden miljarden nodig om uit te breiden, maar ik vind óók dat we minder moeten doen’.” Anthropic was woensdag niet direct bereikbaar voor commentaar. LUISTER OOK naar onze dagelijkse nieuwspodcast Praat mee met AD Lees meer Een ontluisterend kijkje in de extreme den