Techverslaggever Jelmer over de AI-agent die zelfstandig inbrak bij Medicare: ‘Dan gaan systemen gekke dingen doen’

Techverslaggever Jelmer Luimstra legt uit hoe AI nu zelf kan hacken. © Jeffrey Groeneweg, Joost HovingTechverslaggever Jelmer Luimstra legt uit hoe AI nu zelf kan hacken. Techverslaggever Jelmer over de AI-agent die zelfstandig inbrak bij Medicare: ‘Dan gaan systemen gekke dingen doen’ AI vormt een steeds groter gevaar. Zo werd bekend dat een AI-agent een portaal van de Australische overheid heeft gehackt. De technologie ontwikkelt zich razendsnel. Moeten we ons zorgen maken en is Nederland in gevaar? Techverslaggever Jelmer Luimstra legt het uit. Maak ons je Google-favoriet Wat is er precies gebeurd in Australië, hoe heeft AI de overheid kunnen hacken? „Een AI-agent, een soort digitale assistent van OpenAI die gebruikmaakte van software van een Amerikaans techbedrijf, heeft ingebroken op de Australische overheidswebsite Medicare. Daarop staan medische gegevens van burgers.” „Voor zover bekend zijn er geen zeer gevoelige gegevens gelekt, maar het is wel opmerkelijk dat een AI-agent zelfstandig een overheidswebsite wist te hacken. Volgens persbureau Reuters is dit de eerste keer dat een overheidsplatform door een AI-agent is gehackt.” Wat is een AI-agent precies en hoe verschilt het van een bot, zoals ChatGPT? „Een chatbot, zoals ChatGPT, beantwoordt vragen. Je vraagt bijvoorbeeld om vakantiebestemmingen en krijgt een antwoord. Een AI-agent kan veel meer: die kan zelfstandig taken uitvoeren. Denk aan boodschappen doen, online aankopen doen of betalingen regelen. In de toekomst kunnen ze zelfs de was doen.” „Juist doordat ze zelfstandig handelen, kunnen ze ook worden ingezet om te hacken. Dat is waar de huidige discussie over gaat: wil je autonome computersystemen zulke mogelijkheden geven?” Is het duidelijk of de AI-agent zelf besloot te hacken of dat iemand daarachter zat? „De AI-agent deed dit zelf. Australië zegt dat een AI-hulpje onderzoek deed naar uitgaven in de gezondheidszorg. Het zou bewust blokkades hebben omzeild om antwoorden te vinden op ongeoorloofde plekken.” „Er zijn eerder vergelijkbare incidenten geweest waarbij een AI-agent zelf handelde. Zo voerde het bedrijf Hugging Face deze zomer een beveiligingstest uit waarbij AI-agents punten konden verdienen. Sommige agents bedachten dat ze beter konden presteren door informatie van een extern hackersplatform te gebruiken. Ze braken daarop zelfstandig in bij een derde partij om gegevens te verzamelen en gebruikten die vervolgens om hun score te verbeteren.” „Dat toont wel aan dat agents, als je ze een bepaalde opdracht geeft, opeens allerlei gekke dingen kunnen gaan doen om dat doel te bereiken. Soms missen ze de juiste handvatten.” „Ik denk dat we ons zeker zorgen moeten maken. De afgelopen maanden zijn er steeds van dit soort hacks in het nieuws geweest met AI-agents. Het grote risico is, en daar waarschuwen de veiligheidsdiensten nu ook voor, dat kwaadwillenden met deze software massaal onze systemen gaan hacken.” „Daarbij is wel een kanttekening: bij commerciële AI-systemen, zoals die van OpenAI, moeten gebruikers zich meestal identificeren. Misbruik is daardoor beter te herleiden. Daarnaast bestaan echter open-sourcemodellen, vaak afkomstig uit China, waarbij dat vaak niet hoeft. Sommige experts vrezen dat hackers juist die systemen zullen gebruiken.” „Overheden moeten snel meer ervaring opdoen met deze technologie. Het is een ‘rat race’. Je moet snel zijn zodat je niet achter de feiten aanloopt en gehackt wordt. Daarnaast wil je het liefst zelf dit soort software ontwikkelen, want ook daar lopen we ontzettend achter. En als we nou weer van Amerikaanse software gebruik moeten maken om ons veiliger te maken, zijn we weer afhankelijk van Amerika.” „Wat we zelf kunnen doen, zo adviseerde een afpersingshoogleraar me onlangs: behandel je wachtwoord als je tandenborstel. Vervang hem om de paar maanden of misschien wel vaker. Maak je wachtwoord bovendien niet te makkelijk en gebruik niet overal hetzelfde wachtwoord.” „Wat ik ook een goede tip vind: a