VS en China zetten meldpunt op voor incidenten met AI na meerdere hacks: ‘Moet onder menselijke controle blijven’

© Rob Engelaar VS en China zetten meldpunt op voor incidenten met AI na meerdere hacks: ‘Moet onder menselijke controle blijven’ De Verenigde Staten en China gaan samen een communicatiekanaal opzetten om incidenten te melden die veroorzaakt worden door kunstmatige intelligentie (AI). Dat heeft het Witte Huis vrijdag bekendgemaakt. Maak ons je Google-favoriet De twee landen roepen ook de ‘VS-China-dialoog over superintelligentie’ in het leven om van gedachten te wisselen over de risico’s en voordelen van AI. ‘Superintelligentie’, zoals de Amerikaanse president Donald Trump afgelopen dagen AI noemde, was een van de belangrijke onderwerpen tijdens het staatsbezoek van de Chinese president Xi Jinping aan Washington. Als AI-rivalen krijgen beide landen steeds meer vragen over de risico’s van de technologie. Een reeks incidenten met hacks door AI-agenten groeit de vrees dat de technologie haar makers boven het hoofd groeit. Vrijdag meldde het Amerikaanse bedrijf OpenAI, de maker van ChatGPT, dat AI-agenten beelden van gebruikers van de chatbot online gepubliceerd hebben. Voor zover bekend gaat het om het eerste veiligheidsincident waarbij ook data van gebruikers getroffen zijn. Voor het eerst zijn deze week ook overheidssites slachtoffer geworden van AI-hacks. Modellen van OpenAI kregen toegang tot openbare informatie op websites van de Amerikaanse overheid. Dat gebeurde eerder deze week ook bij een Australische overheidswebsite. Donald Trump en Xi Jinping in het National Archives Museum in Washington. © Getty Images via AFP Volgens Xi hebben beide landen de ‘verantwoordelijkheid om AI te ontwikkelen en te beheren voor het algemeen welzijn, en ervoor te zorgen dat de ontwikkeling ervan altijd onder menselijke controle blijft’. Trump verklaarde daarentegen dat hij de regelgeving ‘op het huidige niveau’ wil houden. De Amerikaanse minister van Financiën, Scott Bessent, stelde vorige week al voor om een meldingsmechanisme in te stellen tussen de VS en China ‘voor incidenten, wanneer er iets gebeurt dat de nationale veiligheid raakt’. „We vinden het heel belangrijk om van een situatie van ondoorzichtigheid te evolueren naar meer transparantie tussen de eerste en tweede wereldmacht op het vlak van AI’’, aldus Bessent. Eerder deze week, in de marge van de Algemene Vergadering van de Verenigde Naties, riepen bijna twintig landen op om internationale veiligheidsmaatregelen te nemen tegen de ongebreidelde ontwikkeling van AI. Ze waarschuwen voor ‘ernstige risico’s’ als de technologie aan menselijke controle ontsnapt. De ophef begon twee maanden geleden toen OpenAI tijdens een test van de beveiliging van eigen modellen per ongeluk een ander AI-hackte. Zogenoemde ‘AI-agenten’, computerprogramma’s die zelfstandig testen uitvoeren, ontsnapten uit een afgeschermde testomgeving en hackten daarna het AI-platform Hugging Face. Ceo’s van bigtechbedrijven pleiten er daarna voor om als de bliksem op de pauzeknop te drukken bij de ontwikkeling van AI. Want kunstmatige intelligentie ontwikkelt zich zo snel dat die de mensheid misschien wel kan uitroeien. Techverslaggever Jelmer over de AI-agent die zelfstandig inbrak bij Medicare: ‘Dan gaan systemen gekke dingen doen’ Techtopmannen schreeuwen moord en brand om 'gevaarlijke' AI, maar drukken zelf de pauzeknop niet in LUISTER OOK naar onze dagelijkse nieuwspodcast Praat mee met AD Lees meer 12 Rechtse partij van Farage krijgt megadonaties: tientallen miljoenen van Britse cryptomiljardairs