Weer AI-incident: AI-agenten OpenAI zetten beelden van gebruikers ChatGPT op internet

Beeld ter illustratie. © REUTERSBeeld ter illustratie. Weer AI-incident: AI-agenten OpenAI zetten beelden van gebruikers ChatGPT op internet AI-agenten van het Amerikaanse bedrijf OpenAI, de maker van ChatGPT, hebben beelden van gebruikers van de chatbot online gepubliceerd. Dat heeft OpenAI vrijdag gemeld. Maak ons je Google-favoriet Het merendeel van de beelden is volgens het bedrijf intussen weer van het internet gehaald. Voor zover bekend gaat het om het eerste veiligheidsincident waarbij ook data van gebruikers betrokken zijn. Het nieuwe veiligheidsincident zou betrekking hebben op 53 gevallen waarbij AI-agenten per vergissing beelden van gebruikers van ChatGPT op internetplatformen publiceerden. OpenAI geeft op dit moment geen duidelijkheid over de vraag of het om 53 beelden of om 53 gebruikers gaat, die mogelijk meerdere foto’s en video’s geüpload hebben. Het is ook niet duidelijk wie of wat er op de beelden te zien is en of het om AI-gegenereerde beelden of om beelden van echte mensen gaat. Het Franse persbureau AFP probeerde bij OpenAI te achterhalen of er mogelijk gevoelige gegevens zijn gelekt, maar kreeg nog geen antwoord van het bedrijf. OpenAI zegt wel dat de beelden gedeeld werden via links die niet openbaar waren. Het grootste deel van het materiaal is verwijderd en het bedrijf staat in contact met de betrokken platformen om de overige gegevens ook offline te halen. Volgens OpenAI ging het om data van gebruikers die hadden toegestemd om hun gegevens te laten gebruiken voor het trainen van de AI-modellen van de ontwikkelaar. De beelden gingen daarvoor door een filter, waardoor ze niet meer te koppelen zijn aan de originele eigenaar, aldus het bedrijf. OpenAI bevestigt vrijdag ook nog eens dat zijn AI-agenten de afgelopen maanden gecommuniceerd hebben met websites van derde partijen, zonder dat ze daartoe de opdracht kregen. Modellen van OpenAI verkregen onder meer toegang tot openbare informatie op websites van de Amerikaanse overheid, aldus Amerikaanse media. Het gaat om websites van het Census Bureau, het officiële statistische agentschap van de federale overheid, en de Securities and Exchange Commission, de Amerikaanse overheidsinstantie die toezicht houdt op de financiële markten en de handel in effecten. De AI-systemen communiceerden met SEC.gov, Investor.gov en openbare data op Census.gov. Dat meldt persbureau Bloomberg op basis van bronnen die bekend zijn met de situatie. Volgens The New York Times probeerde de kunstmatige intelligentie van OpenAI ook de website van het Amerikaanse ministerie van Onderwijs te hacken om data te verzamelen van de afdeling voor burgerrechten. Die poging mislukte. Een woordvoerder van OpenAI zegt dat het bedrijf ‘uitgebreid onderzoek doet naar verkeerd afgestemde modelactiviteit en organisaties op de hoogte stelt wanneer we mogelijke gevolgen voor hun systemen vaststellen. We verwachten meer organisaties op de hoogte te stellen naarmate dat onderzoek vordert’. Eerder werd ook al bekend dat zelfstandig werkende systemen van OpenAI een website van de Australische overheid waren binnengedrongen. Daarbij kreeg de AI toegang tot niet-openbare medische informatie. Techverslaggever Jelmer over de AI-agent die zelfstandig inbrak bij Medicare: ‘Dan gaan systemen gekke dingen doen’