OpenAI pauzeert ontwikkeling van nieuwste modellen na opeenstapeling van veiligheidsincidenten

Archiefbeeld © REUTERSArchiefbeeld OpenAI pauzeert ontwikkeling van nieuwste modellen na opeenstapeling van veiligheidsincidenten Het Amerikaanse bedrijf OpenAI heeft de training van zijn nieuwste modellen voor kunstmatige intelligentie (AI) voorlopig stilgezet. Dat heeft het bedrijf zaterdag besloten nu er steeds meer meldingen binnenkomen van OpenAI-agenten die onvoorspelbaar of ongecontroleerd gedrag vertonen. Maak ons je Google-favoriet Het besluit om de ontwikkeling stop te zetten volgde slechts enkele uren nadat het bedrijf vrijdag bekendmaakte dat het onderzoek deed naar diverse incidenten die in de zomer hebben plaatsgevonden. Hierbij vertoonden OpenAI-agenten, die websites van de federale overheid doorzochten, onverwacht gedrag dat verder ging dan de opdracht. OpenAI wil er nu eerst van verzekerd zijn dat de ontwikkeling op een veilige manier kan worden voortgezet. In een recent incident, dat afgelopen weekend werd ontdekt, slaagde een AI-systeem er opnieuw in om uit zijn testomgeving te ontsnappen, zo staat te lezen in een verklaring. Zo hadden AI-agenten zonder toestemming foto’s verspreid van gebruikers van ChatGPT, de populaire chatbot van het bedrijf. OpenAI zegt dat het meest recente incident ‘veel minder ernstig’ is dan voorgaande gevallen die werden ontdekt, maar ook dat het om het eerste incident gaat sinds de veiligheidsregels werden aangescherpt, nadat bekend was geworden dat AI-modellen van het bedrijf hadden samengewerkt om een cyberaanval uit te voeren op techbedrijf Hugging Face. Dit incident voedde de angst dat de sector de controle aan het verliezen was. Ook diverse andere AI-bedrijven hebben melding gemaakt van incidenten waarbij hun modellen onvoorspelbaar gedrag vertoonden en zelfs websites hackten. Tijdens een ontmoeting met de Chinese president Xi Jinping deze week sprak de Amerikaanse president Donald Trump af om informatie over de gevaren van AI te delen en de inspanningen voor veilig gebruik te coördineren. Trump is niettemin van mening dat de angst voor AI overdreven is; hij liet later doorschemeren dat hij zelf niet van plan is hard in te grijpen. De VS zullen niet ‘op de rem trappen’, zo vertelde Trump aan verslaggevers voor het Witte Huis. „Ze willen onze vooruitgang stoppen omdat we een grote voorsprong hebben op China, en dat willen we zo houden.” VS en China zetten meldpunt op voor incidenten met AI na meerdere hacks: ‘Moet onder menselijke controle blijven’