OpenAI ziet voorlopig af van lancering nieuwste AI-model vanwege veiligheid

Archiefbeeld © REUTERSArchiefbeeld OpenAI ziet voorlopig af van lancering nieuwste AI-model vanwege veiligheid Het nieuwste model van ontwikkelaar OpenAI zal niet begin oktober worden gelanceerd, zoals gepland was. The Wall Street Journal meldde in de nacht van maandag op dinsdag dat er veiligheidszorgen zijn over het model GPT-6.1 Astra. Het wordt daarom nog niet beschikbaar gesteld aan gebruikers. Maak ons je Google-favoriet Saachi Jain, die binnen OpenAI over de veiligheid gaat, bevestigde in een verklaring tegenover CNBC dat GPT-6.1 Astra uit veiligheidsoverwegingen nog niet op de markt komt. Het model ‘voldoet niet helemaal aan de eisen voor wat betreft het binnen de grenzen en de bevoegdheden blijven’, aldus Jain. Ook laat het model steken vallen ‘op de manier waarop het aan de gebruiker terugkoppelt over het soort werk dat het heeft verricht’. OpenAI lanceerde eerder deze maand GPT-6 Astra, volgens het bedrijf ‘het slimste en best afgestemde model ter wereld’. GPT-6 biedt bepaalde betalende gebruikers van ChatGPT een AI-agent aan die zelfstandig omvangrijke taken uitvoert. De afgelopen maanden zijn meerdere veiligheidsincidenten met modellen van OpenAI gemeld. Zo bezochten AI-systemen van het bedrijf onverwacht websites van de Amerikaanse overheid, werd een Australische overheidswebsite met medische informatie binnengedrongen en brak een AI-model in op de systemen van het softwarebedrijf Hugging Face. OpenAI liet afgelopen weekend weten het werk aan de krachtigste AI-modellen voorlopig stil te leggen na opnieuw een incident. Een van de systemen kreeg tijdens een test ongeoorloofde toegang tot het internet. OpenAI pauzeert ontwikkeling van nieuwste modellen na opeenstapeling van veiligheidsincidenten