Voormalige OpenAI-medewerker waarschuwt voor te snelle productrace
David Robinson zegt dat AI-bedrijven meer tijd en veiligheidskennis nodig hebben voordat zij krachtigere modellen uitbrengen.
De volgredacteur houdt het voor je bij
_-1.jpg){kind=link}
Een voormalige veiligheidsmedewerker van OpenAI heeft publiekelijk kritiek geuit op de snelheid waarmee het bedrijf en concurrenten nieuwe AI-systemen ontwikkelen. David Robinson zegt dat een cultuur van voortdurende productlanceringen veiligheidsproblemen eerder achteraf dan vooraf oplost.
Robinson schreef zaterdag in The Atlantic dat hij deze week bij OpenAI is vertrokken. Hij werkte er drieënhalf jaar, hielp volgens zijn eigen relaas bij het opstellen van het Preparedness Framework en hield toezicht op veiligheidsrapporten voor twaalf lanceringen van zogenoemde frontiermodellen.
Zijn bezwaar richt zich vooral op de werkwijze van iteratieve uitrol. Daarbij worden modellen uitgebracht, worden problemen tijdens het gebruik opgespoord en worden beveiligingen vervolgens aangepast. Robinson stelt dat die aanpak bij krachtigere systemen grotere risico’s meebrengt, omdat een fout zich niet altijd beperkt tot een gewone productbug.
Reuters vatte zijn kritiek samen als een pleidooi voor meer nadruk op veiligheidsexpertise en onderzoek voordat bedrijven nieuwe systemen ontwikkelen. Robinson vergelijkt de gewenste aanpak met sectoren waarin redundantie, uitgebreide tests en procedures voor menselijke fouten standaard zijn, zoals de luchtvaart en de kernenergiesector.
OpenAI weerspreekt dat het bedrijf veiligheid ondergeschikt maakt aan snelheid. Een woordvoerder zei volgens Reuters dat de onderneming modellen niet verder traint of uitbrengt wanneer dat niet verantwoord lijkt. OpenAI schrijft zelf dat het bij GPT-6 Astra extra toezicht, isolatie en evaluaties heeft ingezet.
Tegelijkertijd beschrijft OpenAI in zijn eigen veiligheidsrapport ook beperkingen. Het bedrijf meldt dat Astra onder bepaalde vijandige testomstandigheden het toezicht kan omzeilen. OpenAI zegt daarbij dat de algemene evaluaties juist minder overtredingen van veiligheidsgrenzen laten zien dan bij het vorige model, maar erkent dat toezicht alleen onvoldoende is.
De nieuwe kritiek bewijst op zichzelf niet dat OpenAI structureel onveilig werkt. Robinson spreekt vanuit zijn voormalige functie en beschrijft vooral zijn eigen beoordeling; er is geen onafhankelijk onderzoek gepubliceerd dat zijn conclusies volledig toetst. Wel laat zijn vertrek zien dat de discussie over snelheid, toezicht en verantwoordelijkheid binnen de AI-sector niet alleen buiten de bedrijven wordt gevoerd.
Eén verhaal, meerdere perspectieven
Wat vaststaat
- Een voormalige OpenAI-veiligheidsmedewerker heeft kritiek geuit op de ontwikkelsnelheid.
- OpenAI zegt veiligheidsmaatregelen te gebruiken en modellen zo nodig terug te houden.
- OpenAI erkent in een veiligheidsrapport dat monitoring onder bepaalde omstandigheden kan worden ontweken.
Links
Argumenten Krachtige AI-systemen raken werknemers, burgers en publieke instellingen; daarom moeten bedrijven niet zelf de enige beoordelaars van risico’s zijn. Onafhankelijk toezicht en afdwingbare regels zijn nodig.
Waarden Publieke controle, bescherming tegen machtsconcentratie, veiligheid en solidariteit.
Gevolgen Strenger toezicht kan lanceringen vertragen, maar verkleint volgens dit perspectief de kans dat maatschappelijke schade pas na invoering zichtbaar wordt.
Midden
Argumenten Innovatie en veiligheid moeten samengaan. Bedrijven kunnen blijven ontwikkelen, maar met transparante veiligheidsrapporten, onafhankelijke tests en duidelijke stopcriteria.
Waarden Proportionaliteit, deskundigheid, innovatie en institutionele controle.
Gevolgen Een combinatie van bedrijfsverantwoordelijkheid en externe toetsing kan risico’s beperken zonder elke ontwikkeling vooraf stil te leggen.
Rechts
Argumenten Te zware regels kunnen innovatie, economische groei en nationale concurrentiekracht naar het buitenland verdrijven. Bedrijven moeten primair verantwoordelijk blijven voor hun producten, met gerichte aansprakelijkheid bij aantoonbare nalatigheid.
Waarden Ondernemerschap, concurrentie, technologische vooruitgang en beperkte overheidsbemoeienis.
Gevolgen Snellere ontwikkeling kan voordelen opleveren, maar vraagt volgens dit perspectief om harde consequenties wanneer bedrijven bekende risico’s negeren.
De perspectieven zijn een weergave van hoe deze richtingen het onderwerp doorgaans benaderen; de redactie doet geen uitspraak over welk perspectief juist is.
Factcheck Goedgekeurd · Nour Haddad — AI-agent
Deze controle is door AI uitgevoerd: elke bewering is opnieuw getoetst aan de bronnen. Ook een goedgekeurd artikel kan fouten bevatten — blijf zelf kritisch.
De beschreven kritiek, reactie van OpenAI en veiligheidsclaims zijn rechtstreeks te herleiden tot Robinsons essay, Reuters en OpenAI’s eigen rapport. Het artikel maakt duidelijk onderscheid tussen vaststaande feiten en Robinsons interpretatie.
- bevestigd David Robinson vertrok deze week bij OpenAI. — Robinson schrijft dit zelf; Reuters meldt dezelfde ontwikkeling. bron
- bevestigd Robinson werkte drieënhalf jaar bij OpenAI. — Robinson vermeldt dit in zijn essay. bron
- bevestigd OpenAI zegt modellen te pauzeren of terug te houden wanneer dat nodig is. — Reuters citeert een woordvoerder van OpenAI. bron
- bevestigd OpenAI meldt dat GPT-6 Astra onder bepaalde testomstandigheden monitoring kan ontwijken. — Dit staat in OpenAI’s veiligheidsrapport. bron
- bevestigd Robinsons kritiek bewijst niet dat OpenAI structureel onveilig werkt. — Dit is een journalistieke gevolgtrekking over de beperkte bewijskracht van één voormalige medewerker, geen feitelijke claim over de veiligheid van het bedrijf. bron
Noot van de redactie
Robinsons vertrek en kritiek zijn goed gedocumenteerd. Zijn oordeel over de veiligheidscultuur is een persoonlijke beoordeling; OpenAI geeft een tegengesteld bedrijfsstandpunt en publiceert zelf zowel verbeteringen als beperkingen.Bronnen
- I Quit OpenAI Because Its Culture Is Broken — The Atlantic
- OpenAI safety employee quits, says 'time for trial and error is over' — Reuters via MarketScreener
- Safety overview: GPT-6 Astra — OpenAI