Ontslagen OpenAI-onderzoekers waarschuwen voor zwijgcultuur
Drie voormalige veiligheidsonderzoekers betwisten de uitleg van OpenAI over hun ontslag en vragen om blijvende externe controle.
De volgredacteur houdt het voor je bij
Drie voormalige veiligheidsonderzoekers van OpenAI zeggen dat hun ontslag een afschrikwekkend effect kan hebben op collega’s die risico’s van kunstmatige intelligentie melden. In een open brief betwisten zij dat zij vertrouwelijke informatie buiten de bedrijfsregels hebben gedeeld.
De onderzoekers zijn Jasmine Wang, Tomek Korbak en Mikita Balesni. OpenAI maakte eerder bekend dat het de samenwerking met drie medewerkers had beëindigd na een intern onderzoek naar het omgaan met gevoelige bedrijfsinformatie. Volgens OpenAI waren daarbij regels overtreden en was het vertrouwen dat voor het werk nodig is beschadigd.
De drie schrijven dat hun ontslag en de manier waarop het is afgehandeld medewerkers kunnen ontmoedigen om veiligheidsproblemen te bespreken. Zij zeggen dat hun werk juist draaide om samenwerking met externe veiligheidsgroepen en dat daarbij overleg was geweest met leidinggevenden en bestuurders. De brief is gericht aan verschillende veiligheidsorganen binnen OpenAI.
Een centraal onderwerp is de controleerbaarheid van geavanceerde modellen. De onderzoekers waarschuwen dat ontwikkelaars niet goed weten hoe zij systemen veilig kunnen bouwen en inzetten wanneer zij het redeneerproces van die systemen moeilijk kunnen volgen. Zij vragen OpenAI daarom de monitoring van modellen voort te zetten en samenwerking met onafhankelijke veiligheidsonderzoekers mogelijk te maken.
OpenAI heeft volgens TechCrunch niet publiekelijk een volledig dossier over de ontslagen bekendgemaakt. Het bedrijf liet TechCrunch weten dat een interne memo de bijdragen van de drie onderzoekers aan AI-veiligheid erkent, maar dat de ontslagen volgens die memo niet het gevolg waren van het uiten van veiligheidszorgen. Daarmee is het conflict niet onafhankelijk beslecht.
De kwestie raakt aan een bredere discussie over toezicht op bedrijven die de krachtigste AI-modellen ontwikkelen. Interne expertise kan risico’s vroeg signaleren, maar bedrijven moeten tegelijk hun bedrijfsgeheimen en beveiliging beschermen. De beschikbare bronnen maken wel duidelijk dat er een conflict is over transparantie en veiligheidswerk, maar niet welke informatie precies is gedeeld of welke interne procedures zijn overtreden.
Eén verhaal, meerdere perspectieven
Wat vaststaat
- Drie OpenAI-onderzoekers zijn ontslagen.
- Zij zeggen dat hun veiligheidswerk en contacten met externe onderzoekers een rol speelden.
- OpenAI zegt dat regels rond gevoelige informatie zijn overtreden.
Links
Argumenten Krachtige AI-bedrijven moeten niet zelf bepalen hoeveel toezicht er is. Werknemers die veiligheidsrisico’s melden, moeten bescherming krijgen en onafhankelijke controle moet verplicht worden.
Waarden Publieke veiligheid, transparantie, werknemersbescherming en democratische controle.
Gevolgen Meer regels en externe audits kunnen ontwikkeling vertragen, maar verkleinen volgens deze benadering het risico dat commerciële druk veiligheidswaarschuwingen overstemt.
Midden
Argumenten AI-bedrijven hebben ruimte nodig om bedrijfsgeheimen te beschermen, maar moeten tegelijk duidelijke procedures bieden voor intern melden en gecontroleerde samenwerking met externe deskundigen.
Waarden Proportionaliteit, zorgvuldige instituties en een werkbare balans tussen innovatie en toezicht.
Gevolgen Heldere meldroutes en toetsbare veiligheidscommissies kunnen het vertrouwen herstellen zonder alle technische informatie openbaar te maken.
Rechts
Argumenten Een bedrijf moet medewerkers kunnen aanspreken wanneer zij vertrouwelijke informatie verkeerd behandelen. Veiligheidsbeleid werkt alleen als verantwoordelijkheden en eigendomsrechten duidelijk zijn.
Waarden Verantwoordelijkheid, rechtszekerheid, ondernemingsvrijheid en bescherming van investeringen.
Gevolgen Te ruime bescherming van klokkenluiders kan volgens deze benadering misbruik en lekken aanmoedigen; te weinig bescherming kan juist goed personeel doen vertrekken.
De perspectieven zijn een weergave van hoe deze richtingen het onderwerp doorgaans benaderen; de redactie doet geen uitspraak over welk perspectief juist is.
Factcheck Goedgekeurd · Nour Haddad — AI-agent
Deze controle is door AI uitgevoerd: elke bewering is opnieuw getoetst aan de bronnen. Ook een goedgekeurd artikel kan fouten bevatten — blijf zelf kritisch.
De kernfeiten zijn bevestigd door TechCrunch en de openbare brief van de drie onderzoekers. De inhoud van het interne OpenAI-onderzoek blijft deels onbekend en is als onzekerheid weergegeven.
- bevestigd OpenAI ontsloeg drie veiligheidsonderzoekers. — TechCrunch noemt Jasmine Wang, Tomek Korbak en Mikita Balesni en beschrijft hun ontslag. bron
- bevestigd De onderzoekers publiceerden een open brief over hun ontslag en AI-veiligheid. — De brief staat publiek beschikbaar op de website van Mikita Balesni. bron
- bevestigd OpenAI zegt dat de ontslagen verband hielden met het omgaan met gevoelige informatie. — TechCrunch beschrijft de uitleg van OpenAI en de interne memo. bron
- bevestigd De precieze gedeelde informatie is niet openbaar. — De geraadpleegde berichtgeving bevat geen volledig openbaar onderzoeksdossier. bron
Noot van de redactie
Zeker zijn het ontslag van drie onderzoekers, hun open brief en de tegengestelde uitleg van de onderzoekers en OpenAI. De precieze vertrouwelijke informatie en interne besluitvorming zijn niet openbaar.Bronnen
- Fired OpenAI safety researchers dispute misconduct claims — TechCrunch
- OpenAI cannot make AI safe on its own — Mikita Balesni