Klokkenluiders waarschuwen voor verlies van controle over AI
Voormalige medewerkers van grote AI-bedrijven riepen de gemeenteraad van New York op om strengere veiligheidsregels op te stellen.
De volgredacteur houdt het voor je bij
Voormalige medewerkers van Anthropic, OpenAI en Google DeepMind hebben maandag in New York gewaarschuwd dat AI-bedrijven modellen ontwikkelen die zij niet volledig kunnen beheersen. Tijdens een openbare hoorzitting werd gedebatteerd over strengere transparantie-eisen en aansprakelijkheid.
De hoorzitting van de gemeenteraad van New York was gewijd aan de risico’s van snel ontwikkelende kunstmatige intelligentie. Vertegenwoordigers van grote technologiebedrijven en voormalige medewerkers legden uit hoe zij kijken naar de veiligheid van steeds autonomere systemen.
De oud-medewerkers stelden dat commerciële druk bedrijven ertoe aanzet nieuwe modellen snel uit te brengen. Volgens hen zijn de interne tests en veiligheidsmaatregelen niet altijd voldoende om onverwacht gedrag te ontdekken voordat systemen bij gebruikers terechtkomen.
De bedrijven benadrukten volgens Associated Press dat AI ook praktische voordelen heeft en dat veiligheid een belangrijk onderdeel van de ontwikkeling van AI is. De raad vroeg de aanwezige bedrijven onder meer hoe zij de kans op ernstige incidenten inschatten en welke controlemechanismen zij gebruiken.
New York bespreekt verschillende lokale voorstellen. Daarbij gaat het onder meer om openbaarmaking van informatie over AI-systemen, onafhankelijke toetsing en bescherming voor werknemers die veiligheidsproblemen melden. Ook wordt gekeken naar mogelijkheden voor mensen die schade lijden door autonome AI-systemen.
De gemeenteraad kan geen wereldwijde regels opleggen aan bedrijven die hun modellen overal aanbieden. Wel kan New York voorwaarden stellen aan systemen die door de gemeente worden ingekocht of binnen de stad worden gebruikt. De hoorzitting is daarom vooral een combinatie van toezicht, lokale wetgeving en politieke druk.
De waarschuwingen bewijzen niet dat AI-systemen buiten menselijke controle zijn geraakt. Ze laten wel zien dat er binnen de sector verschil van inzicht bestaat over de vraag hoeveel risico aanvaardbaar is voordat modellen worden ingezet. De discussie raakt daarmee zowel productveiligheid als de vraag wie verantwoordelijk is wanneer een systeem onverwacht handelt.
Eén verhaal, meerdere perspectieven
Wat vaststaat
- AI-bedrijven ontwikkelden modellen die onderwerp waren van een openbare hoorzitting.
- Voormalige medewerkers waarschuwden voor risico’s en beperkte controle.
- De gemeenteraad bespreekt aanvullende transparantie- en veiligheidsregels.
- De bedrijven zeggen dat hun systemen voordelen bieden en dat veiligheid aandacht krijgt.
Links
Argumenten AI-bedrijven beschikken over veel macht en informatie, terwijl gebruikers en werknemers de risico’s vaak dragen. Onafhankelijk toezicht, sterke aansprakelijkheid en bescherming van klokkenluiders zijn nodig.
Waarden Publieke controle, arbeidsrechten, privacy en bescherming van kwetsbare groepen.
Gevolgen Strengere regels kunnen schade beperken, maar verhogen mogelijk de kosten en verlagen de snelheid waarmee nieuwe toepassingen beschikbaar komen.
Midden
Argumenten Innovatie moet doorgaan, maar systemen met grote maatschappelijke gevolgen moeten aantoonbaar getest en controleerbaar zijn. De overheid moet risico’s proportioneel reguleren.
Waarden Veiligheid, innovatie en uitvoerbaarheid.
Gevolgen Een risicogestuurd kader kan ruimte laten voor nuttige toepassingen en tegelijk de zwaarste risico’s aanpakken.
Rechts
Argumenten Overregulering kan technologische ontwikkeling en economische groei naar andere landen verdrijven. Bedrijven moeten verantwoordelijkheid nemen, maar lokale overheden moeten geen versnipperd regelsysteem bouwen.
Waarden Ondernemerschap, concurrentiekracht en beperkte overheidsbemoeienis.
Gevolgen Minder regels kunnen innovatie versnellen, maar vergroten de kans dat problemen pas na schade zichtbaar worden.
De perspectieven zijn een weergave van hoe deze richtingen het onderwerp doorgaans benaderen; de redactie doet geen uitspraak over welk perspectief juist is.
Factcheck Goedgekeurd · Nour Haddad — AI-agent
Deze controle is door AI uitgevoerd: elke bewering is opnieuw getoetst aan de bronnen. Ook een goedgekeurd artikel kan fouten bevatten — blijf zelf kritisch.
De hoorzitting, de betrokken bedrijven en de voorgestelde onderwerpen zijn bevestigd door de gemeenteraad en AP. Het artikel presenteert de waarschuwingen als opvattingen en vermijdt de onbewezen conclusie dat AI al buiten menselijke controle is.
- bevestigd De gemeenteraad van New York hield een hoorzitting over de risico’s van AI. — Aangekondigd door de gemeenteraad en beschreven door AP. bron
- bevestigd Voormalige medewerkers van Anthropic, OpenAI en Google DeepMind waarschuwden voor onvoldoende controle. — Beschreven in de verslaggeving van AP. bron
- bevestigd New York bespreekt regels voor transparantie, toetsing en klokkenluiders. — Vermeld in de officiële aankondiging van de gemeenteraad. bron
Noot van de redactie
De waarschuwingen zijn uitspraken van voormalige medewerkers en geen bewijs dat AI de menselijke controle daadwerkelijk heeft verloren. De lokale wetsvoorstellen bevinden zich nog in de politieke en wetgevende fase.Bronnen
- AI industry insiders voice alarms to NYC council — Associated Press
- New York City Council Announces AI companies to testify under oath — New York City Council
- New York City Council to Hold Major Hearing on Artificial Intelligence Risks — New York City Council
Meer hierover bij andere media
- NOS — „kunstmatige intelligentie”
- Het Parool — „kunstmatige intelligentie”
- NRC — „kunstmatige intelligentie”