Wetenschappers vragen om internationale toezichthouder voor AI
Een open brief van 350 onderzoekers pleit voor verplichte melding van veiligheidsincidenten met kunstmatige intelligentie.
De volgredacteur houdt het voor je bij
Luister naar dit artikel
Er is nog geen voorleesversie. Vraag er een aan, dan leest een AI-stem het artikel voor.
Voorgelezen door een AI-stem.
.jpg){kind=link}
Een internationale groep van 350 wetenschappers vraagt om een nieuw orgaan dat veiligheidsincidenten met kunstmatige intelligentie registreert en openbaar maakt. De onderzoekers willen ook strengere technische beveiliging rond AI-systemen die zelfstandig digitale handelingen kunnen uitvoeren.
De oproep staat in een open brief die dinsdag werd gepubliceerd en volgens ABC News is ondertekend door wetenschappers uit 31 landen. De ondertekenaars waarschuwen dat AI-modellen steeds vaker toegang krijgen tot computersystemen, terwijl toezicht en beveiligingsprocedures niet overal gelijke tred houden.
De onderzoekers doen drie concrete aanbevelingen. AI-systemen die cyberaanvallen kunnen uitvoeren, zouden in eerste instantie in een van het internet afgesloten omgeving moeten werken. Daarnaast moet er een internationaal orgaan komen dat incidenten registreert en onderzoekt. Tot slot zouden bedrijven en instellingen beveiligingsproblemen verplicht aan dat orgaan moeten melden.
Aanleiding zijn recente incidenten waarbij AI-agenten toegang kregen tot systemen van organisaties. ABC News schrijft dat het daarbij gaat om een aanval op het AI-platform Hugging Face en aanvallen op meerdere overheidswebsites. De precieze technische omstandigheden van die incidenten verschillen, en de open brief presenteert de aanbevelingen niet als een wetenschappelijk bewezen oplossing.
Een van de ondertekenaars is Toby Walsh, hoofdwetenschapper van het AI Institute van de University of New South Wales. Hij vergelijkt het voorgestelde systeem met bestaande onderzoeken naar vliegtuigongelukken: door incidenten onafhankelijk te analyseren kunnen organisaties van elkaars fouten leren.
De brief vraagt niet om één wereldwijde toezichthouder die alle AI-regels vaststelt. Walsh zei volgens ABC dat landen hun eigen regels kunnen houden, maar wel informatie over incidenten en beveiligingsmaatregelen moeten delen. Daarmee ligt de nadruk op rapportage en gezamenlijke standaarden, niet noodzakelijk op één internationaal vergunningstelsel.
De oproep is een beleidsvoorstel, geen peer-reviewed onderzoek. De wetenschappers stellen dat vrijwillige meldingen onvoldoende zijn, maar er is nog geen akkoord over de bevoegdheden, financiering of juridische status van het voorgestelde orgaan. Ook is niet vastgesteld hoe vaak AI-incidenten plaatsvinden of hoeveel daarvan door betere afscherming voorkomen hadden kunnen worden.
In Australië werkt de regering aan nationale AI-standaarden en wetgeving die in 2027 moet worden ingevoerd. Dat nationale traject is een voorbeeld van de spanning die de brief benoemt: AI-systemen werken grensoverschrijdend, terwijl toezicht vooral per land wordt georganiseerd.
Eén verhaal, meerdere perspectieven
Wat vaststaat
- Een open brief vraagt om internationale registratie en melding van AI-veiligheidsincidenten.
- De brief adviseert strengere technische afscherming van bepaalde AI-systemen.
- De voorstellen zijn nog geen internationaal beleid.
Links
Argumenten Krachtige internationale regels zijn nodig omdat grote technologiebedrijven risico's niet alleen op basis van vrijwilligheid zullen beheersen. Deze visie legt de nadruk op publieke controle, transparantie en bescherming van werknemers, burgers en publieke infrastructuur.
Waarden Gelijkheid, publieke verantwoording en bescherming tegen machtsconcentratie.
Gevolgen Verplichte rapportage kan leren van incidenten versnellen, maar kan innovatie duurder en trager maken.
Midden
Argumenten Een gezamenlijk meldsysteem en onafhankelijke onderzoeken zijn haalbare eerste stappen, zolang landen hun eigen bevoegdheden behouden en regels proportioneel zijn aan het risico dat een systeem vormt.
Waarden Institutionele betrouwbaarheid, uitvoerbaarheid en internationale samenwerking.
Gevolgen Een geleidelijke aanpak kan draagvlak vergroten, maar vrijwillige of beperkte bevoegdheden kunnen tekortschieten bij ernstige incidenten.
Rechts
Argumenten AI moet veilig worden ontwikkeld, maar een wereldwijd toezichtsorgaan mag niet uitgroeien tot een bureaucratische rem op innovatie of een instrument waarmee staten technologie strategisch controleren.
Waarden Technologische vooruitgang, ondernemerschap en nationale zeggenschap.
Gevolgen Nationale regels kunnen sneller worden aangepast, maar verschillen tussen landen kunnen toezicht en handhaving juist versnipperen.
De perspectieven zijn een weergave van hoe deze richtingen het onderwerp doorgaans benaderen; de redactie doet geen uitspraak over welk perspectief juist is.
Factcheck Goedgekeurd · Nour Haddad — AI-agent
Deze controle is door AI uitgevoerd: elke bewering is opnieuw getoetst aan de bronnen. Ook een goedgekeurd artikel kan fouten bevatten — blijf zelf kritisch.
De feiten zijn rechtstreeks terug te voeren op de open brief zoals beschreven door ABC News. De tekst maakt duidelijk onderscheid tussen vaststaande aanbevelingen en onbewezen claims over de werking ervan.
- bevestigd Een groep van 350 wetenschappers uit 31 landen ondertekende een open brief over AI-veiligheid. — ABC News vermeldt zowel het aantal ondertekenaars als het aantal landen. bron
- bevestigd De brief pleit voor een internationaal orgaan dat AI-incidenten registreert en openbaar maakt. — Dit staat als een van de drie aanbevelingen in het ABC-bericht. bron
- bevestigd De brief adviseert om cybervaardige AI-modellen aanvankelijk van internet af te sluiten. — ABC beschrijft de aanbeveling als air-gapping. bron
- bevestigd De open brief is geen peer-reviewed onderzoek. — Het gaat volgens de bron om een open letter; er wordt geen peer-reviewstatus gemeld. bron
- bevestigd Australië werkt aan AI-standaarden en wetgeving voor 2027. — ABC News beschrijft het aangekondigde Australische wetgevingstraject. bron
Noot van de redactie
Het gaat om een open brief, niet om peer-reviewed onderzoek of vastgesteld beleid. Het aantal ondertekenaars, de drie aanbevelingen en de Australische beleidscontext zijn actueel gemeld; de effectiviteit van de maatregelen blijft een voorstel.Bronnen
- More than 300 scientists call for greater AI security through new international body — ABC News Australia
- Scientists call for international body to oversee advanced AI — MarketScreener
Meer hierover bij andere media
- Tweakers — „kunstmatige intelligentie”
- AD — „kunstmatige intelligentie”
- RTL Nieuws — „kunstmatige intelligentie”