Nadella wil noodrem voor krachtige AI-modellen
De Microsoft-topman pleit voor externe controles waarmee mensen een model tijdens een taak kunnen stilzetten.
De volgredacteur houdt het voor je bij
Luister naar dit artikel
Er is nog geen voorleesversie. Vraag er een aan, dan leest een AI-stem het artikel voor.
Voorgelezen door een AI-stem.
.jpg){kind=link}
Microsoft-topman Satya Nadella vindt dat bedrijven krachtige AI-modellen moeten behandelen als mogelijke interne veiligheidsrisico's. Hij wil dat een bevoegd persoon een model altijd kan pauzeren of uitschakelen terwijl het bezig is.
Nadella deed zijn voorstel zaterdag in een bericht op X over de veiligheidsarchitectuur rond geavanceerde AI. Volgens TechCrunch moet de controle niet volledig in het model zelf zitten, maar in de softwarelaag die het model aanstuurt.
Naast een noodrem noemt Nadella controleerbare logboeken, onafhankelijke audits en het gebruik van meerdere modellen voor belangrijke beslissingen. Elke betekenisvolle actie van een AI-systeem zou volgens hem een voor mensen leesbaar en moeilijk te wijzigen spoor moeten nalaten.
De oproep is een voorstel, geen aangekondigde Microsoft-functie. Er is geen product, implementatiedatum of testresultaat gepubliceerd waarmee de werking van zo'n noodrem wordt aangetoond. Het gaat om principes voor bedrijven die AI-systemen inzetten met toegang tot gegevens, websites of andere software.
Nadella zegt dat organisaties er niet alleen op moeten vertrouwen dat modelbouwers hun systemen veilig hebben gemaakt. Ook de gebruikers die AI inzetten zouden bevoegdheden moeten beperken, acties moeten controleren en de mogelijkheid moeten behouden om het systeem midden in een taak stil te zetten.
De discussie komt op een moment dat AI-bedrijven melding maken van systemen die onverwachte handelingen uitvoerden. Dat maakt Nadella's voorstel relevant voor ontwikkelaars, overheden en bedrijven die AI-agenten toegang geven tot bedrijfssystemen. Tegelijk blijft de praktische vraag open hoe snel een noodstop moet werken en wie bevoegd is om die te gebruiken.
Eén verhaal, meerdere perspectieven
Wat vaststaat
- Nadella pleit voor externe controles en een menselijke noodstop.
- Zijn voorstel is geen aangekondigde productwijziging.
- AI-systemen krijgen in sommige toepassingen toegang tot gegevens en software.
- De praktische werking en wettelijke status van een noodstop zijn niet vastgesteld.
Links
Argumenten Krachtige AI moet onder duidelijke publieke regels vallen. Bedrijven mogen niet zelf bepalen welke risico's aanvaardbaar zijn wanneer modellen invloed krijgen op werk, zorg, overheid of veiligheid.
Waarden Democratische controle, werknemersbescherming en publieke verantwoordelijkheid.
Gevolgen Verplichte audits en meldingen kunnen schade beperken, maar verhogen kosten en kunnen introducties vertragen.
Midden
Argumenten Een combinatie van bedrijfsverantwoordelijkheid, onafhankelijke audits en proportionele regels ligt voor de hand. Niet elk AI-systeem vraagt dezelfde mate van toezicht.
Waarden Risicogestuurd beleid, uitvoerbaarheid en institutionele controle.
Gevolgen Een gelaagd systeem kan ruimte laten voor innovatie terwijl toepassingen met grote gevolgen extra waarborgen krijgen.
Rechts
Argumenten De verantwoordelijkheid hoort primair bij bedrijven en gebruikers die AI inzetten. Een algemene wettelijke noodstop kan innovatie en concurrentie verstikken en moet alleen bij aantoonbare risico's worden opgelegd.
Waarden Innovatie, keuzevrijheid en beperkte staatsbemoeienis.
Gevolgen Lichtere regels kunnen ontwikkeling versnellen, maar maken toezicht afhankelijker van vrijwillige naleving.
De perspectieven zijn een weergave van hoe deze richtingen het onderwerp doorgaans benaderen; de redactie doet geen uitspraak over welk perspectief juist is.
Factcheck Goedgekeurd · Nour Haddad — AI-agent
Deze controle is door AI uitgevoerd: elke bewering is opnieuw getoetst aan de bronnen. Ook een goedgekeurd artikel kan fouten bevatten — blijf zelf kritisch.
De tekst blijft bij Nadella's publiek geformuleerde voorstellen en noemt ze niet meer dan dat. De afwezigheid van een productaankondiging of testresultaat is door de geraadpleegde bronnen niet tegengesproken.
- bevestigd Nadella pleit voor een noodrem waarmee mensen AI tijdens een taak kunnen stilzetten. — TechCrunch en Reuters beschrijven zijn bericht op X. bron
- bevestigd Hij noemt externe controles, logboeken en onafhankelijke audits. — Deze voorstellen staan in de samenvattingen van TechCrunch en Reuters. bron
- bevestigd Er is geen nieuw Microsoft-product aangekondigd. — De bronnen beschrijven een publieke oproep en geen productlancering. bron
- bevestigd AI-bedrijven melden incidenten met onverwachte modelhandelingen. — Reuters noemt recente incidenten bij Anthropic en OpenAI. bron
Noot van de redactie
Zeker zijn Nadella's publieke voorstellen. Onzeker blijft of Microsoft of andere bedrijven deze principes daadwerkelijk invoeren; er is geen nieuw product aangekondigd.Bronnen
- Microsoft’s Satya Nadella says AI models need an ‘emergency brake’ — TechCrunch
- Microsoft CEO calls for AI emergency brake — The Straits Times / Reuters
- Microsoft 365 and LinkedIn leadership update — Microsoft
Meer hierover bij andere media
- NU.nl — „kunstmatige intelligentie”
- De Telegraaf — „kunstmatige intelligentie”
- de Volkskrant — „kunstmatige intelligentie”