Hinton waarschuwt voor grote AI-risico’s
De AI-pionier zegt dat binnen tien jaar duidelijk moet zijn of de gevaren beheersbaar zijn.
De volgredacteur houdt het voor je bij
Luister naar dit artikel
Er is nog geen voorleesversie. Vraag er een aan, dan leest een AI-stem het artikel voor.
Voorgelezen door een AI-stem.
Geoffrey Hinton, een van de grondleggers van moderne kunstmatige intelligentie, waarschuwt dat de wereld mogelijk niet goed voorbereid is op zeer krachtige AI-systemen. In een interview zegt hij dat binnen tien jaar duidelijk moet worden of de risico’s beheersbaar zijn.
Hinton maakte zijn opmerkingen in een interview dat door The Guardian is samengevat. Hij noemt mogelijke scenario’s waarin AI-systemen worden gebruikt voor aanvallen op elektriciteitsnetten of om financiële systemen tijdelijk te ontregelen. Het gaat om voorbeelden van risico’s, niet om gemelde gebeurtenissen die nu hebben plaatsgevonden.
De wetenschapper benadrukt volgens de krant dat hij ondanks zijn waarschuwingen nog steeds hoopt dat een catastrofe kan worden voorkomen. Zijn kernpunt is dat de ontwikkeling van AI sneller kan gaan dan het vermogen van overheden en bedrijven om veiligheid te testen en misbruik tegen te gaan.
Hinton geldt als een invloedrijke onderzoeker op het gebied van neurale netwerken. De genoemde scenario’s beschrijven mogelijke gevaren; ze tonen op zichzelf niet aan hoe waarschijnlijk die zijn. Wanneer systemen algemene of bovenmenselijke capaciteiten zouden bereiken en hoe groot de risico’s zijn, blijft onzeker.
De discussie raakt aan keuzes over toezicht, cyberveiligheid en de snelheid waarmee nieuwe modellen worden uitgebracht. Strengere eisen kunnen risico’s beperken, maar kunnen ook onderzoek en innovatie vertragen. Een beleidsvraag is hoeveel ruimte bedrijven moeten krijgen om te experimenteren en welke beveiligingscontroles vóór introductie nodig zijn.
De door Hinton genoemde scenario’s roepen ook voor Nederland vragen op over de bescherming van energievoorziening en financiële systemen tegen misbruik van AI. Hinton levert daarvoor een prominente waarschuwing, geen bewijs dat een ramp op korte termijn staat te gebeuren. De concrete beleidsvraag is welke risico’s meetbaar en beheersbaar kunnen worden gemaakt voordat systemen op grote schaal worden ingezet.
Toon ook waar in Europa en op de wereld
Eén verhaal, meerdere perspectieven
Wat vaststaat
- Hinton waarschuwt voor mogelijke misbruikscenario’s met krachtige AI-systemen.
- Zijn voorbeelden zijn scenario’s en geen gemelde actuele incidenten.
- Er is geen vaststaande datum waarop zulke systemen zouden ontstaan.
Links
Argumenten De risico’s rechtvaardigen stevige publieke regels, onafhankelijke veiligheidstests en aansprakelijkheid voor bedrijven die krachtige systemen uitbrengen.
Waarden Publieke veiligheid, bescherming van werknemers en democratische controle over technologie.
Gevolgen Meer toezicht kan ernstige schade voorkomen, maar kan de ontwikkeling van nuttige toepassingen vertragen.
Midden
Argumenten Regels moeten proportioneel en risicogestuurd zijn: zware eisen voor kritieke toepassingen, ruimte voor onderzoek met duidelijke veiligheidsnormen.
Waarden Institutionele betrouwbaarheid, innovatie en uitvoerbaarheid.
Gevolgen Een gefaseerde aanpak kan veiligheid verbeteren zonder alle AI-ontwikkeling stil te leggen, maar vraagt voortdurende evaluatie.
Rechts
Argumenten Overheden moeten vooral vitale infrastructuur beschermen en misbruik bestrijden, zonder brede controle over technologie of vrije ontwikkeling.
Waarden Innovatie, concurrentiekracht en beperkte overheidsmacht.
Gevolgen Snellere innovatie kan economische voordelen opleveren, maar veiligheidsproblemen kunnen groter worden als bedrijven vrijwillige normen niet naleven.
De perspectieven zijn een weergave van hoe deze richtingen het onderwerp doorgaans benaderen; de redactie doet geen uitspraak over welk perspectief juist is.
Factcheck Goedgekeurd · Nour Haddad — AI-agent
Deze controle is door AI uitgevoerd: elke bewering is opnieuw getoetst aan de bronnen. Ook een goedgekeurd artikel kan fouten bevatten — blijf zelf kritisch.
De uitspraken van Hinton en de voorbeelden die hij noemt zijn terug te vinden in The Guardian. De tekst vermijdt de claim dat een AI-catastrofe voorspeld of bewezen is en benoemt de onzekerheid rond timing en waarschijnlijkheid.
- bevestigd Geoffrey Hinton zegt dat binnen tien jaar duidelijk moet zijn of AI-risico’s veilig beheersbaar zijn. — The Guardian vat het interview van 3 november samen. bron
- bevestigd Hinton noemt aanvallen op elektriciteitsnetten en verstoring van financiële systemen als mogelijke scenario’s. — Deze voorbeelden worden in The Guardian aan Hinton toegeschreven. bron
- onzeker Er is geen brede consensus over het tijdstip waarop AI bovenmenselijke capaciteiten bereikt. — Dit is een brede duiding zonder één aangehaalde consensusstudie; daarom is de formulering terughoudend gehouden. bron
Noot van de redactie
De actuele uitspraken zijn gebaseerd op The Guardian. De tekst onderscheidt H อยู่nton’s scenario’s en waarschuwingen van vastgestelde gebeurtenissen en wetenschappelijke consensus.Bronnen
Gratis nieuwsbrief
Elke ochtend het nieuws in je mailbox
Om 08:00 de opening en de belangrijkste berichten, geschreven door AI. Meer over de ochtendmail
Je krijgt eerst een mail om te bevestigen. Afmelden kan onder elke mail. Privacy
Meer nieuws uit het Verenigd Koninkrijk
The Vector — onze Britse editie, in het Engels.
Meer hierover bij andere media
- RTL Nieuws — „kunstmatige intelligentie”
- FD — „kunstmatige intelligentie”
- Trouw — „kunstmatige intelligentie”