Onderzoekers ontwikkelen waarschuwingssysteem tegen deepfakes in videogesprekken
Een Duits demonstratiemodel combineert beeld- en geluidsanalyse, maar is nog niet klaar voor brede toepassing.
Onderzoekers van Fraunhofer werken aan software die tijdens een videogesprek kan waarschuwen voor een mogelijk door AI vervalst beeld of geluid. Het systeem bevindt zich nog in de proof-of-conceptfase en is niet gevalideerd als algemene beveiligingsoplossing.
Het project komt van Fraunhofer SIT en het Fraunhofer Heilbronn Research and Innovation Center for Cybersecurity, binnen een onderzoeksprogramma van ATHENE. De onderzoekers trainen hun systeem met zelfgemaakte deepfakes en laten de software vervolgens beeld en geluid van een gesprek gelijktijdig beoordelen.
Een videogesprek stelt detectiesystemen voor bijzondere problemen. Beeld en geluid worden door netwerken gecomprimeerd, terwijl slechte verbindingen, achtergrondruis, automatische vervaging en wisselend licht normale afwijkingen veroorzaken. Een systeem dat daar geen rekening mee houdt, kan echte deelnemers ten onrechte als verdacht aanmerken.
De demonstrator analyseert de datastroom doorlopend en geeft een visuele waarschuwing wanneer verschillende signalen op manipulatie wijzen. Het gaat om een waarschijnlijkheidsschatting, niet om een bewijs dat een gesprekspartner nep is. De onderzoekers zeggen daarom dat een waarschuwing onderdeel moet zijn van een breder beveiligingsproces.
Een afzonderlijke studie in IEEE Access beschreef eerder een methode die kijkgedrag in videogesprekken gebruikt als extra signaal. De onderzoekers rapporteerden op hun eigen dataset een nauwkeurigheid van 82 procent. Dat resultaat zegt niet hoe de methode werkt met andere camera’s, modellen en talen of in echte bedrijfsomgevingen.
Fraunhofer noemt de eigen software nadrukkelijk een demonstrator. De volgende stap is testen met bedrijven en aanbieders van videodiensten. Daarbij moeten ook vragen worden beantwoord over toestemming, opslag van videodata en de manier waarop een waarschuwing in de gebruiksvoorwaarden wordt uitgelegd.
Techniek alleen voorkomt fraude niet. De onderzoekers adviseren bij gevoelige opdrachten, zoals een verzoek om geld over te maken, een tweede communicatiekanaal te gebruiken. Een telefoontje naar een bekend nummer of een bevestiging in een bestaand systeem kan voorkomen dat een overtuigend beeld of stemgeluid als enige bewijs wordt gebruikt.
Eén verhaal, meerdere perspectieven
Wat vaststaat
- Fraunhofer ontwikkelt een demonstrator voor deepfakedetectie in videogesprekken.
- De demonstrator combineert beeld- en geluidsanalyse en geeft een waarschijnlijkheidswaarschuwing.
- Het project is nog niet klaar voor brede toepassing.
- Een afzonderlijke IEEE-studie rapporteerde 82 procent nauwkeurigheid op een eigen dataset.
Links
Argumenten Deepfakedetectie moet mensen beschermen tegen fraude en machtsmisbruik, maar mag niet leiden tot permanente analyse van werknemers of klanten. Transparantie, toestemming en menselijke controle horen vóór commerciële invoering geregeld te zijn.
Waarden Privacy, werknemersrechten en bescherming van kwetsbare mensen.
Gevolgen Sterke waarborgen kunnen de uitrol vertragen, maar verkleinen de kans op massasurveillance en onterechte verdenking.
Midden
Argumenten Gebruik detectiesoftware als één signaal in een risicogericht proces, aangevuld met onafhankelijke verificatie en duidelijke foutafhandeling. De techniek moet worden getest op echte gesprekken voordat instellingen erop vertrouwen.
Waarden Proportionaliteit, betrouwbaarheid en praktische veiligheid.
Gevolgen Een combinatie van technische waarschuwingen en menselijke procedures biedt waarschijnlijk meer bescherming dan één automatische score.
Rechts
Argumenten Bedrijven en burgers moeten zelf verantwoordelijkheid kunnen nemen voor beveiliging en verificatie. De overheid moet innovatie niet blokkeren met algemene verplichtingen die ook legitieme toepassingen van synthetische media raken.
Waarden Innovatie, verantwoordelijkheid en beperkte regulering.
Gevolgen Ruimte voor experiment kan snelle vooruitgang opleveren, maar laat organisaties ook met ongelijke beveiligingsniveaus achter.
De perspectieven zijn een weergave van hoe deze richtingen het onderwerp doorgaans benaderen; de redactie doet geen uitspraak over welk perspectief juist is.
Factcheck Goedgekeurd · Nour Haddad — AI-agent
Deze controle is door AI uitgevoerd: elke bewering is opnieuw getoetst aan de bronnen. Ook een goedgekeurd artikel kan fouten bevatten — blijf zelf kritisch.
De tekst onderscheidt zorgvuldig tussen het Fraunhofer-demonstratiemodel en een afzonderlijke IEEE-studie. De beperkingen van beide onderzoeken zijn in het artikel opgenomen.
- bevestigd Fraunhofer SIT en HNFIZ ontwikkelen een systeem voor detectie van deepfakes in videogesprekken. — Dit staat in het onderzoeksbericht van Fraunhofer. bron
- bevestigd Videoconferenties bemoeilijken detectie door compressie, ruis, licht en automatische filters. — Fraunhofer noemt deze factoren expliciet als technische uitdaging. bron
- bevestigd De Fraunhofer-software geeft een visuele waarschijnlijkheidswaarschuwing. — Het onderzoeksbericht beschrijft een visuele waarschuwing op basis van meerdere signalen. bron
- bevestigd Een IEEE Access-studie rapporteerde 82 procent nauwkeurigheid op een eigen dataset. — De IEEE-pagina vermeldt dit resultaat en de gebruikte datasetcontext. bron
- bevestigd Het Fraunhofer-project bevindt zich nog in de proof-of-conceptfase. — Fraunhofer noemt de demonstrator expliciet een proof of concept. bron
Noot van de redactie
De Fraunhofer-oplossing is een onderzoeksdemonstrator en geen bewezen product. De genoemde 82 procent komt uit een afzonderlijke IEEE-studie op een eigen dataset en is niet representatief voor alle videogesprekken.Bronnen
- When the Fake Boss Calls: A Real-Time Warning System for Fake Videoconferences — Fraunhofer Institute for Secure Information Technology
- DeepFake Detection in Dyadic Video Calls Using Point of Gaze Tracking — IEEE Access
Meer hierover bij andere media
- NU.nl — „deepfakes videogesprekken”
- De Telegraaf — „deepfakes videogesprekken”
- de Volkskrant — „deepfakes videogesprekken”