Stel je voor, de CEO van het bedrijf waar je werkt plant een online meeting met je in en vraagt je om geld over te maken. Alles klopt: gezicht, stem, context, urgentie. Dus je maakt het geld over. Maar weet je zeker dat je daadwerkelijk met de CEO sprak? Of was het AI? Vertrouwen is goed, verificatie is alles.
Wat Erik de Jong – Chief Research Officer bij cybersecuritybedrijf Tesorion – betreft, kunnen we niet meer blindelings vertrouwen op onze ogen en oren. De Jong schreef er een opiniestuk over voor Metro.
We hebben in de maatschappij altijd vertrouwd op menselijke signalen zoals stem en gezicht als bewijs van identiteit. Maar wat acht jaar geleden vooral een gimmick was en ‘voor de lol’ werd ingezet, is tegenwoordig een serieus bedrijfsrisico geworden: een gezicht en stem door middel van AI overtuigend namaken met vrij beschikbare software voor misbruikdoeleinden. Oftewel, deepfakes. En daarmee is de basis waarop we vertrouwen fundamenteel anders. Wat we zien en horen is niet langer betrouwbaar bewijs van wie iemand is.
Leestip: Veel Nederlanders overschatten zichzelf, 9 op de 10 trapt soms in online oplichting.
Veiligheidsprocedures AI in het bedrijfsleven
Het bedrijfsleven kent de gevolgen al. CEO-fraude treft zowel grote bedrijven zoals Pathé in 2018, als gemeenten zoals Krimpen aan den IJssel (in 2023 slachtoffer). Daarom zijn er bij de meeste organisaties inmiddels processen ingericht die voor veiligheid en verificatie zorgen. Maar dat werkt alleen als medewerkers zo’n proces volgen en verificatie in de organisatie wordt geaccepteerd en aangemoedigd. Het gaat fout zodra mensen uit welwillendheid buiten het proces om toch iets regelen, zeker als ze onder druk worden gezet om een verzoek snel in te willigen. Niemand wil een obstakel zijn. Daarom zijn medewerkers die weten wanneer ze moeten doorvragen steeds belangrijker.
Een bedrijfsomgeving is bij uitstek geschikt voor zulke procedures. Als een directeur of CFO mailt of appt met het verzoek om geld over te maken, kun je daar een verificatieproces omheen bouwen. Denk aan het terugbellen op het bij jou bekende nummer. Of het toetsen van het verzoek op een vooraf afgesproken manier. Maar niet elke situatie leent zich hiervoor, zeker niet in het dagelijks leven. Wat betekent dat voor vertrouwen in persoonlijke situaties waarin dit soort processen er niet zijn?
Maatschappij zonder vierogenprincipe
Buiten het bedrijfsleven is een verificatiecultuur nog ver weg (en AI niet). Als een onbekend nummer je belt en je vervolgens het gezicht en de stem van je moeder ziet en hoort, dan geloof je dat. Geen vierogenprincipe of verificatieproces, alleen menselijke signalen en het gevoel dat het om je moeder gaat. Maar die zekerheid bestaat door AI niet meer.
Ook in de privésfeer vindt fraude plaats. Denk aan de bekende ‘vriend in nood’-fraude, ofwel het appje van ‘je vader’ of ‘je kind’ die je om geld vraagt (zo herken je online AI-oplichters trouwens). Maar de schaal waarop bij deze vorm van fraude ook beeld en geluid gebruikt worden, is nog beperkt.
Cybercriminelen innoveren pas als het daadwerkelijk loont. Zolang phishingmails of appjes resultaat opleveren, ontbreekt de noodzaak om een gezicht of stem toe te voegen om het verzoek extra kracht bij te zetten. In de maatschappij is het kantelpunt rondom vertrouwen dus nog niet bereikt. Maar de gebeurtenissen uit het bedrijfsleven laten zien waar het naartoe gaat. Alles direct wantrouwen is niet nodig. Je bewust zijn dat wat je ziet en hoort niet altijd is wat het lijkt, wel.
Leestip: Beste geslaagden, je diploma is dankzij AI minder waard dan je denkt.
Vertrouwen is alles, verificatie nodig
Vertrouwen is het fundament van onze samenleving. Dat blijft zo. Wat er nodig is, is een cultuuromslag. Of je nu op je werk een betalingsverzoek krijgt of thuis wordt gebeld, leer jezelf de reflex aan om te verifiëren. Via processen, maar ook met een houding waarin verificatie normaal is.
Voelt iets niet juist, jaagt iemand je op of staat ergens druk op? Verifieer iemands identiteit dan via een ander communicatiekanaal. Niet ‘wat een gedoe’ als iemand dubbelcheckt of je identiteit klopt, maar juist ‘fijn dat je het verifieert’. Verificatie is geen wantrouwen in een persoon, maar de nieuwe vorm van vertrouwen.
Wat doe jij als je door een ‘echt gezicht en echte stem’ wordt gevraagd om geld over te maken? Laat hier hieronder weten!
Dit zijn de best gelezen artikelen van dit moment:
- Wat kun je beter drinken: kraanwater of water uit een fles? Drinkwaterexpert legt uit
- Janet (59) en Pauline (54) bouwden als zzp’er geen pensioen op: ‘Nu ik bijna 60 ben, komt dat pensioen ineens dichtbij’
- Iemand begint te huilen? Experts leggen uit welke woorden helpen en wat je beter kunt vermijden
- Bosbranden in Frankrijk en Spanje zorgen voor onrust: zo bereid je je vakantie goed voor
- Doden crash Heibloem zijn 4 mannen, onder wie boer John uit Boer zoekt vrouw: ‘Door kijkers in het hart gesloten’
