Sam Altman heeft gelijk: AI-aangedreven cryptofraude neemt explosief toe

Tot slot een beroepsgroep die erin is geslaagd kunstmatige intelligentie succesvol in zijn workflow te integreren: cryptofraudeurs. Volgens een rapport van blockchain-intelligentiebedrijf TRM Labs is het aantal cryptofraudes het afgelopen jaar met 456% gestegen , grotendeels dankzij de mogelijkheid om deepfake audio- en videoclips te produceren met behulp van kunstmatige intelligentie. Daarmee wordt de recente voorspelling/waarschuwing van OpenAI CEO Sam Altman waargemaakt: een fraudecrisis staat voor de deur.

Er bestaat geen twijfel over dat de fraudesituatie nijpend wordt. De FBI meldde dat ze in 2024 ongeveer 150.000 fraudemeldingen ontving met betrekking tot cryptovalutafraude, waarbij mensen aangaven in totaal meer dan $ 3,9 miljard te hebben verloren. Wereldwijd loopt dat bedrag op tot $ 10,7 miljard volgens gegevens van TRM Labs . Je kunt die cijfers ook flink afronden. In een gesprek met de New York Post zei Ari Redbord, Global Head of Policy bij TRM Labs, dat slechts ongeveer 15% van de slachtoffers daadwerkelijk aangifte doet van deze misdrijven.

Deze oplichtingspraktijken zijn een voortzetting van de zogenaamde ' varkensslachting'-aanvallen die de afgelopen jaren populair zijn geworden, omdat ze mensen niet alleen via tekstberichten misbruiken. AI stelt oplichters nu in staat om realistisch ogende en klinkende audio en video te creëren die iemand kunnen laten denken dat ze met een echt persoon praten – mogelijk zelfs een geliefde of bekend gezicht. TRM Labs waarschuwde dat naarmate AI-modellen agentische vaardigheden krijgen waarmee ze kunnen communiceren met zaken als e-mail en andere apps, het oplichtingsproces geautomatiseerd en veel gangbaarder zal worden.

Vorige week begon Sam Altman de alarmbellen te luiden over hetzelfde probleem – hoewel hij zich niet alleen zorgen maakt over oplichters die misbruik van ons maken, maar eerder over het feit dat ons hele bestaande beveiligingsapparaat onderuitgehaald wordt. Tijdens een toespraak op een conferentie over banktoezicht zei Altman dat AI de meeste authenticatiediensten die mensen gebruiken om hun identiteit te verifiëren en toegang te krijgen tot hun vertrouwelijke rekeningen, al "volledig heeft verslagen".

"De maatschappij moet dit probleem in bredere zin aanpakken", zei Altman, vermoedelijk gekleed in een hotdogpak en roepend: "We proberen allemaal de man te vinden die dit gedaan heeft." Om die reden kondigde Altmans eigen bedrijf eerder deze maand aan dat het een ChatGPT Agent zou uitbrengen die effectief met een computer kon communiceren, net als een mens, door te schakelen tussen apps en taken uit meerdere stappen uit te voeren, zoals inloggen op verschillende accounts en het nemen van beslissingen.

Altmans waarschuwing voor een oplichtingsapocalyps lijkt overeenkomsten te vertonen met de algemene waarschuwingen die AI-managers geven over de potentiële risico's van kunstmatige algemene intelligentie, namelijk: "Dit zou heel ernstig kunnen zijn, maar we gaan absoluut niet stoppen."