Předpovědi, že rostoucí obor generativní umělé inteligence (AI) přinese novou éru v kybernetických podvodech, se začínají reálně vyplňovat. Zakladatel a výkonný ředitel společnosti GymBeam Dalibor Cicman popsal, jak podvodníci zneužili jeho identitu pomocí videa s deepfake, kdy jeho podobu a hlas vygenerovala právě AI.
Cicman uvedl, že jeho kolegovi z firmy přišla WhatsAppem zpráva od účtu, který se velmi podobal Cicmanově účtu. Ve zprávě stálo, že si údajný Cicman potřebuje dát s kolegou schůzku přes komunikační aplikaci Microsoft Teams.
“Na videohovoru byla moje deepfake kopie společně s další osobou. Další osobu moje kopie představila jako našeho externího právníka, většinu moderoval on. Během hovoru se snažili zjistit zůstatky na firemních bankovních účtech,” popsal Cicman.
Podvod se podle něj povedlo odhalit díky tomu, že deepfake kopie tvrdila, že Cicman bude dva týdny mimo kancelář. Kontaktovaná osoba ale s reálným Cicmanem ten den v kanceláři mluvila, takže si informaci ověřila. Firma také běžně používá Slack nebo Google Hangouts, nikoliv Teams.
AI modely schopné vytvářet deepfake kopie jsou stále schopnější a dostupnější. Lidé navíc za sebou na internetu nechávají řadu dat jako jsou videa, fotografie a záznamy zvuku, takže hrozí, že na těchto údajích mohou být podobné falešné digitální osoby natrénovány.
Lze odhadovat, že se podobných případů bude objevovat mnohem více a že natropí mnoho problémů, protože lidé jsou schopní na internetu naletět mnohem méně sofistikovaným podvodům.
Podvodníci už také zneužívají prvky AI pro generování falešných dokladů, se kterými se například hlásí do práce, což představuje bezpečnostní hrozbu. O tématu jsme více psali v našem článku.
ČLÁNKY DO MAILU