Hlasové deepfakes umožňují pomocí nejnovějších technologií vzít hlas kohokoliv na světě a vložit mu do úst slova, která by možná nikdy neřekl. Rozeznat řeč umělou od reálné nedokážou spolehlivě lidé ani biometrické systémy.
Podvodníci se snaží s pomocí umělé inteligence získat přístup do firemních systémů, k důležitým informacím nebo k účtům. O problémy si tak říká třeba banka na Slovensku, která vydá kreditní kartu jen na základě verifikace hlasem. „Vzhledem k tomu, že úniky dat jsou běžné a není problém koupit si něčí osobní informace, bude s pomocí deepfake nahrávek hlasu velmi snadné o kreditku zažádat na jiného člověka," míní odhaduje Anton Firc z Fakulty informačních technologií Vysokého učení technického v Brně
Podle něj můžou vzniknout armády umělých telemarketérů, kteří budou volat starším lidem a předstírat, že jsou například členové rodiny, měli autonehodu a potřebují okamžitě poslat peníze.
Problémem se aktuálně zabývá Ministerstvo vnitra, které podalo výzvu na bezpečnostní výzkum, na němž Anton Firc a jeho tým intenzivně pracuje. Cílem je vytvořit nástroje, které podvodnou hlasovou nahrávku spolehlivě identifikují.
