Stejně jako YouTube či Facebook i TikTok jde do boje s obsahem vygenerovaným umělou inteligencí. Videa a obrázky, která rozpozná jako výtvor umělé inteligence, začala čínská sociální síť označovat, aby uživatelé věděli, zda jde o obsah vytvořený lidmi či AI.
TikTok využívá technologii Content Credentials, na které se podílí několik společností včetně Microsoftu, Adobe či Nikonu. Content Credentials by měla být schopna rozpoznat i deepfake obrázky či klonování hlasů. Funkce na TikToku tak bude v budoucnu fungovat i u zvukových nahrávek. TikTok je první sociální sítí, která Content Credentials začala využívat pro detekci AI výtvorů.
Čínská síť se zároveň přidává k iniciativě Adobe zaměřené na důvěryhodnost obsahu a chce tak podpořit její rozšíření v celém odvětví. TikTok již dříve vyzýval uživatele, aby označovali obsah vytvořený nebo výrazně upravený umělou inteligencí. Zvláštní označení je nutné také u realistických obrázků, zvuků a videí, které umělá inteligence vytvořila.
