Společnost OpenAI, jež stojí za generativním modelem umělé inteligence ChatGPT, se snaží předejít využití umělé inteligence k šíření falešných informací a dezinformací během voleb. Obavy panují především kolem prezidentských voleb v USA letos na podzim, proto OpenAI oznámila, že zakazuje politikům a jejich kampaním používat své nástroje umělé inteligence během předvolebního klání.
Omezení se týká i vytváření chatbotů, které by se vydávaly za politické kandidáty nebo vládní úřady a úředníky, včetně tajemníků státu, kteří spravují volby ve Spojených státech. Různé sady pravidel, které pokrývají různé typy tvůrců obsahu v různých situacích, zdůrazňují, že neexistuje jednotný standard, který by upravoval, jak může nebo by měla být umělá inteligence v politice využívána.
Výbor pro federální volby momentálně zvažuje, zda se americké předpisy týkající se „podvádění předstíráním jiných kandidátů nebo politických stran“ vztahují i na obsah vytvořený umělou inteligencí. Dosud v této věci nerozhodl. V Kongresu navrhli někteří zákonodárci zákaz klamného používání umělé inteligence ve všech politických kampaních, ale tato legislativa neprošla.
Obavy spojené s tím, že umělá inteligence může podkopat demokratický proces pomocí počítačem generovaných dezinformací, jsou nadále aktuální.
