Generální ředitel společnosti Anthropic Dario Amodei upozorňuje, že vývoj umělé inteligence předbíhá zákony, regulace i schopnost společnosti reagovat. Svět podle něj vstupuje do fáze technologické dospívání, kdy se ukáže, jak lidstvo dokáže zvládnout vlastní vynálezy. Pokud stát ani firmy nezavedou jasná pravidla, může se AI stát nástrojem útlaku.
Amodei varuje, že během dvou let může AI překonat špičkové odborníky napříč obory, od programování po biologii. Spolupracující systémy přirovnává k celé zemi géniů uzavřené v datovém centru, která pracuje mnohonásobně rychleji než člověk. Právě kombinace extrémní inteligence, autonomie a obtížné kontroly podle něj představuje existenční riziko.
Největší hrozbu vidí v autoritářských režimech, které by mohly AI využít k masovému dohledu a potlačení opozice. Umělá inteligence schopná analyzovat miliardy konverzací by dokázala odhalovat nespokojenost a potlačit ji dřív, než zesílí. Takové využití považuje Amodei za útok na samotné základy svobody.
Za klíčové opatření označuje kontrolu vývozu pokročilých čipů, bez nichž nelze trénovat nejvýkonnější modely. Demokracie by podle něj neměly tyto technologie prodávat autoritářským státům. Zároveň vyzývá k větší transparentnosti AI firem a společnému dohledu nad vývojem technologií, které mohou zásadně změnit budoucnost lidstva.
