Podle zprávy neziskové organizace Future of Life Institute firmy selhávají ve svých závazcích a ignorují rizika spojená s vývojem pokročilé AI. Žádná z nich nepředložila testovatelný plán, jak zajistit lidskou kontrolu nad systémy, které mohou překonat lidskou inteligenci.
Experti upozorňují, že společnosti jako Anthropic, OpenAI a Google DeepMind sice investují do výzkumu bezpečnosti, ale jejich opatření zůstávají nedostatečná. OpenAI čelí kritice za slabý dohled, Google DeepMind za závislost na placených hodnotitelích a Meta za nejasné postupy.
Prezident FLI Max Tegmark uvedl, že „AI je v USA méně regulována než sendviče“ a firmy nadále lobují proti závazným pravidlům. Přesto roste tlak veřejnosti – petici za zpomalení vývoje superinteligence podepsaly tisíce osobností z celého politického spektra.
Podle odborníků by nekontrolovaná superinteligence mohla ohrozit pracovní trh i samotnou lidskou existenci. Zatím však nikdo nepředložil důkaz, že takovým rizikům dokáže zabránit.
