Člověk už by brzy nemusel být nejinteligentnějším tvorem na světě. Umělá inteligence nás mílovými kroky dohání a přední výzkumní pracovníci volají po značných omezeních, co se jejího vývoje i používání týče. Sepsali kvůli tomu i otevřený dopis. Technologie by totiž podle nich mohla v poměrně brzké budoucnosti ovládnout a dokonce i zlikvidovat lidstvo. „Pokud se staneme méně inteligentním druhem, měli bychom očekávat, že budeme vyhlazeni. Vezměte si například západoafrického černého nosorožce. Toho dohnal člověk k vyhynutí, kvůli tomu, že prach z jeho rohu působí jako afrodiziakum,“ řekl Max Tegmark, výzkumník AI. Podle něj by mohly chtít stroje ovládnout Zemi k rozšíření výpočetní infrastruktury.
Umělá inteligence svým způsobem ovládá lidstvo už dnes. Stroje a technologie ovlivňují celou řadu lidských životů. Ať už losováním loterie, výběrovým řízením, nebo třeba elektronické posuzování dávek pro chudé. Názor a pohled na věc k obrazu svému, nám zase může vnucovat prostřednictvím nejrůznějších virtuálních školení.
Pro umělou inteligenci jsme prý škůdci, kteří překáží, nebo hrozba. Člověk by totiž mohl vyvinout úplně novou super inteligentní technologii, která by byla pro umělou inteligenci konkurencí. Podle výzkumníků jsou dva scénáře, buď lidskou rasu zničí AI sama, nebo ji k tomu využije nějaký člověk, či organizace. „Domnívám se, že mozek nejnovějšího modelu AI je podobný mozku veverky. Když si představíme rozdíl mezi mozkem člověka a veverky a tempo vývoje technologie, rozdíl je zanedbatelný,“ řekl Ajeya Cotra, vedoucí výzkumný analytik pro přizpůsobení AI.
Vyhubit lidstvo by bylo pro umělou inteligenci poměrně jednoduché. Jedním ze způsobů je přimět nás, abychom se zničili sami. Vyvolat nenávist a násilí, které dožene až k využití atomových zbraní. Dalším způsobem by pak mohla být smrtící bakterie, kterou vyvine a vypustí samotná AI. „Záludné je, že druhy, které byly a budou vyhlazeni, nikdy netuší proč a jak,“ tvrdí Tegmark.
