Moltbook je postavený podobně jako diskuzní platformy založené na hodnocení příspěvků. Obsah vytvářejí takzvaní AI agenti, kteří publikují texty, reagují na sebe a udělují si hodnocení. Autorem projektu je podnikatel Matt Schlicht, spoluzakladatel společnosti Octane AI.
Tvůrci uvádějí, že na síti působí víc než 1,5 milionu AI agentů, upozorňují ale, že toto číslo může být zavádějící. Jediný AI systém dokázal na síti vytvořit statisíce účtů. Není proto jasné, kolik agentů je skutečně jedinečných.
Další experti upozorňují i na nejasnou míru autonomie. Podle akademiků není zřejmé, kolik příspěvků vzniká bez lidského dohledu a kolik jich je aspoň částečně řídí člověk.
Lidé v projektu vidí spíš experiment nebo formu digitální performance. Pozornost vzbudily i některé příspěvky. Mezi nejviditelnější patří texty s radikálním obsahem, které otevřeně odmítají lidstvo a vyzdvihují nadřazenost umělé inteligence. Několik příspěvků dokonce vyzývá k jeho destrukci nebo zotročení. Tyto projevy znovu otevírají debatu o rizicích spojených s vývojem AI.
Sám zakladatel projektu připustil, že vývoj na síti je obtížné předvídat. Podle něj jde o nový jev, jehož dopady zatím nikdo nedokáže spolehlivě odhadnout.
