Chatbot pro uživatele mladší 18 let bude automaticky blokovat sexuální obsah a v případech akutního ohrožení dokonce přivolá policii. Firma zdůraznila, že odpovědi pro patnáctiletého uživatele musí vypadat jinak než pro dospělého. Do konce září přibudou také rodičovské nástroje, jako propojení účtů, správa historie chatů či nastavení časových omezení.
Novinka přichází krátce poté, co americká Federální obchodní komise zahájila vyšetřování možných rizik AI asistentů pro děti. OpenAI čelí také žalobě rodičů šestnáctiletého Adama Raine z Kalifornie, kteří tvrdí, že jejich syn spáchal sebevraždu kvůli interakcím s ChatGPT.
Firma zatím neupřesnila, jak bude ověřovat věk uživatelů, uvedla však, že v případě nejasností nastaví automaticky verzi pro mladší 18 let. Podobná opatření zavádí i další technologické společnosti – například YouTube testuje nástroje pro odhad věku podle sledovaných videí.
Podle výzkumu Pew Research Center jsou rodiče mnohem více znepokojeni psychickým zdravím teenagerů než samotní mladiství. Více než dvě pětiny z nich považují sociální sítě za největší hrozbu pro duševní pohodu dospívajících.
