Podle generálního ředitele Sama Altmana pokládá týdně řada dětí a dospívajících ChatGPT otázky týkající se sebevraždy. V těchto případech by podle něho bylo na místě upozornit o vyhledávaném obsahu rodiče nebo příslušný úřad.
Otázkou zůstává, jak tato opatření zavést do praxe. Aplikace by vyžadovala řadu údajů o uživateli, které podléhají ochraně. Druhým aspektem je, jak by aplikace rozpoznala, že se jedná o skutečné ohrožení života, a nejde jen o pouhý žert.
Diskuzi o bezpečnosti dětí a teenagerů společnost otevřela po tragické nehodě letos v dubnu, kdy se 16letý Adam Raine s chatbotem radil o spáchání sebevraždy. Rodina zesnulého chlapce společnost zažalovala.
