pondělí 31. března 2025

Na trénování umělé inteligence OpenAI bude dohlížet bezpečnostní komise

Společnost OpenAI vytvořila bezpečnostní komisi, která odhlíží na trénování nového modelu umělé inteligence.

Sam Altman

Šéf OpenAI Sam Altman
Zdroj: Flickr

  • Šéf OpenAI Sam Altman
  • Zdroj: Flickr

Společnost OpenAI, stojící za generativní umělou inteligencí ChatGPT, vytvořila bezpečnostní výbor, který povede generální ředitel Sam Altman. Komise bude zajištovat bezpečnost svého nejnovějšího modelu umělé inteligence. Výbor bude mimo jiné zodpovědný za doporučení klíčových bezpečnostních opatření pro společnost. Výbor povede Altman spolu s programátorem Bretem Taylorem, zakladatelem Quory Adamem D'Angelom a právničkou Nicole Seligman, jak uvádí příspěvek na blogu společnosti.

Prvním úkolem výboru bude aktualizovat stávající bezpečnostní postupy společnosti během 90 dnů a předložit doporučení představenstvu. Poté budou přijatá opatření sdílena s veřejností. „Bezpečnost vnímáme jako oblast, do které musíme investovat a ve které musíme uspět,“ uvedla společnost OpenAI.

Oznámení přichází několik týdnů poté, co OpenAI rozpustila tým zaměřený na zmírnění rizik spojených s umělou inteligencí, jako je například nekontrolované chování. Tým fungoval méně než rok.

Autor: Šimon Mitro

Související

Nvidia představila svého prvního humanoidního robota jménem Blue
Zahraniční AI

Skutečné Star Wars na dosah ruky. Nvidia představila svého humanoidního robota

Umělá inteligence
Zahraniční AI

Evropská pravidla pro AI vyvolávají obavy u technologických firem

OpenAI
Zahraniční AI

Britský úřad zrušil vyšetřování dohody mezi Microsoftem a OpenAI

ChatGPT
Zahraniční AI

Estonsko sází na umělou inteligenci ve školách