čtvrtek 24. dubna 2025

Na trénování umělé inteligence OpenAI bude dohlížet bezpečnostní komise

Společnost OpenAI vytvořila bezpečnostní komisi, která odhlíží na trénování nového modelu umělé inteligence.

Sam Altman

Šéf OpenAI Sam Altman
Zdroj: Flickr

  • Šéf OpenAI Sam Altman
  • Zdroj: Flickr

Společnost OpenAI, stojící za generativní umělou inteligencí ChatGPT, vytvořila bezpečnostní výbor, který povede generální ředitel Sam Altman. Komise bude zajištovat bezpečnost svého nejnovějšího modelu umělé inteligence. Výbor bude mimo jiné zodpovědný za doporučení klíčových bezpečnostních opatření pro společnost. Výbor povede Altman spolu s programátorem Bretem Taylorem, zakladatelem Quory Adamem D'Angelom a právničkou Nicole Seligman, jak uvádí příspěvek na blogu společnosti.

Prvním úkolem výboru bude aktualizovat stávající bezpečnostní postupy společnosti během 90 dnů a předložit doporučení představenstvu. Poté budou přijatá opatření sdílena s veřejností. „Bezpečnost vnímáme jako oblast, do které musíme investovat a ve které musíme uspět,“ uvedla společnost OpenAI.

Oznámení přichází několik týdnů poté, co OpenAI rozpustila tým zaměřený na zmírnění rizik spojených s umělou inteligencí, jako je například nekontrolované chování. Tým fungoval méně než rok.

Autor: Šimon Mitro

Související

AI
Zahraniční AI

Veřejnost a odborníci na umělou inteligenci se liší v názorech na její budoucnost

ChatGPT
Zahraniční AI

Estonsko sází na umělou inteligenci ve školách

umělá inteligence
Domácí

Evropa pracuje na vůbec prvním plně evropském superpočítači

ChatGPT
Ekonomika AI

OpenAI chystá otevřený jazykový model. Reaguje tím na konkurenci