OpenAI cria Comitê de Segurança e Proteção para 'fiscalizar' operações com IA

 A OpenAI confirmou hoje (28) a criação de um novo Comitê de Segurança e Proteção que ficará responsável por supervisionar as decisões críticas relacionadas aos projetos da startup. O anúncio surge após saídas recentes de importantes profissionais ligados aos avanços de inteligência artificial generativa da empresa.

Depois da revisão feita pelo conselho, será divulgado um relatório sobre as medidas sugeridas e adotadas para aumentar a segurança nos projetos em desenvolvimento. Esta é apenas a primeira tarefa do grupo, surgido em meio às críticas recebidas pela desenvolvedora do ChatGPT em relação aos riscos potenciais da tecnologia.

O comitê também deverá ter papel de destaque nas avaliações do novo modelo de linguagem atualmente em desenvolvimento pela OpenAI, que promete aumentar ainda mais as capacidades do chatbot. Rumores sugerem que o GPT-5 será lançado até o final deste ano.

Quem fará parte do novo comitê da OpenAI?

Além de Sam Altman, o recém-formado comitê terá a participação dos diretores Adam D’Angelo, Nicole Seligman e Bret Taylor, ocupando cargos mais altos. A lista de membros também inclui os especialistas técnicos e de políticas da startup, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight e Jakub Pachocki.

Como é possível notar, a equipe contará apenas com pessoas de dentro da própria OpenAI, pelo menos neste primeiro momento, gerando críticas em relação à ausência de observadores externos. Mas a empresa disse que novos especialistas serão adicionados futuramente.

Saiba mais: Google, Microsoft, OpenAI e outras gigantes prometem 'botão de destruição' para pausar IA

Entre os nomes que podem chegar estão os de Rob Joyce, ex-diretor de segurança cibernética da Agência de Segurança Nacional dos Estados Unidos, e John Carlin, que atuava no Departamento de Justiça americano. A startup não esclareceu quais serão os cargos desses profissionais.