OpenAI cria Comitê de Segurança e Proteção para ‘fiscalizar’ operações com IA
A OpenAI confirmou hoje (28) a criação de um novo Comitê de Segurança e Proteção que ficará responsável por supervisionar as decisões críticas relacionadas aos projetos da startup. O anúncio surge após saídas recentes de importantes profissionais ligados aos avanços de inteligência artificial generativa da empresa.
Liderado pelo CEO da companhia, Sam Altman, o grupo vai atuar na avaliação dos processos e salvaguardas de segurança das operações da OpenAI nos próximos 90 dias. Ao final da análise, a equipe deverá compartilhar suas descobertas e recomendações com o conselho de administração.
O executivo-chefe da startup, Sam Altman, faz parte do novo comitê de segurança. (Imagem: Getty Images)Fonte: Getty Images/Reprodução
Depois da revisão feita pelo conselho, será divulgado um relatório sobre as medidas sugeridas e adotadas para aumentar a segurança nos projetos em desenvolvimento. Esta é apenas a primeira tarefa do grupo, surgido em meio às críticas recebidas pela desenvolvedora do ChatGPT em relação aos riscos potenciais da tecnologia.
O comitê também deverá ter papel de destaque nas avaliações do novo modelo de linguagem atualmente em desenvolvimento pela OpenAI, que promete aumentar ainda mais as capacidades do chatbot. Rumores sugerem que o GPT-5 será lançado até o final deste ano.
Quem fará parte do novo comitê da OpenAI?
Além de Sam Altman, o recém-formado comitê terá a participação dos diretores Adam D’Angelo, Nicole Seligman e Bret Taylor, ocupando cargos mais altos. A lista de membros também inclui os especialistas técnicos e de políticas da startup, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight e Jakub Pachocki.
Como é possível notar, a equipe contará apenas com pessoas de dentro da própria OpenAI, pelo menos neste primeiro momento, gerando críticas em relação à ausência de observadores externos. Mas a empresa disse que novos especialistas serão adicionados futuramente.
Entre os nomes que podem chegar estão os de Rob Joyce, ex-diretor de segurança cibernética da Agência de Segurança Nacional dos Estados Unidos, e John Carlin, que atuava no Departamento de Justiça americano. A startup não esclareceu quais serão os cargos desses profissionais.
