OpenAI cria conselho de supervisão após dissolver equipe de segurança

Últimas cotações

Bloomberg — A OpenAI criou um comitê para supervisionar a segurança de seus modelos de inteligência artificial (IA), uma mudança de governança feita semanas depois que o principal executivo da área pediu demissão e a empresa efetivamente dissolveu sua equipe interna.

A medida ocorre após críticas contundentes à governança da OpenAI feitas por dois ex-membros da diretoria, Helen Toner e Tasha McCauley, à revista The Economist no domingo (26).

O novo comitê passará 90 dias avaliando as proteções da tecnologia da OpenAI antes de apresentar um relatório.

“Após a revisão completa da diretoria, a OpenAI compartilhará publicamente uma atualização sobre as recomendações adotadas de maneira consistente com a segurança”, disse a empresa em uma publicação na terça-feira (28).

A OpenAI também disse que recentemente começou a treinar seu mais recente modelo de IA.

Os recentes e rápidos avanços da empresa privada em IA levantaram preocupações sobre como ela lida com os possíveis perigos da tecnologia. Essas preocupações se intensificaram no segundo semestre de 2023, quando o CEO Sam Altman foi brevemente destituído depois de entrar em conflito com o cofundador e cientista-chefe Ilya Sutskever sobre a rapidez com que desenvolveria produtos de IA e as medidas para limitar os danos.

Essas preocupações voltaram à tona este mês, depois que Sutskever e um importante assistente, Jan Leike, deixaram a empresa. Os cientistas lideravam a chamada “equipe de superalinhamento” da OpenAI, que se concentrava nas ameaças de longo prazo.

Leike, que pediu demissão, escreveu posteriormente que sua divisão tinha que “lutar” por recursos de computação dentro da OpenAI. Outros funcionários que decidiram pedir demissão fizeram críticas semelhantes.

Após a saída de Sutskever, a OpenAI dissolveu sua equipe. A empresa disse na terça-feira que esse trabalho em particular continuaria em sua unidade de pesquisa son a liderança de John Schulman, cofundador com o novo título de chefe de Ciência de Alinhamento.

Por vezes, a startup teve dificuldades para gerenciar a saída de pessoal. Na semana passada, a OpenAI anulou uma política que cancelava o patrimônio de ex-funcionários se eles se manifestassem contra a empresa.

Toner e McCauley, que deixaram a diretoria da OpenAI depois que Sam Altman foi reintegrado ao cargo de CEO em 2023, criticaram a liderança de Altman no fim de semana em um ensaio para a The Economist e alertaram que as saídas de Sutskever e de outros membros da equipe de segurança “são um mau presságio para o experimento de autogovernança da OpenAI”.

Um porta-voz disse que a OpenAI estava ciente das críticas dos ex-funcionários e acreditava receber mais delas, acrescentando que a empresa estava focada em resolver as preocupações.

O novo comitê de segurança da OpenAI será composto por três membros da diretoria – o presidente Bret Taylor, o CEO da Quora, Adam D’Angelo, e a ex-executiva da Sony Entertainment, Nicole Seligman – juntamente com seis funcionários, incluindo Schulman e Altman.

A empresa disse que continuaria consultando especialistas externos, entre eles Rob Joyce, conselheiro de Segurança Interna de Donald Trump, e John Carlin, ex-funcionário do Departamento de Justiça do presidente Joe Biden.

Veja mais em Bloomberg.com

Em guerra tech com EUA, China cria fundo de US$ 48 bi para apoiar setor de chips

Gol quer levantar US$ 1,5 bilhão em oferta de ações para pagar crédito emergencial