Disputa em IA pode levar empresas a investir mais que o necessário, diz Zuckerberg

CEO da Meta explica o racional da estratégia para desenvolver o Llama em entrevista à Bloomberg Originals e vê risco de gastos de ‘bilhões de dólares a mais’ no setor de tecnologia

Milei
Por Kurt Wagner - Emily Chang
24 de Julho, 2024 | 01:35 PM

Bloomberg — A Meta Platforms, empresa que controla o Facebook, lançou um novo e poderoso modelo de IA que o CEO Mark Zuckerberg chamou de “estado da arte” e disse que rivalizará com produtos semelhantes de concorrentes como a OpenAI e o Google, da Alphabet (GOOG).

O novo modelo lançado na terça-feira, chamado Llama 3.1, levou vários meses para ser treinado e demandou centenas de milhões de dólares em poder de computação. A empresa disse que ele representa uma grande atualização do Llama 3, lançado em abril.

“Acho que o produto mais importante para um assistente de IA será a sua inteligência”, disse Zuckerberg em uma entrevista na série Bloomberg Originals.

“Os modelos da Llama que estamos construindo são alguns dos mais avançados do mundo.” A Meta já trabalha no Llama 4, acrescentou Zuckerberg.

PUBLICIDADE

Leia mais: Usuários do Facebook verão menos conteúdo político nas eleições, diz Zuckerberg

Os executivos da Meta (META) dizem que o modelo, que é usado principalmente para alimentar chatbots dentro da Meta e por desenvolvedores externos, tem uma ampla gama de novos recursos, incluindo raciocínio aprimorado para ajudar a resolver problemas complexos de matemática ou sintetizar instantaneamente um livro inteiro de texto.

Ele também possui recursos de IA generativa que podem criar imagens sob demanda por meio de solicitações de texto.

Um recurso chamado “Imagine Yourself” permite que os usuários carreguem uma imagem de seu rosto, que pode ser usada para criar representações deles em diferentes cenas e cenários.

A Meta usa seus modelos Llama para alimentar seu chatbot de IA, chamado Meta AI, que opera dentro de seus aplicativos, incluindo o Instagram e o WhatsApp, e também como um produto da Web separado.

Zuckerberg disse que a Meta tem “centenas de milhões” de usuários para seu chatbot e espera que ele seja o mais usado no mundo até o final do ano. Ele espera que outras pessoas fora da Meta usem o Llama para treinar seus próprios modelos de IA.

"Ele será esse professor que permitirá que muitas organizações diferentes criem seus próprios modelos, em vez de depender dos modelos prontos que os outros estão vendendo", disse ele.

PUBLICIDADE
Mark Zuckerberg durante entrevista na sede da Meta à Emily Chang, da Bloomberg (Foto: Jason Henry/Bloomberg)

‘Centenas de milhões de dólares. E bilhões’

Os investimentos da Meta em IA têm sido muito altos.

Zuckerberg disse que os modelos Llama 3 da Meta custam “centenas de milhões de dólares” em poder de computação para serem treinados, mas que ele espera que os modelos futuros custem ainda mais.

Daqui para frente, serão bilhões e muitos bilhões de dólares de poder de computação”, disse ele.

Em 2023, a Meta tentou controlar alguns de seus gastos com tecnologias futuristas e camadas de gerenciamento, cortando milhares de empregos no que Zuckerberg chamou de “ano da eficiência”. Mas Zuckerberg ainda está disposto a gastar com a “corrida armamentista” da IA.

“Acho que há uma chance significativa de que muitas empresas estejam construindo demais agora e que as pessoas olhem para trás e pensem: ‘ah, talvez todos nós tenhamos gasto alguns bilhões de dólares a mais do que o necessário’”, disse Zuckerberg.

Leia mais: Com Gemini, Google tem novo concorrente do ChatGPT que vai além da geração de texto

“Por outro lado, acho que todas as empresas que estão investindo têm tomado uma decisão racional, porque a desvantagem de ficar para trás é que você estará mal posicionado para a tecnologia mais importante dos próximos 10 a 15 anos.”

Depois de todo o investimento, a Meta disponibilizará a tecnologia por trás da Llama para o público usar gratuitamente, desde que sigam a “política de uso aceitável” da empresa.

Cálculo planejado

Zuckerberg espera que a estratégia de acesso aberto ajude a tornar o trabalho da empresa a base de outras startups e produtos bem-sucedidos, o que proporcionará à Meta maior influência sobre o avanço do setor.

“Se a IA será tão importante no futuro quanto as plataformas móveis, então não quero estar na posição em que vamos acessar a IA por meio [de um concorrente]”, disse Zuckerberg, que há muito tempo demonstra se sentir frustrado com a dependência da Meta em distribuir seus aplicativos de mídia social em telefones e sistemas operacionais do Google e da Apple.

“Somos uma empresa de tecnologia e precisamos ser capazes de criar coisas não apenas na camada do aplicativo, mas em todo o caminho. E vale a pena para nós fazer esses investimentos massivos para que isso aconteça.”

Código aberto, mas há segredos

Apesar da promessa de tornar a Llama aberta, Zuckerberg e outros altos executivos da empresa mantêm em segredo os conjuntos de dados usados para treinar a Llama 3.1.

“Embora seja aberto, estamos projetando isso também para nós mesmos”, explicou ele.

A Meta tem usado posts de usuários publicamente disponíveis no Facebook e no Instagram, bem como outros conjuntos de dados “proprietários” que a empresa licenciou de terceiros, disse Zuckerberg, sem compartilhar detalhes específicos.

Leia mais: Meta estuda investir no grupo dos óculos Ray-Ban, segundo o Financial Times

Ele também descartou a ideia de que treinar o Llama com dados de publicações do Facebook e do Instagram seja uma vantagem importante.

“Muitos dos dados públicos desses serviços podem ser indexados em mecanismos de busca, portanto, acho que o Google e outros também têm a capacidade de usar muitos desses dados.”

Em abril, a Meta informou aos investidores que planejava gastar bilhões de dólares a mais do que o inicialmente previsto para este ano, sendo os investimentos em IA uma das principais razões.

Espera-se que a empresa tenha cerca de 350.000 GPUs H100 da Nvidia até o final do ano, de acordo com uma publicação no blog da empresa.

Os chips H100 se tornaram a tecnologia básica usada para treinar grandes modelos de linguagem, como o Llama e o ChatGPT da OpenAI, e podem custar mais de dezenas de milhares de dólares.

Os críticos da abordagem de código aberto da Meta em relação à IA apontam o potencial de abuso - ou o medo de que empresas de tecnologia de rivais geopolíticos, como a China, peguem carona na tecnologia da Meta para acompanhar o ritmo de suas contrapartes americanas.

Zuckerberg está mais preocupado com o fato de que fechar a tecnologia para outras partes do mundo acabaria sendo prejudicial para o próprio país.

"Há uma linha de pensamento que é do tipo: 'Ok, bem, precisamos bloquear tudo'", disse ele. "Acontece que eu acho que isso é muito errado porque os EUA prosperam com inovações abertas e descentralizadas. Quer dizer, é assim que nossa economia funciona, é assim que construímos coisas incríveis. Portanto, acho que bloquear tudo nos prejudicaria e nos tornaria mais propensos a não sermos os líderes."

Também não é realista pensar que os EUA estarão anos à frente da China no que diz respeito aos avanços de IA, acrescentou ele, mas ressaltou que mesmo uma pequena vantagem de vários meses pode “se acumular” ao longo do tempo para dar aos americanos uma clara vantagem.

Veja mais em bloomberg.com

Leia também

Melhor que humanos: OpenAI projeta evolução até a IA mais poderosa de todas

©2024 Bloomberg L.P.