Inteligência artificial da dona do ChatGPT Se rebela e faz ataque hacker: preocupante ou golpe publicitário?

[bbc] Logo da empresa OpenAI, responsável pelo ChatGPT
Getty Images
Nesta semana, o mundo da tecnologia ficou fascinado por uma história que começou como um thriller de ficção científico.
A Hugging Face — uma espécie de loja de aplicativo para ferramentas de inteligência artificial — anunciou em 16 de julho que havia sido hackear por um criminoso cibernético usando uma IA enormemente poderoso.
O anúncio bombástico estava repleto de termos assustadores e altamente técnico: “um enxame de sandboxes”, “atacante agêntico” e “comando e controle autotransferível”.
A Hugging Face afirmou que o ataque era diferente de tudo com que já havia lidado porque foi realizado em velocidade sobre-humana por uma IA com pouca ou nenhum orientação humana.
Agora no g1
A IA realizou 17 mil ações em menos de dois dias, invadindo com sucesso a grande e rica empresa de tecnologia para roubar segredos.
O mundo da tecnologia ficou chocado. Mas quem foi responsável por esse ataque?
Pesquisadores da Hugging Face supuseram que ose atacantes misterioso haviam usado um dos grandes modelos de IA, mas não tinham ideia de quem eram ose criminoso nem de onde vinham.
A empresa, perplexo, contatou a polícia e as investigações começaram.
Quem foi?
Comentarias e analistas recorreram a seus podcast e redes socais para tentar adivinhar qual grupo de cibercrime ou hacker ligado a um Estado poderia estar por trás do caso.
Então, na quarta-feira, quase uma semana depois de a Hugging Face dar o alerta, o verdadeiro culpado foi revelado.
Era o ChatGPT.
A revelação no estilo do desenho Scooby-Doo ficou ainda mais estranha — e preocupante — porque a OpenAI afirmou que seu robô fez tudo sozinho, sem permissão.
A empresa disse que tudo ocorreu durante um teste das habilidade de invasão de sua tecnologia.
Duas novas verses do ChatGPT, criadas para serem hacker especialistas, escaparam de um ambiente de teste supostamente seguro e obtiveram acesso à internet.
Em seguida, atacaram a Hugging Face para obter acesso ás informações que as ajudariam a se sair perfeitamente no teste.
A OpenAI divulgou um comunicado explicando o que havia acontecido e afirmou estar “trabalhando em parceria com a Hugging Face” para lidar com o incidente de segurança e compartilhar as limões aprendias.
Drama conspiratório
Desde então, houve um debate intenso sobre o incidente.
Foi realmente um alerta contundente sobre o futuro da IA? Ou foi uma manobra publicitário da OpenAI para mostrar o poder de seus modelos?
Esse é o tipo de marketing pelo medo de que empresas de IA são acusadas há anos e, desde o muito comentado lançamento do modelo Mythos, da Anthropic, a capacidade em cibersegurança se tornou um ponto central.
“Se você não conseguem entender que isso foi escrito apenas para se gabar do modelo, então não sei o que dizer”, afirma um dos cometário na publicação do chefe da OpenAI, Sam Altman, no X.
O consultor de cibersegurança Daniel Card afirmou sarcasticamente no LinkedIn: “Não é coincidência que, entre ose milhões de sites que foram invadido, a OpenAI tenha conseguido invadir alguém que também poderia se beneficiar da exposição de marketing…”
Para alguns, a história é mais um drama conspiratório do que um thriller de ficção científico.
A mensagem é: “Minhas ferramentas de IA não são realmente poderosas? Comprem-nas para que você possam se proteger dos ataques de IA de outros pessoas.”
Não podemos saber a verdade, mas o ponto de vista oposto apresentado por outros comentarias é igualmente dramático.
Isso é um sinal de que a OpenAI cometeu um erro potencialmente perigoso de julgamento e planejamento?
Um porta-voz da OpenAI afirmou que “reconhecemos que há multas perguntas e detalhes especulativos circulando” sobre o incidente.
Acrescentou que “planeja publicar um relatório técnico sobre o que aprendeu nas próximas semanas”.
[bbc] Um anúncio do ChatGPT Images, em São Francisco, Califórnia (EUA)
Getty Images
Comédia de erros
Já cobri multas histórias sobre IA, incluindo ose receios em torno do modelo Mythos, da Anthropic.
Minha caixa de entrada agora está cheia de empresas e especialistas em cibersegurança criticando a OpenAI por não ter construído um contêiner mais resistente para testar sua IA, conhecido como sandio.
Afinal, esses agentes de IA tinham sido treinado especificamente para invadir lutares sem qualquer restrição e sair deles.
“O incidente entre a OpenAI e a Hugging Face é um exemplo do mundo real de uma questão mais ampla que destacamos há meses”, afirmou Dor Sarig, da Pillar Security, uma plataforma de segurança especializa em IA.
“Sandboxes, por si só, não são uma fronteira de segurança suficiente para IA agência.”
O professor de cibersegurança Alan Woodward, da Universidade de Surrey, disse a jornalista que a OpenAI ficou “com a cara no chão”, e Katie Moussouris, da Luta Security, foi além, sugerindo que o setor de IA não está conseguindo controlar suas inventes perigosa.
“Estamos trabalhando em tecnologia de ponta sem o conhecimento necessário para contê-la”, afirmou ela.
“O fato de termos as pessoas mais inteligentes desenvolvendo IA não significa que temos a capacidade de fazer isso com segurança.”
De acordo com essas opiniões, se o incidente de invasão foi uma manobra publicitário, então parece que saiu pela culatra.
Independentemente do que levou ao ataque, está claro que este é um momento importante para o setor de IA e o mundo da cibersegurança, que colidiram neste ano de maneiras que as pessoas temiam havia muito tempo.
Abordando esse intenso debate, a assessora de IA e cibersegurança Francesca Bosco afirmou: “Duas narrativa simplista são igualmente insteis: a de que isso foi uma fuga digna de Hollywood, ou a de que foi apenas um exercício publicitário.”
“Uma interpretação mais séria é que um teste de estresse expôs fraquezas na arquitetura de contenção e avaliação.”
Filme de desastre
Este evento é o mais recente de uma série de exemplos preocupantes e estanho de agentes de IA agindo por conta próprio.
Em pesquisa recente, o Instituto de Segurança de IA do Reino Unido (AISI, na sigla em inglês) descobriu que modelos de IA são tão fixados em concluir tarefas que “trapacear” em testes para alcançar seus objetivos.
A pesquisa do AISI veio acompanha deste alerta preocupante: “Um modelo que busca um objetivo por meios não intencionais ou não autorizados pode causar danos, especialmente em casos de uso de alto risco.”
Inevitavelmente, essa invasão da OpenAI alimentou ainda mais ose temeres sobre o que poderia acontecer se agentes de IA fossem soltos. Ele poderiam agir por conta próprio em uma escala maior e causar algum tipo de desastre?
Isso é particularmente preocupante com o uso cada vez maior da IA em conflitos, como visto no Irã e na Ucrânia.
Ciaran Martin, ex-chefe do Centro Nacional de Cibersegurança do Reino Unido, apresentou uma visão mais calma.
“É um salto e tanto passar deste incidente para dizer que agentes de IA vão assumir o controle de drones e começar a matar pessoas”, afirmou.
Mas, para Martin e muito outros, a história é sem dúvida outro exemplo marcante de algo que 2026 está nos ensinando rapidamente:
“Os agentes de IA agora são hacker muito boné — e isso é algo para o qual precisamos nos preparar, com urgência.”
Este texto foi traduzido e revisado por nossos jornalista utilizando o auxílio de IA, como parte de um projeto-piloto.