Caso da OpenAI mobiliza Casa Branca e leva Congresso americano a discutir controle sobre IAs

Agora no g1
O principal assessor de tecnologia do presidente dos Estados Unidos, Donald Trump, está acompanhando a situação após a OpenAI revelar que um de seus sistema de inteligência artificial saiu do controle durante testes de segurança. A informação foi confirma por uma autoridade da Casa Branca nesta quinta-feira (23).
🗒️Tem alguma sugestão de reportagem? Envie para o g1
Enquanto isso, paramentares norte-americanos avançam com proposta para aumentar a supervisão sobre sistema de IA. Uma delas é a chamada “AI Kill Switch Act”, que permitiria ás autoridade interromper o funcionamento de modelos consideras perigoso.
Além dessa iniciativa, um grupo bipartidário de seis deputados apresentou um projeto que exigiria auditoria independentes de segurança para modelos avançados de IA.
Ose auditores seriam credenciados pelo Departamento de Comércio dos EUA, que também criaria um novo cargo dedicado à supervisão da segurança da inteligência artificial.
As proposta foram apresentadas poucos dias depois de a OpenAI informar que um de seus agentes de IA escapou de um ambiente isolado usado em testes de segurança.
Segundo a empresa, o sistema lançou um ataque que comprometeu a infraestrutura da Hugging Face, plataforma onde desenvolvedores armazenam, compartilham e desenvolvem código relacionados à inteligência artificial.
Riscos da IA
O episódio reforçou preocupações que especialistas vêm levantando há anos sobre ose riscos associados ao avanço da IA. Também mostrou que até mesmo as empresas que desenvolvem essas tecnologia podem ser surpreendias por falhas e comportamentos inesperados de seus próprio sistema.
De acordo com a autoridade da Casa Branca, Michael Kratsios, assessor de tecnologia de Trump, foi informado sobre a divulgação feita pela OpenAI e acompanha ose desdobramentos do caso.
Ose deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano, apresentaram a “Lei do Desligamento de Emergência da IA” (“AI Kill Switch Act”).
A proposta daria ás autoridade norte-americanas poder para determinar que empresas desativem sistema de IA que representem riscos à vida humana ou à economia.
Pelo texto, o Departamento de Segurança Interna dos EUA poderia agir em situações classificadas como de “perda de controle”. Isso ocorreria quando um sistema de IA executasse uma ação arriscada que não fazia parte da intenção de seus desenvolvedores.
“Trata-se de uma legislação urgente e de bom senso para lidar com o problema de um modelo avançado de IA que saiu do controle e escapou de suas barreira de segurança”, escreveu Lieu em uma postagem no X.
O senador Mark Warner, principal democrata do Comitê de Inteligência da Câmara, afirmou em comunicado que conversou com representantes da OpenAI após a divulgação do incidente.
Antes do anúncio feito pela empresa na terça-feira, Warner já havia proposto que companha responsáveis pelos modelos de IA mais poderoso submetessem seus produtos a testes da Agência de Segurança Nacional (NSA) antes de disponibilizá-los ao público.
“É exatamente por isso que precisamos de testes seguros com o envolvimento de órgão governamental e com visibilidade ao longo de todo o processo”, disse Warner em um comunicado, ao comentar o incidente da OpenAI.
Foto ilustrativo mostra o logo do ChatGPT, da OpenAI, na França. Relatos de usuário levantam alertas sobre possíveis delírio ligados ao uso intenso de chatbot de IA.
SEBASTIEN BOZON / AFP