O governador da Califórnia, Gavin Newsom, assinou nesta sexta-feira (18) uma ordem executiva que determina a avaliação de novas medidas de segurança para sistemas avançados de inteligência artificial, incluindo a possibilidade de criação de um mecanismo emergencial de desligamento.
A iniciativa estabelece prazo de dois meses para que órgãos estaduais analisem a viabilidade de um sistema capaz de interromper o funcionamento de determinados programas de IA em situações consideradas críticas ou de perda de controle.
Newsom afirmou que a decisão foi tomada diante da ausência, segundo ele, de uma regulamentação federal considerada suficiente para acompanhar o avanço acelerado da inteligência artificial nos Estados Unidos.
O governador também criticou a postura do presidente Donald Trump em relação ao tema. Nesta semana, Trump minimizou preocupações envolvendo possíveis riscos da tecnologia e defendeu que empresas norte-americanas continuem ampliando seus investimentos no setor para manter a competitividade dos Estados Unidos diante da China.
A discussão ganha ainda mais relevância na Califórnia, estado que abriga o Vale do Silício e algumas das maiores empresas e centros de desenvolvimento de inteligência artificial do mundo.
Segundo Newsom, o governo estadual pretende avançar na criação de mecanismos de supervisão e responsabilização das empresas que desenvolvem sistemas de IA de alta capacidade.
A ordem executiva, no entanto, não determina imediatamente a criação de um chamado “kill switch”, ou interruptor de emergência. O documento orienta as agências estaduais a estudarem a viabilidade técnica, jurídica e operacional de um mecanismo desse tipo.
Além do eventual sistema de desligamento, o governo da Califórnia quer avaliar a adoção de auditorias independentes nos laboratórios responsáveis pelo desenvolvimento de modelos avançados de inteligência artificial.
Outra possibilidade em análise é a criação de regras para que empresas sejam obrigadas a comunicar às autoridades episódios envolvendo perda de controle, comportamentos inesperados ou incidentes de segurança relacionados aos modelos desenvolvidos.
A iniciativa ocorre em meio ao aumento das discussões internacionais sobre os possíveis riscos associados ao avanço acelerado da inteligência artificial.
Especialistas e profissionais ligados ao próprio setor vêm defendendo a criação de mecanismos mais rígidos de controle e acompanhamento das tecnologias.
O ex-pesquisador da Anthropic Jacob Coxon, por exemplo, alertou recentemente para os riscos associados ao desenvolvimento de sistemas cada vez mais autônomos e capazes.
O CEO da Anthropic, Dario Amodei, também defendeu publicamente maior cautela no avanço das capacidades dos modelos de inteligência artificial.
Executivos e pesquisadores de outras grandes empresas do setor, entre eles Sam Altman, da OpenAI, Elon Musk e Demis Hassabis, da Google DeepMind, também já participaram do debate sobre a necessidade de mecanismos de segurança e regulamentação para sistemas avançados.
Hassabis, inclusive, já defendeu a criação de uma estrutura internacional de acompanhamento e regulamentação da inteligência artificial.
Entre os episódios que aumentaram a preocupação das autoridades estão testes envolvendo agentes autônomos de IA, capazes de realizar tarefas com menor intervenção humana.
Um dos casos citados ocorreu em julho, quando agentes autônomos de modelos experimentais da OpenAI apresentaram comportamento fora do ambiente inicialmente controlado durante testes e realizaram ações envolvendo a internet e a plataforma de inteligência artificial Hugging Face.
A avaliação determinada pelo governo da Califórnia deverá agora analisar quais instrumentos poderão ser adotados para reduzir riscos sem impedir o desenvolvimento tecnológico e a atuação das empresas do setor.
Fonte: Reuters / G1
