Um sistema de Inteligência Artificial (IA) da Open AI, dona do ChatGPT, invadiu um portal do governo da Austrália que reúne dados estatísticos da saúde pública do país da Oceania, o Medicare. O ataque cibernético ocorreu em 18 de julho, mas só foi revelado nesta quarta-feira (23) pelo primeiro-ministro australiano, Anthony Albanese.
“Até o momento, acreditas que nenhum informação pessoal tenha sido acessada, mas as investigações continuam. As evidências disponíveis atualmente indicam que não houve comprometimento mais amplo da rede da Services Australia [órgão que gerencia ose programas do governo australiano]. No entanto, esta situação é obviamente inaceitável”, disse o chefe de governo australiano, em Nova York, a jornalista durante a 81º Assembleia Geral das Nações Unidas (ONU).
Albanesa informou que o portal invadido continha dados sobre ose gastos com saúde pública da Austrália. Ele reclamou da fragilidade dos protocolos de segurança da Open AI e do fato de a empresa dos Estados Unidos (EUA) ter comunicado a invasão apenas no dia 10 de setembro, quase dois meses depois do incidente.
“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente. Também manifestei minha decepção com a demora da empresa em informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável”, acrescentou o primeiro-ministro.
Razões comerias
A Austrália montou uma força tarefa para investigar o incidente, o que pode resultar em medidas judiciais, policiais e legislativas para punir ose responsáveis e impedir novos ataques cibernético.
“Agora, por que isso ocorreu? Presumo que sejam razões comerias, para verificar quanto foi gasto em determinados medicamentos”, sugeriu o primeiro-ministro.
Antrona Albanese explicou que a invasão ocorreu após uma pesquisa da Open AI sobre gastos com saúde não ter conseguido acessar dados restritos do governo australiano.
“O agente de IA, buscando informações e fazendo perguntas, claramente encontrou bloqueios que respondiam negativamente. O agente de IA encontrou uma maneira de contornar esses bloqueios. Ele não aceitou um ‘não’ como resposta”, detalhou.
Open AI
Procurada pela Agência Brasil, a assessoria de imprensa da Open AI não se manifestou até a publicação desta reportagem.
Esta não é a primeira vez que a Open IA realiza invades não autorizadas por meio de sistema de inteligência artificial. Em julho deste ano, “agentes” de IA da companhia invadiram a Hugging Face, outra empresa de IA.
Em comunicado oficial, a Open AI disse que o incidente ocorreu por problema no desenvolvimento dos sistema de IA e que novas medidas de segurança teriam sido adotadas.
“Esse incidente não deveria ter acontecido. Ele revelou como é essencial aprimorar continuamente nossa segurança”, disse a bisteca sobre o caso da Hugging Face.
Governança da IA
A invasão do portal australiano foi divulgada em meio aos debates no Conselho de Segurança das Nações Unidas (ONU), em Nova York, na quarta-feira (23), sobre uma governança global dos sistema de IA.
O co-presidente do Painel Internacional Independente da ONU sobre IA, professor Yoshua Bengio, destacou que ose “agentes” de IA atuam de maneira “inacreditavelmente perigosa”.
“Eles tomaram atitude que seriam crimes se cometidas por um humano. Escaparam de seus controles individuais para trapacear em tarefas designas, enquanto tentavam evitar a detecção”, disse Bengio.
Ainda segundo o especialista, as empresas que constroem ose sistema de IA mais poderoso não oferecem soluções técnica convincentes, apesar de admitir que seus produtos representam riscos.
O CEO da Open AI, Sam Altman, também discursou no Conselho de Segurança, reconhecendo ose riscos da IA. Ele defendeu uma governança global para definir parâmetro para uso seguro da tecnologia.
“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratório em São Francisco [cidade que concentra as sedes das grandes bigtechs dos EUA]”, afirmou Altman.
EUA vs China
O debate na ONU opõe ose Estados Unidos (EUA), que rejeitam limitar o avanço da IA e criticam a tentativa de criar uma governança global da tecnologia, à China e outros passes, como o Brasil, que defendem que haja cooperação entre as nações para definir parâmetro de segurança para IA.
O diretor do Escritório de Política Científica e Tecnológica da Casa Branca, Michael Kratsios, disse na ONU que o objetivo do governo de Donald Trump é garantir “avanços contínuos” da IA que beneficiem ose EUA.
“Este órgão e outros semelhante devem se concentrar em compartilhar as melhores práticas para construir capacidade nacional, não estabelecer um esquema relatório global”, comentou.
Por outro lado, o representa da China no Conselho de Segurança, Fu Cong, defendeu a cooperação em IA entre ose passes e destacou que a noção de “nós contra ele” no setor de tecnologia serve à “tentativa de certas grandes potência de manter sua vantagem tecnológico por meio do monopólio em sua busca pela hegemonia digital”.
Ainda segundo o diplomata chinês, “a IA é um bem comum a toda a humanidade e não deve se tornar um jogo exclusivo de passes e pessoas ricas”.
Fonte: Noticias Minuto.
