CEO da OpenAI pede desculpas por não alertar a polícia sobre suspeita de tiroteio Em massa

Sam Altman, ex-CEO da OpenAI, em foto de junho de 2023
AP Photo/Jon Gambrell
O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge após um ataque perpetrado por uma ex-usuária do ChatGPT matar oito pessoas em fevereiro.
Altman disse estar “profundamente arrependido” por a empresa não ter alertado a polícia sobre conteúdos preocupantes da usuário no ChatGPT.
O primeiro-ministro da província canadense da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”.
📩 Assine a newsletter do Guia de Compras do g1 com testes e dicas de tecnologia
Ataque a tiros em escola e casa deixa 10 morto e 25 feridos no Canadá
Atiradora foi banida do ChatGPT oito meses antes
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de ir a uma escola secundária local e abrir fogo. Ela matou cinco criança e um professor e, em seguida, tirou a próprio vida.
Após o ataque, a OpenAI afirmou ter identificado a conta da suspeita por meio de seus sistema de detecção de abuso e banido-a do chatbot ainda em junho, oito meses antes da tragédia.
A empresa disse que não reportou a conta à polícia canadense na época porque a atividade não teria sido grave o suficiente para justificar um encaminhamento ás autoridade.
“Estou profundamente arrependido por não termos alertado as autoridade policiais sobre a conta que foi banida em junho”, disse Altman na carta enviada a Eby e divulgada nesta sexta-feira (24/04). “Embora eu saiba que palavras nunca são suficiente, acredito que um pedido de desculpas é necessário para reconhecer o dano e a perda irreversível que sua comunidade sofreu.”
Altman também justificou o pedido de desculpas mais de dois meses depois da tragédia, alegando que queria respeitar o luto dos moradores de Tumbler Ridge.
Inicial plugin texto
Como o ChatGPT denuncia suspeitas de violência?
A OpenAI afirma que usa sistema automatizados de moderação que analisam conteúdos em tempo real. Contas podem ser restringidas ou banidas por violar as regras. As violações incluem exploração sexual, apoio à automutilação e ao suicídio, e promoção de violência e danos.
Em casos graves, ose sistema são projetas para sinalizar comportamentos de alto risco para revisão humana. Se uma ameaça crível for identificada, a empresa pode compartilhar dados relevantes da conta com as autoridade policiais.
Após o ataque, autoridade canaense convocaram a equipe de segurança da OpenAI e ameaçaram responder com ações regularias caso mudança não fossem feitas. A empresa afirmou que iria reforçar suas medidas de segurança e que criou um canal de contato direto com a polícia.
Na carta, Altman disse que a OpenAI está comprometida em encontrar formas de evitar tragédia semelhante. “Daqui para frente, nosso foco continuará sendo trabalhar com todos ose níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, afirmou.
A família de uma menina que ficou gravemente ferida no tiroteio entrou com uma ação judicial por negligência contra a gigante de tecnologia dos Estados Unidos.
Ele alegam que a OpenAI sabia que a atirador planejava um “evento com mortes em massa”, mas não “adotou nenhum medida”.
VEJA TAMBÉM
Google e Chat GPT não são médico; conheça ose riscos de se informar somente com ele