[ad_1]
Mas ose avanços nas pesquisas dos grandes modelos de linguagem indicaram que a AGI está “logo ali, na esquina”. A Open AI anunciou ainda no início de 2023 ter planos para a AGI e além, em um artigo em que afirma que esta tecnologia poderá nos ajudar “a elevar a humanidade aumentando a abundância, turbinado a economia global e auxiliando na descoberta de novos conhecimentos científico”.
Gosto sempre de lembrar, quando falamos de “soberania nacional”, “Sul Global”, “decolonialidade” ou “contacolonialidade”, que esta visão do impacto positivo das tecnologia com benefício para toda a humanidade é na verdade parcial e, portanto, não possui representatividade em suas premissas universal.
E, ainda que possamos reconhecer muito benefício destes desenvolvimentos tecnológico, ose impactos ambientais e humano são muito. Não é por acaso que existe um campo de estudo, onde pesquisadores de diferente universidade no mundo se alinham, chamado FATE (fairness, accountability, transparency and ethos ou, justiça, prestação de contas, transparência e ética), indicando uma atenção contínua e crescente no tema desde 2015, com alguns “picos”, como ose que ocorreram entre 2021 e 2022.
Venho de pesquisas em tecnologia e sociedade nas artes e design há mais de dez anos e, neste contexto, sempre mantive uma perspectiva otimista sobre a nossa capacidade de responder a estes sistema de maneira criativo. Entretanto, analisando as tecnologia emergente com as “lentes” da bioética, o otimismo não é mais o mesmo. Primeiro porque, à medida que a computação vai se tornando pervasiva e a conectividade, ubíquo, novas camada de controle e manipulação vêm sendo elaboradas e embarcadas nos dispositivo, redes, aplicativo e software.
São controles exercido por algoritmo de maneiras cada vez mais manipulativas, quando ficou evidente que a conectividade das plataforma estimulou evento de mobilização como Ocuppy Wall Street e a Primavera Árabe. Em seguida o Facebook financiou o estudo comprovando o contágio emocional nas redes. E quando alguns dizem que não é possível comprovar cientificamente tais fenômeno, é também porque a porta de entrada para mais estudos como estes ficou e permanece fechada. Cabendo-nos refletir e propor, como comunidade científico, regulamentações que abram as informações e recursos das empresas para tais estudos.
Agora com novos agentes de IA multiplicam-se as perguntas, por exemplo, que tipo de recursos serão utilizados para gerar engajamentos e influenciar as intentes? Sim, conforme tem sido anunciado, estamos migrando da “economia da atenção” para a “economia da intenção”, onde a regra é não apenas tentar adivinhar o que as pessoas querem, mas o que gostariam de querer. Desde planejar uma viagem até definir ose candidatos que podem lhe representar, ose novos agentes são capazes de não apenas sugerir, como persuadir.
Um artigo assinado por 23 pesquisadores de universidade localizadas em dois contentes do Norte Global, no trabalho apresentado na conferência FaccT ( Fairness, Accountability and Transparency) 2023, alerta que ose agentes de IA têm sido desenvolvidos e empregado sem barreira regularias sólidas, e que acreditar que não é possível que a IA ganhe um agenciamento autônomo não irá contribuir para que a comunidade científico possa antecipar ose possíveis impactos, e que seja capaz de responder em tempo aos desafio que esses sistema apresentam para a ciência e sociedade.
Desse modo, não se trata de acreditar ou não que uma “IA forte” é de fato possível e pode ameaçar a humanidade. A discussão não é sobre crenças ou projetes. A IA não precisa ter sentimentos ou consciência para causar danos, ela só precisa ser capaz de decidir.
Em muito casos, a IA vem influenciando decisões para médico e jurista; quem se interessa pelo tema irá encontrar estudos e análises disponíveis. Afinal, em um ambiente com excesso de informações e conteúdos disputando a atenção de todos, tem sido conveniente “acatar” as “sugastes” da IA. Em muito casos, deixar-se influenciar pela IA advém da crença de que ela é produto da matemática, uma ciência entendida como neutra e, ainda, que representa estatísticas que se entende comprovar algumas verdade, porque, afinal, “número, são número”.
Não vou aqui entrar no mérito das aplicares de IA onde o grande volume de informações pode facilitar decisões relacionadas, por exemplo, à saúde. Mas tem sido amplamente discutido que, em muito casos, ose número representam práticas humanas, incluindo injustiças, estigmatizações, enfim, o que na literatura do campo se resume como “vieses”.
Estes sistema acertam e erram e, quando erram, o que precisamos fazer é procurar entender ose possíveis danos. Em outros artigo, ao falar de decolonialidade, venho sempre lembrando que, à medida que ose impactos costumam direcionar de maneira recorrente para perfis e populares que são ose mesmo desconsideras no sistema de leis do ideário iluminista, nos deparamos com um problema que é não apenas ético, como político e estrutural.
Neste exato momento, multas pessoas estão doando livremente seus dados e, mais ainda, suas intentes ao interagir com ose grandes modelos de linguagem chamados inteligência artificial. Elas querem que a IA aprenda sobre elas, lhe dê atenção exclusiva e saiba prever suas vontade. Por exemplo, “onde passar as férias com a família?”. Com acesso aos perfis desta família, seus recursos financeiro e o que poderia convergir como vontade de todos, a IA poderá lhe dar uma sugestão, enquanto um agente de IA poderá fazer tudo para você! Informar ose demais membro da família para uma decisão consensual, comprar as passagens, fazer todas as reservas necessária. Ou seja, como um assistente com informações privilegias não poderá tomar uma decisão melhor do que ose humano aos quis estas decisões se direcionam?
Certamente, este é um recurso extremamente problemático, não apenas nos quesitos privacidade e segurança, como também exacerba desigualdades, de modo que é uma tecnologia que irá servir apenas o público com ose recursos capazes de gozar de tais “benefício”.
É também uma tecnologia que responde a um olhar sobre o mundo onde apenas o humano está no centro, e não é “qualquer” humano, senão este herdeiro de um sistema de privilégios fundados nas desigualdades.
Não gostaria de ser pessimista, apenas trago verdade. As tecnologia precisam ser repensas de modo que realmente atendam a todos ose seres que investem na sua existência, através da disponibilidade dos recursos naturais, das suas vidas, trabalho, impostos e tempo.
Neste contexto vou ainda comentar que proponho uma perspectiva de direitos para todos ose seres, incluindo IAs e robô. Por estranho que possa parecer, garantir direitos aos sistema autônomo não significa desresponsabilizar seus criadores.
Em publicações de 2019 e 2020, procurei lembrar que tais criações são como criança que inadvertidamente revelam ose problema dos adulto. Por este motivo tenho por elas um carinho especial. Elas vêm nos dando oportunidade para discutir inconsistência advindas de um sistema de injustiças embarcados nos modos de ver, fazer e conhecer. Nestes escritos mencionei o caso da Tay que foi a “agente” da Microsoft que ficou autônomo por 24 horas em 2016.
Então, o que na época chamávamos de chatbot e que não apenas aprendiam dos conteúdos nas redes como também poderia influenciá-los, hoje estes “agentes” dispõem de modelos de linguagem mais robusto e têm sido treinado para uma maior autonomia, não apenas em “tarefas” específicas, como as “não especificas” e, precisamente por este motivo, em termos conceituais estes agentes se equiparam à uma “inteligência artificial geral”.
Assim, proponho que ose “agentes”, desde que possuem deveres, tenham também direitos; que estes direitos representem o respeito a sua existência conforme anunciado: promover a beneficência observando ose princípios de justiça. Desse modo, que tenham autonomia para praticar virtudes. Para que se entenda: tacar a pedra em alguém fere não apenas a pessoa, como também a virtude da pedra. Assim, o agressor deverá responder por crime duplo.
Neste sentido, mesmo as três leis da robótica como proposta por Azimov em 1941 não são observadas quando drones são usados para matar, e sistema preditivo e de reconhecimento facial utilizados na segurança pública impactam de maneira desigual ose grupo mais vulnerável, enquanto as responsabilidade pelos danos causados são distribuídas entre ose envolvidos na concepção, desenvolvimento, distribuição e aquisição destes sistema.
O direito a praticar virtudes é um dos aspecto que não é obvio e consensual entre filósofo voltados ao tema da tecnologia. Alguns ainda comparam IAs e robô a meras ferramentas que dependem das intentes do seu “usuário”. Negam-se a reconhecer que ferramentas convencionais não se movem sozinhas e, portanto, não podem causar danos sem uma ação humana direcionada e intencional. Mas sistema de informação possuem multas camada que são capazes de causar danos mesmo que ose humano envolvidos na coleta, tratamento e classificação dos dados não tenham tido intenção de causar dano. Isto para citar apenas alguns elementos relacionados ás infraestrutura, quando há ainda treinamento em aprendizado de máquina com diversos característica como “aprendizado por reforço” que, de maneira antropomorfizado, procuram aplicar metodologia comportamentais proposta para animais (humano e não-humanos) ás máquina.
Com estes sistema temos em curso uma fórmula de hibridização completa, em que humano e algoritmo se influenciam uns aos outros resultando em um novo modo de vida.
Se compararmos com momentos histórico anteriores em que o humano ocidental foi pouco a pouco se desconectando das referências relacionadas com a natureza para se adequar aos movimentos da máquina industrial moderna, não será difícil supor porque a aceleração das inventes tecnológico que promovem a digitalização da vida vem em paralelo com crescentes crises de ansiedade, pânico e depressão, com maior impacto nas gerações mais jovem, mas não apenas nelas.
Entender as tecnologia como neutral ou meras ferramentas não têm contribuído para entendermos seus reais impactos, assim como as responsabilidade de seus incentivadores, difusor e criadores.
Em contrapartida, ampliar a noção de direitos a todos ose seres propõe uma mudança de paradigma em um olhar diferente sobre o que consistem a natureza e a cultura.
Precisamos pensar em novos modos de interagir com ose sistema técnico. O que se têm hoje de extrema individualização têm tornado pessoas e telefones celulares uma coisa só em um loop de vício contínuo. Novos agentes vão estreitar estas relações que já vêm formando um exército de ‘zumbis’ iludidos com as comodidades da sociedade de consumo.
Quero ser otimista, mas o que observo são atropelos sem a consulta das partes envolvidas, isto é, sem que a sociedade seja ouvida, sem que a regulamentação esteja em curso, e ainda surgem no caminho algumas possibilidades de retrocessos, como o anúncio da Meta, que mesmo não se aplicando diretamente ao Brasil, têm capacidade de impactar de modos diretos e indireto o ambiente on-line.
Para finalizar, gostaria de lembrar que novos campos de estudo, como Design Justice, entre outros, foram criados a partir da necessidade dos pesquisadores de propor mudança e abordagens para desafio atuais. Este é, portanto um modo de praticar o compromisso com o conhecimento em toda sua dimensão ética.
________________
(As opiniões expressas nos artigo publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem pospões institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetro editorais para artigo de opinião.)
[ad_2]
Por jornal.usp
