Os verdadeiros riscos da AGI são políticos e não serão corrigidos pela domesticação de robôs rebeldes
Por The New York Times
Em maio, mais de 350 executivos da tecnologia, pesquisadores e estudiosos assinaram uma declaração alertando sobre os perigos existenciais da inteligência artificial (IA). “Mitigar o risco de extinção pela IA deve ser uma prioridade global junto com outros riscos em escala social, como pandemias e guerra nuclear”, alertaram os signatários.
Isso aconteceu logo após outra carta que gerou grande repercussão, assinada por nomes como Elon Musk e Steve Wozniak, cofundador da Apple, pedindo uma pausa de seis meses no desenvolvimento de sistemas avançados de IA.
Enquanto isso, o governo Biden pressionava por uma IA responsável, afirmando que “para aproveitar as oportunidades” que ela oferece, “devemos primeiro gerenciar seus riscos”. No Congresso, o senador Chuck Schumer exigiu sessões de discussão, “as primeiras do tipo”, sobre o potencial e os riscos da IA, uma espécie de intensivão com executivos do setor, estudiosos, ativistas dos direitos civis e outras partes interessadas.
A crescente inquietação em torno da IA não se deve às tecnologias entediantes, mas confiáveis, que completam automaticamente nossas mensagens de texto ou orientam aspiradores robôs a se desviarem de obstáculos nas nossas salas de estar. É o surgimento da inteligência artificial geral (AGI, na sigla em inglês), que preocupa os especialistas.
A AGI ainda não existe, mas alguns acreditam que as habilidades em rápida expansão do ChatGPT da OpenAI sugerem que ela está próxima. Sam Altman, cofundador da OpenAI, descreveu a AGI como “sistemas geralmente mais inteligentes que os humanos”. A criação de tais sistemas continua sendo uma tarefa assustadora – alguns dizem que impossível. Mas os benefícios parecem verdadeiramente tentadores.
Imagine o robô-aspirador roomba, não mais condenados a aspirar o chão, evoluindo para robôs multifuncionais, felizes em preparar o café da manhã ou dobrar a roupa estendida no varal – sem nunca terem sido programados para fazer essas coisas.
Parece tentador. Entretanto, se esses roombas com AGI se tornarem muito poderosos, a missão deles de criar uma utopia impecável pode ficar confusa para seus mestres humanos que espalham poeira. Pelo menos fomos felizes durante um tempo.
As discussões sobre a AGI são repletas de cenários apocalípticos. Mesmo assim, um novo lobby pela AGI de estudiosos, investidores e empresários contesta isso, dizendo que, depois de se tornar segura, a tecnologia seria uma benção para a civilização. Altman, o rosto desta campanha, embarcou numa turnê global para convencer os legisladores. No início deste ano, ele escreveu que a AGI poderia até mesmo turbinar a economia, impulsionar o conhecimento científico e “engrandecer a humanidade aumentando a abundância”.
É por isso que, apesar de todos os temores, tantas pessoas inteligentes do setor estão trabalhando arduamente para criar essa tecnologia controversa: não usá-la para salvar o mundo parece imoral.
Eles estão comprometidos com uma ideologia que vê esta nova tecnologia como inevitável e, numa versão segura, benéfica a todos. Seus defensores não conseguem pensar em alternativas melhores para ajudar a humanidade e expandir sua inteligência.
Mas esta ideologia – chamada de AGI-ísmo – está errada. Os verdadeiros riscos da AGI são políticos e não serão corrigidos pela domesticação de robôs rebeldes. A mais segura das AGIs não proporcionaria a panaceia contínua prometida por seu lobby. E ao apresentar a sua criação como quase inevitável, o AGI-ísmo produz uma distração da busca por melhores formas de aumentar a inteligência.
Sem o conhecimento de seus defensores, o AGI-ísmo é apenas um filho não reconhecido de uma ideologia muito maior, que prega, como ficou bastante conhecido nas palavras de Margaret Thatcher, não existir qualquer alternativa, não para o mercado.
Em vez de romper com o capitalismo, como Altman sugeriu que poderia acontecer, a AGI – ou pelo menos a pressa para criá-la – tem mais chances de oferecer um aliado poderoso (e muito mais moderno) para a doutrina mais nociva do capitalismo: o neoliberalismo.
Fascinados pela privatização, concorrência e pelo livre comércio, os arquitetos do neoliberalismo queriam dinamizar e transformar uma economia estagnada e favorável ao trabalho por meio dos mercados e da desregulamentação.
Algumas dessas transformações funcionaram, mas cobraram um preço enorme. Ao longo dos anos, o neoliberalismo atraiu muitos, muitos críticos, que o culparam pela Grande Recessão e por crises financeiras, pelo trumpismo, Brexit e muito mais.
Não é de se estranhar, portanto, que o governo Biden tenha se distanciado da ideologia, reconhecendo que os mercados às vezes erram. Fundações, think tanks e estudiosos até ousaram imaginar um futuro pós-neoliberal.
Entretanto, o neoliberalismo está longe de estar morto. Pior ainda, ele encontrou um aliado no AGI-ísmo, que reforça e repete seus principais pontos de vista: que o privado tem melhor desempenho que o público (o viés do mercado), que a adaptação à realidade supera a transformação dela (o viés da adaptação) e que a eficiência prevalece sobre as preocupações sociais (o viés da eficiência).
Essas tendências mudam a cara da promessa sedutora por trás da AGI: em vez de salvar o mundo, a empreitada para criá-la só piorará as coisas. Veja só como.
Lembra quando o Uber, com suas tarifas baratas, estava cortejando cidades para atuar como seu sistema de transporte público?
Tudo começou bem, com o Uber prometendo corridas inacreditavelmente baratas, cortesia de um futuro com carros autônomos e despesas trabalhistas mínimas. Os investidores endinheirados adoraram essa ideia, mesmo tendo que arcar com os prejuízos multibilionários do Uber.
Mas quando a realidade chegou, os carros autônomos ainda eram uma quimera. Os investidores exigiram lucros e o Uber foi obrigada a aumentar os preços. Os usuários que dependiam dele para substituir os ônibus e trens como transporte público ficaram a ver navios.
O instinto neoliberal por trás do modelo de negócios do Uber é que o setor privado pode ter um desempenho melhor que o setor público – o viés do mercado.
Não tem a ver apenas com as cidades e o transporte público. Hospitais, departamentos de polícia e até mesmo o Pentágono cada vez mais recorrem ao Vale do Silício para realizar suas tarefas.
Com a AGI, esta dependência só aumentará, até porque a AGI não tem limites em suas possibilidades e ambições. Nenhum serviço administrativo ou governamental estaria imune à sua promessa de ruptura.
Além disso, a AGI nem precisa existir para atraí-los. Esta pelo menos é a lição que aprendemos com a Theranos, uma startup que prometeu transformar o serviço de saúde com uma tecnologia revolucionária de exames de sangue e uma figura que por muito tempo foi idolatrada pelas elites americanas. Suas vítimas são reais, mesmo que sua tecnologia nunca tenha existido.
As duas fases da AGI
Depois de tantos traumas semelhantes a esses com Uber e Theranos, já sabemos o que esperar de um lançamento da AGI. Ele será composto por duas fases. Primeiro, a ofensiva sedutora dos serviços altamente subsidiados. Depois, a desagradável contenção de gastos, com os usuários e as agências excessivamente dependentes arcando com os custos de tornar a tecnologia lucrativa.
Como sempre, os especialistas do Vale do Silício minimizam o papel do mercado. Em um ensaio recente intitulado “Why A.I. Will Save the World” (Por que a IA salvará o mundo, em tradução livre), Marc Andreessen, um famoso investidor em tecnologia, chega a proclamar que a IA “pertence a pessoas e é controlada por pessoas, como qualquer outra tecnologia”.
Só um capitalista de risco pode oferecer eufemismos tão requintados. A maioria das tecnologias modernas pertence a corporações. E elas – não o mítico “povo” – serão aqueles que vão ganhar dinheiro com a salvação do mundo.
E elas estão de fato salvando ele? O histórico, até agora, é medíocre. Empresas como Airbnb e TaskRabbit foram acolhidas como salvadoras da classe média passando por dificuldades; os carros elétricos da Tesla eram vistos como um remédio para um planeta sofrendo com o aquecimento global. O Soylent, uma bebida desenvolvida para substituir refeições, embarcou numa missão para “resolver” a fome no mundo, enquanto o Facebook prometeu “resolver” os problemas de conectividade no sul global. Nenhuma dessas empresas salvou o mundo.
Há uma década, chamei isso de solucionismo, mas “neoliberalismo digital” seria igualmente adequado. Essa visão de mundo reformula os problemas sociais levando em consideração soluções tecnológicas com fins lucrativos. Como consequência, as preocupações que pertencem à esfera pública são recriadas como oportunidades empresariais no mercado.
O AGI-ísmo reacendeu esse fervor solucionista. No ano passado, Altman declarou que a “AGI é provavelmente necessária para a humanidade sobreviver” porque “nossos problemas parecem grandes demais” para “resolvermos sem ferramentas melhores”. Recentemente, ele afirmou que a AGI será um catalisador para o desenvolvimento da humanidade.
Mas as empresas precisam de lucros, e essa benevolência, sobretudo de empresas não lucrativas queimando bilhões de investidores, não é comum. A OpenAI, que recebeu bilhões da Microsoft, cogitou levantar outros US$ 100 bilhões para desenvolver a AGI. Esses investimentos vão precisar ser recuperados – assim como os custos invisíveis do serviço. (Uma estimativa de fevereiro calculou a despesa com o funcionamento do ChatGPT em US$ 700 mil por dia.)
Portanto, a fase desagradável de contenção de gastos, com o aumento dos preços para tornar um serviço de AGI lucrativo, pode chegar antes da “abundância” e do “desenvolvimento”. Mas quantas instituições públicas confundiriam mercados instáveis com tecnologias acessíveis e se tornariam dependentes das ofertas caras da OpenAI até lá?
E se você não gosta da ideia de sua cidade terceirizar o transporte público para uma startup frágil, será que gostaria que ela terceirizasse os serviços assistenciais, o gerenciamento de resíduos e a segurança pública para as empresas de AGI provavelmente ainda mais voláteis?
A AGI atenuará a dor dos nossos problemas mais espinhosos sem solucioná-los.O neoliberalismo tem o dom de mobilizar a tecnologia para tornar suportáveis os sofrimentos da sociedade. Lembro de um empreendimento tecnológico inovador de 2017 que prometia melhorar o uso dos passageiros de uma linha de metrô de Chicago. Ele oferecia recompensas para desencorajar os passageiros a pegar o metrô nos horários de pico. Seus criadores promoveram a tecnologia para influenciar o lado da demanda (os passageiros), observando mudanças estruturais no lado da oferta (como aumentar as verbas para o transporte público) como difícil demais. A tecnologia ajudaria os moradores de Chicago a se adaptarem à deterioração da infraestrutura da cidade em vez de solucioná-la para atender as necessidades da população.
Este é o viés de adaptação – a aspiração de que, com uma varinha de condão tecnológica, possamos nos tornar insensíveis à nossa situação. É o produto da incansável torcida do neoliberalismo pela autossuficiência e resiliência.
A mensagem é clara: prepare-se, melhore seu capital humano e trace seu plano como uma startup. E o AGI-ísmo ecoa essa ideia. Bill Gates anunciou aos quatro ventos que a IA pode “ajudar pessoas em todos os lugares a melhorar suas vidas”.
O festival dos solucionistas está apenas começando: seja lutando contra a próxima pandemia, a epidemia de solidão ou a inflação, a IA já está sendo lançada como uma solução multiuso para problemas reais e imaginários. Entretanto, a década perdida para o desvario solucionista revela os limites de tais soluções tecnológicas.
De fato, muitos aplicativos do Vale do Silício – para monitorar nossos gastos, as calorias ingeridas e as atividades físicas – são úteis de vez em quando. Mas eles costumam ignorar as causas por trás da pobreza ou da obesidade. E sem combater as causas, continuamos presos no âmbito da adaptação, não da transformação.
Existe uma diferença entre nos encorajar a não desistir de nossas rotinas de caminhada – uma solução que favorece a adaptação individual – e compreender o motivo de nossas cidades não terem espaços públicos para se fazer caminhadas – um pré-requisito para uma solução favorável a uma política que possibilita a transformação coletiva e institucional.
Entretanto, o AGI-ísmo, assim como o neoliberalismo, vê as instituições públicas como pouco criativas e produtivas. Elas deveriam apenas se adaptar à AGI, pelo menos de acordo com Altman, que recentemente disse estar apreensivo com “a velocidade com que nossas instituições podem se adaptar” – parte da razão “de por que queremos começar implantando esses sistemas muito cedo, enquanto eles são bem fracos, para que as pessoas tenham o máximo de tempo possível para fazer isso”.
Mas as instituições devem apenas se adaptar? Elas não podem desenvolver suas próprias agendas transformadoras para melhorar a inteligência da humanidade? Ou recorremos às instituições apenas para mitigar os riscos das tecnologias do Vale do Silício?
A AGI prejudica o civismo e amplia as tendências que já não gostamos.
O problema da eficiência
Uma crítica comum ao neoliberalismo é que ele nivelou nossa vida política, reorganizando-a em torno da eficiência. “O problema do custo social”, um artigo de 1960 que se tornou um clássico do cânone neoliberal, prega que uma fábrica poluidora e suas vítimas não devem se preocupar em levar seus conflitos à justiça. Tais embates são inúteis – quem precisa da justiça, afinal? – e atrapalham as atividades do mercado. Em vez disso, as partes devem negociar em particular sobre indenizações e continuar com seus negócios.
Essa fixação pela eficiência foi o que nos levou a “resolver” as mudanças climáticas permitindo que os piores criminosos continuem como antes. A maneira de evitar as amarras da regulamentação é elaborar um esquema – neste caso, taxar o carbono – que permita aos poluidores comprar créditos equivalentes à quantidade extra de emissões de carbono produzidas por eles.
Essa cultura da eficiência, na qual os mercados medem o valor das coisas e substituem a justiça, inevitavelmente destrói o civismo.
E os problemas criados por isso são vistos por todo lado. Os estudiosos se preocupam com o fato de que, sob o neoliberalismo, a pesquisa e o ensino se transformaram em mercadorias. Os médicos lamentam que os hospitais priorizem serviços mais lucrativos, como cirurgias eletivas, em vez dos atendimentos de emergência. Os jornalistas odeiam que o valor de seu trabalho seja medido por visualizações.
Agora imaginem liberar a AGI nessas respeitadas instituições – a universidade, o hospital, o jornal – com a nobre missão de “consertá-las”. Suas missões cívicas implícitas permaneceriam invisíveis para a AGI, pois elas raramente são quantificadas, mesmo nos relatórios anuais – o tipo de material usado para treinar os modelos por trás da AGI.
Afinal, quem gosta de se gabar que seu curso de História do Renascimento teve apenas uma meia dúzia de alunos? Ou que sua reportagem sobre corrupção num país longínquo teve apenas dez visualizações? Inúteis e sem dar lucro, tais casos isolados sobrevivem milagrosamente mesmo no sistema atual. O restante da instituição os subsidia sem alarde, priorizando outros valores que não são a “eficiência” orientada pelo lucro.
Esse ainda será o caso na utopia da AGI? Ou corrigir nossas instituições por meio da AGI será como entregá-las nas mãos de consultores cruéis? Elas também oferecem “soluções” amparadas por dados para maximizar a eficiência. Mas essas soluções muitas vezes não conseguem captar a confusa interação de valores, missões e tradições no coração das instituições – uma interação que raramente é visível se você olha os dados apenas por cima.
Aliás, o desempenho extraordinário de serviços como o ChatGPT é, por definição, uma recusa em compreender a realidade de forma mais aprofundada, além da parte superficial dos dados. Por isso, enquanto os sistemas iniciais de IA dependiam de regras explícitas e exigiam que alguém como Newton teorizasse a gravidade – para perguntar como e por que as maçãs caem –, os sistemas mais recentes simplesmente aprendem a prever os efeitos da gravidade observando milhões de maçãs caindo no chão.
No entanto, se tudo o que a AGI vê são instituições quebradas que lutam pela sobrevivência, ela talvez nunca deduza o verdadeiro ethos delas. Boa sorte ao discernir o significado do juramento de Hipócrates observando hospitais que foram transformados em centros de lucro.
A ideia de que a sociedade não existe
Outra máxima neoliberal famosa de Margaret Thatcher era “essa coisa de sociedade não existe”.
O lobby da AGI compartilha involuntariamente essa visão desoladora. Para eles, o tipo de inteligência que vale a pena reproduzir é uma ação que acontece na cabeça de indivíduos e não na sociedade em geral.
Mas a inteligência humana é tanto um produto de políticas e instituições como de genes e aptidões individuais. É mais fácil ser inteligente recebendo uma bolsa da Biblioteca do Congresso americano do que tendo vários empregos em um lugar sem uma livraria ou mesmo um wi-fi decente.
Não parece tão controverso sugerir que mais bolsas de estudo e bibliotecas públicas farão maravilhas para aumentar a inteligência humana. Entretanto, para a torcida de solucionistas no Vale do Silício, aumentar a inteligência é sobretudo um problema tecnológico – por isso a empolgação com a AGI. No entanto, se o AGI-ísmo é de fato o neoliberalismo por outros meios, então devemos estar prontos para ver menos – não mais – instituições que possibilitam a inteligência. Afinal, elas são os vestígios daquela “sociedade” temível que, para os neoliberais, não existe de verdade. O grande projeto da AGI de aumentar a inteligência pode acabar reduzindo-a.
Devido a essa tendência solucionista, até mesmo as ideias de políticas aparentemente inovadoras em torno da AGI não conseguem empolgar. Veja o caso da proposta recente de um “Projeto Manhattan para a Segurança da IA”. Ele tem como premissa a falsa ideia de que não há alternativa à AGI.
Mas nossa busca pelo aumento da inteligência não seria muito mais eficiente se em vez disso o governo financiasse um Projeto Manhattan para a cultura e a educação e as instituições que a estimulam?
Sem tais iniciativas, os recursos enormes de nossas atuais instituições públicas correm o risco de se tornarem meros conjuntos de dados de treinamento para startups de AGI, reforçando a mentira de que a sociedade não existe.
Dependendo de como (e se) a rebelião dos robôs se desenrolar, a AGI pode ou não se revelar uma ameaça existencial. Mas com a sua tendência antissocial e seus vieses neoliberais, o AGI-ismo já é: não precisamos esperar que roombas mágicos questionem os seus princípios. / Tradução Romina Cácia
*Evgeny Morozov é autor do livro To Save Everything, Click Here: The Folly of Technological Solutionism” e apresentador do podcast The Santiago Boys.
Siga o Agenda Capital no Instagram>https://www.instagram.com/agendacapitaloficial/
Com informações do The New York Times – via Estadão
