u/CaiOS1

Quando imaginamos a inteligência artificial, podemos imaginá-la como um futuro onde o trabalho não existe e todos nós somos livres para aproveitar nossas vidas, como também podemos imaginá-la como a causadora de um futuro onde as máquinas exterminam ou escravizam os humanos. Mas imaginá-la dessa forma, apenas como uma métrica de bom ou ruim, ou como uma métrica de 0 a 10 que vai do extermínio da humanidade até a utopia, é em si uma forma errada de analisar o problema. O erro dessa métrica é que não basta analisar o que a IA pode fazer, mas sim o que permite à IA fazer isso, da mesma forma que não basta analisar o que um artista pinta em seu quadro sem analisar quem é o artista. Não basta olharmos para a IA como necessariamente algo bom ou ruim em si; precisamos olhar para seu controlador para justamente definir essa métrica. Essa mesma tese pode ser aplicada à IA porque, embora ela possa ser utilizada para a geração ou o gerenciamento de itens nocivos, tudo isso não se deve necessariamente à inteligência artificial em si, mas a quem a administra e, sobretudo, ao sistema que permite que quem a administra a utilize de forma nociva.

Obviamente existem ressalvas nesse ponto. Pode-se argumentar, por exemplo, que a IA, por sua própria natureza, é capaz de produzir fake news, facilitar fraudes ou ser utilizada para outros fins nocivos. Esse é um ponto extremamente válido, mas temos que conectá-lo justamente ao outro ponto mencionado anteriormente: o controle. Quando menciono controle, não estou necessariamente falando da administração individual de uma pessoa que utiliza uma IA para criar uma fake news; estou falando também do que permitiu que essa pessoa pudesse gerar e distribuir essa fake news, de quais limitações de segurança existem, de quem decidiu como aquela tecnologia seria construída e de quais incentivos estavam envolvidos nesse desenvolvimento. Uma inteligência artificial não necessariamente gera fake news por natureza; isso pode acontecer por suas próprias limitações tecnológicas, por seu treinamento ou pela forma como é utilizada. Mas novamente temos que fazer a mesma pergunta: o que permitiu que a IA fosse desenvolvida dessa maneira? É essa análise de sobrepor um problema menor por uma causa maior que chamo de identificação inimiga.

Podemos, por exemplo, imaginar um universo distópico onde a IA extermina a raça humana. Suponhamos que isso ocorra porque a principal empresa que estava desenvolvendo essa IA não distribuiu recursos suficientes para segurança e resolveu concentrar seus recursos apenas no desenvolvimento, tentando gerar capital o mais rápido possível. Mas espere: isso realmente seria uma análise do que permitiu que a IA exterminasse a raça humana? Não. Isso seria uma explicação de como aconteceu, não necessariamente do que permitiu que acontecesse. Colocar toda a culpa na empresa também pode interromper a análise antes de chegarmos ao que permitiu que a empresa agisse daquela maneira. Se existe uma estrutura econômica onde uma empresa é recompensada por chegar primeiro, produzir mais rápido, gastar menos e superar seus concorrentes, então não estamos falando apenas de uma empresa irresponsável, mas de um sistema no qual comportamentos irresponsáveis podem ser economicamente recompensados. Se o que permite a ineficiência ou a irresponsabilidade desmorona, seja a busca desenfreada pelo lucro dentro do capitalismo ou a ineficiência e centralização que vimos em experiências socialistas do século XX, aquilo que dependia desse fator também é afetado. Como um problema menor causado por um problema maior pode se sustentar da mesma maneira depois que sua causa desaparece?

Mas então o que seria esse problema maior? Podemos começar apontando a classe alta, mas simplesmente atacar uma classe não resolve a própria lógica da identificação inimiga, pois ainda precisamos perguntar o que permite a existência dessa concentração. No fim, chegamos à centralização do poder político e econômico, que hoje se manifesta de forma extremamente frequente ao redor do mundo através do capitalismo. E aqui preciso fazer uma ressalva importante: não digo isso como um elogio ao modelo soviético nem como um elogio às atrocidades cometidas por sistemas totalitários que chamamos de Marxismo-Leninismo e suas variantes, como o Maoísmo. Democracia e liberdade são essenciais para qualquer sistema que pretenda superar o capitalismo sem simplesmente substituir uma forma de concentração de poder por outra. O que digo é que, entre grande parte dos problemas futuros e presentes relacionados à inteligência artificial, podemos observar uma âncora comum no sistema econômico em que ela está sendo desenvolvida. Um dos casos mais conhecidos é o uso de milhões de obras disponíveis no ambiente digital sem o consentimento de seus artistas para treinamento de modelos. Isso gerou, com razão, uma enorme repercussão. Mas, se identificamos apenas a ação espontânea como o problema, mesmo que ela seja corrigida, a estrutura capaz de produzir novos problemas semelhantes continua existindo.

Surge então uma pergunta bastante óbvia: por que simplesmente não acabamos com a inteligência artificial? Na teoria parece um argumento forte. Se a IA remove empregos, pode ser utilizada para manipulação, pode diminuir nossa liberdade de escolha, pode causar danos ambientais e pode produzir diversos outros problemas, eliminar a IA pareceria eliminar todos esses problemas sem o processo longo e difícil de transformar o sistema que os produz. Mas, querendo ou não, isso é extremamente utópico porque o próprio sistema econômico precisa da IA, mesmo quando ela causa problemas ao próprio sistema. Imagine uma fábrica que recebe 20 moedas e gasta 5 em custos. Digamos que, utilizando IA e automação, ela consiga reduzir esses custos de 5 moedas para 1. O que ocorrerá com as demais fábricas? Elas tenderão a adotar a mesma tecnologia, seja voluntariamente para maximizar o lucro, seja por necessidade para sobreviver à competição capitalista, pois quem produz algo com um custo menor pode vendê-lo por um preço menor ou simplesmente possuir uma margem maior do que o concorrente que não automatizou. Mesmo que um país resolva proibir completamente essa tecnologia, ele continuará competindo economicamente e geopoliticamente com países que não fizeram o mesmo. E mesmo em países socialistas a IA continuaria sendo relevante, porque um país que voluntariamente abre mão de uma tecnologia capaz de aumentar drasticamente sua capacidade econômica e tecnológica corre o risco de se tornar geopoliticamente irrelevante em relação aos demais. Não há como simplesmente fingir que a IA deixará de existir. Logo, a discussão não deveria ser apenas sobre sua eliminação, mas principalmente sobre como iremos administrá-la.

Um leitor mais cético pode me afirmar que a ganância humana se sobrepõe a qualquer sistema econômico ou político e que, utilizando minha própria lógica de identificação inimiga, poderíamos dizer que a verdadeira raiz não é o capitalismo, mas a concentração de poder causada pela própria ganância humana. Essa crítica está, em grande parte, correta. A concentração de poder é uma realidade que moldou o capitalismo da mesma forma que moldou sistemas que se declaravam socialistas. Mas existe uma diferença importante: a ganância é um traço humano e, portanto, não podemos simplesmente eliminá-la do ser humano; o que podemos fazer é pensar em como impedir que essa ganância se transforme em poder político e econômico praticamente ilimitado. No capitalismo ela pode se manifestar através do mercado, da propriedade e da acumulação; em sistemas socialistas autoritários ela pode se manifestar através da centralização burocrática e política. A União Soviética demonstrou muito bem que substituir a propriedade privada por uma burocracia extremamente concentrada não elimina magicamente o problema da concentração do poder. Isso, porém, também não é uma justificativa para aceitar outra estrutura que permita o mesmo problema.

Imagine uma empresa de IA perfeitamente ética, que gasta muito mais dinheiro com segurança, demora muito mais para lançar seus modelos, protege integralmente os dados de seus usuários, remunera cada pessoa cujo trabalho é utilizado e coloca considerações ambientais acima do lucro. Agora imagine que todos os concorrentes dessa empresa não façam nada disso. A longo prazo, o que acontece com uma empresa que demora mais, gasta mais e possui custos maiores do que todos os seus concorrentes? Existe uma boa chance de ela simplesmente morrer ou perder espaço para aqueles que aceitam fazer o que ela não aceita. É por isso que o maior erro dentro da identificação inimiga é pressupor que basta encontrarmos uma pessoa má ou uma empresa má e substituí-la por uma pessoa boa ou uma empresa boa. Precisamos analisar o sistema que recompensa determinados comportamentos. Se dependemos exclusivamente da bondade individual para que um sistema funcione, então esse sistema possui um problema estrutural.

Ao mesmo tempo, seria um erro grotesco não considerar os riscos da IA como tecnologia em si. A inteligência artificial quebrou parâmetros que durante muito tempo utilizamos para definir tecnologia. Antes, nossas ferramentas aumentavam principalmente nossa capacidade e velocidade de produção ou automatizavam parcialmente nossas atividades, como ocorreu durante a Revolução Industrial e posteriormente com os primeiros robôs industriais. Hoje começamos a criar ferramentas capazes de executar tarefas intelectuais e talvez, no futuro, capacidades ainda mais complexas. Nossas próprias criações, que até então eram nossas ferramentas, poderiam em algum cenário nos transformar em ferramentas delas. É daí que surge aquilo que críticos da IA chamam de uma possível revolução das máquinas. Essa visão é pessimista e distópica, mas isso não significa que todos os seus pontos sejam automaticamente inválidos. Se existe uma chance de sistemas extremamente poderosos produzirem uma catástrofe por acidente, negligência ou ação mal-intencionada, essa chance merece cautela. O que não podemos fazer é interromper a análise justamente aí.

Se existe um sistema incentivando o desenvolvimento quase instantâneo dessa tecnologia, onde chegar antes do concorrente possui um valor econômico gigantesco, precisamos também considerar esse incentivo na análise do risco. Remover ou diminuir essa pressão não faria magicamente a IA se tornar incapaz de causar danos, mas poderia diminuir drasticamente determinados riscos. Uma tecnologia desenvolvida de forma cautelosa, respeitando segurança, privacidade, meio ambiente e os indivíduos afetados por ela, é obviamente diferente de uma tecnologia desenvolvida em uma corrida onde o objetivo principal é superar o concorrente. Da mesma forma, se a IA não for algo extremamente centralizado, se ela for algo feito pela humanidade para a humanidade e submetido a estruturas democráticas de controle, diferentes modelos políticos, econômicos e técnicos de segurança podem existir simultaneamente. Isso não transforma seu risco em zero, mas muda radicalmente a estrutura que administra esse risco.

Portanto, podemos concluir que a IA em si não é algo simplesmente bom ou ruim, mas uma representação do sistema sociopolítico em que está inserida. Como uma faca, ela pode ser utilizada para cozinhar um delicioso prato de comida ou para cometer um assassinato. Tentar julgar ou remodelar apenas a faca é uma análise incompleta se não considerarmos quem a utilizou, por que a utilizou daquela maneira e, acima de tudo, o que permitiu ou até incentivou aquele indivíduo a cometer tal ação.

Ainda assim, críticos da IA argumentam corretamente que a ferramenta possui problemas concretos: capacidade de gerar notícias falsas, métodos de treinamento antiéticos, destruição ambiental causada pelos servidores que mantêm os modelos, destruição ou transformação da criatividade humana, riscos de segurança, entre diversos outros. Suas conclusões não são simplesmente falsas; grande parte dessas críticas descreve fatos que estão ocorrendo ou levanta problemas filosóficos perfeitamente válidos. O que podemos fazer é dividir essas críticas em três grupos: problemas relacionados ao sistema que controla a IA, problemas filosóficos e problemas causados pela própria natureza humana.

No primeiro grupo podemos colocar questões como data centers, propriedade intelectual utilizada sem permissão, vigilância, privacidade e danos ambientais. Uma máquina não escolhe sozinha como será treinada, quais dados utilizará, quanto de energia consumirá ou qual nível de privacidade será aceitável. Essas são escolhas humanas e institucionais. No segundo grupo entram problemas filosóficos, como a pergunta sobre se uma imagem criada através de um prompt pode ou não ser considerada arte. Isso é uma discussão perfeitamente legítima, mas responder a essa pergunta significaria praticamente resolver debates filosóficos sobre a própria definição de arte que existem há décadas ou séculos. Debater isso é válido, mas transformar essa discussão no centro de todo o debate sobre IA pode fazer com que questões muito maiores sejam negligenciadas.

O terceiro grupo talvez contenha uma das críticas mais válidas: mesmo uma IA descentralizada e administrada por uma sociedade diferente ainda poderia ser utilizada para o mal porque seres humanos continuam sendo seres humanos. Uma faca pode virar uma arma, a internet pode se tornar um local para golpes e a tecnologia nuclear pode produzir energia ou destruir cidades. Isso não significa que devemos interromper todo desenvolvimento tecnológico, pois, levando esse argumento ao extremo, a humanidade nunca teria saído da Idade da Pedra porque até uma pedra pode ser utilizada para matar alguém. O que nos cabe é aprender a administrar nossas tecnologias e torná-las o mais seguras possível. É importante também separar segurança de vigilância: se estamos falando de uma empresa utilizando IA para roubar ou explorar dados, voltamos ao problema de quem controla a ferramenta; se estamos falando da possibilidade de a própria capacidade da tecnologia gerar consequências perigosas, então estamos diante de um problema legítimo da ferramenta e da natureza humana, que precisa ser tratado como tal.

Também existe o argumento de que nenhuma tecnologia anterior chegou perto do potencial de poder da inteligência artificial e que talvez seja justamente aqui que deveríamos estabelecer um limite ao desenvolvimento tecnológico humano. O problema é que, além da dificuldade prática de impor esse limite mundialmente, esse argumento muitas vezes depende de especulações sobre uma tecnologia futura que ainda não existe. Isso não significa que devemos ignorar esses cenários. Pelo contrário: significa que devemos investir seriamente em segurança. Mas existe uma diferença enorme entre dizer “este risco é possível e precisamos estudá-lo” e dizer “este risco hipotético justifica eliminar uma tecnologia inteira”. Da mesma forma, seria ignorância afirmar que os benefícios da IA inevitavelmente superarão seus riscos. Não sabemos. O que podemos afirmar é que uma tecnologia com potencial para automatizar enormes setores da atividade humana precisa de muito mais segurança, cautela e controle democrático do que possui hoje.

É por isso que, para mim, a discussão sobre inteligência artificial não deveria ser reduzida à pergunta “IA é boa ou ruim?”. A pergunta mais importante é: quem controla a IA, sob quais incentivos ela está sendo desenvolvida e para quem essa tecnologia será utilizada?