Existe uma bolha da aprendizagem automática, mas a tecnologia veio para ficar. Quando a bolha rebentar, o mundo será alterado pela aprendizagem automática. Mas provavelmente será pior, não melhor.

Contrariamente às expectativas sobre a IA dos mais pessimistas, o mundo não se vai afundar mais rapidamente graças à IA. Os avanços contemporâneos na aprendizagem automática não nos estão a aproximar da inteligência artificial geral e, como Randall Monroe referiu em 2018:

O que vai acontecer à IA é o velho e aborrecido capitalismo. A sua capacidade de se manter no poder consistirá em substituir humanos competentes e caros por robôs baratos e de má qualidade. Os grandes modelos de linguagem são um bom avanço em relação às cadeias de Markov, e o Stable Diffusion pode gerar imagens que só são um pouco estranhas com manipulação suficiente dos comandos. Os programadores medíocres usarão o GitHub Copilot para escrever código trivial e de base (código trivial é tautologicamente desinteressante), e a aprendizagem automática provavelmente continuará a ser útil para escrever cartas de apresentação. Os carros autónomos podem aparecer A Qualquer Momento™, o que vai ser ótimo para os entusiastas da ficção científica e para os tecnocratas, mas muito pior em todos os aspectos do que, digamos, construir mais comboios.

As maiores mudanças duradouras na aprendizagem automática serão, antes, as seguintes:

• Redução da mão de obra para trabalhos criativos especializados.
• A eliminação completa de humanos em funções de apoio ao cliente.
• Conteúdos de spam e phishing mais convincentes, fraudes mais escaláveis.
• Conjuntos de servidores geradores de conteúdos optimizados para motores de busca a dominar os resultados de pesquisa.
• Conjuntos de servidores geradores de livros (tanto eletrónicos quanto em papel).
• Conteúdos gerados por IA a inundar as redes sociais.
• Propaganda e campanhas de ativistas fictícios, tanto na política como na publicidade

As empresas de IA continuarão a gerar resíduos e emissões de CO₂ a uma escala enorme à medida que recolhem agressivamente todo o conteúdo da Internet que conseguem encontrar, externalizando os custos para a infraestrutura digital mundial, e alimentam os servidores de GPU com esse tesouro para gerar os seus modelos. Os humanos talvez tenham poder de decisão, ajudando a etiquetar os conteúdos, procurando os mercados mais baratos com as leis laborais mais fracas com o objetivo de construir fábricas que exploram os trabalhadores para alimentar o monstro de dados da IA.

Nunca mais confiarás noutra avaliação de produto. Nunca mais voltarás a falar com um ser humano do teu fornecedor de acesso à Internet. Os meios de comunicação social insípidos e concisos encherão o mundo digital à tua volta. A tecnologia criada para gerar engajamento em escala — aqueles vídeos editados por IA com uma voz de máquina irritante que tens visto nos teus canais ultimamente — será convertida numa marca branca e utilizada para promover produtos e ideologias a uma escala maciça com um custo mínimo a partir de contas de redes sociais que são preenchidas com conteúdo de IA, geram uma audiência e são vendidas por grosso e em ordem com o Algoritmo.

Todas estas coisas já estão a acontecer e vão continuar a piorar. O futuro dos meios de comunicação social é uma regurgitação insípida e sem alma de todos os média que vieram antes da época da IA, e o destino de todos os novos meios de comunicação social criativos é serem subsumidos no turbilhão matemático.

Isto será incrivelmente lucrativo para os patrões da IA e, para garantir o seu investimento, estão a desenvolver uma imensa e dispendiosa campanha de propaganda a nível mundial. Para o público, as capacidades actuais e potenciais futuras da tecnologia são representadas em promessas ridículas. Em reuniões à porta fechada, são feitas promessas muito mais realistas de reduzir para metade os orçamentos dos salários.

A propaganda também se apoia no cânone místico da ciência ficção sobre a IA: a ameaça de computadores inteligentes com poder para acabar com o mundo, o fascínio proibido de um novo Projeto Manhattan e todas as suas consequências, a singularidade há muito profetizada. A tecnologia não está nem perto deste nível, um facto bem conhecido dos especialistas e dos próprios patrões, mas a ilusão é mantida no interesse de pressionar os legisladores a ajudarem os barões a erguer um muro à volta da sua nova indústria.

É claro que a IA representa uma ameaça de violência, mas, como refere Randall, não é da própria IA, mas sim das pessoas que a empregam. O exército dos EUA está a testar drones controlados por IA, que não serão autoconscientes, mas que irão aumentar os erros humanos (ou a malícia humana) até que pessoas inocentes sejam mortas. As ferramentas de IA já estão a ser utilizadas para estabelecer condições de fiança e liberdade condicional — podem colocar-te na prisão ou manter-te lá. A polícia está a utilizar a IA para reconhecimento facial e «policiamento preditivo». É claro que todos estes modelos acabam por discriminar as minorias, privando-as da liberdade e, muitas vezes, levando-as à morte.

A IA é definida por um capitalismo agressivo. A exagerada bolha foi criada por investidores e capitalistas que injectaram dinheiro nela, e os rendimentos que esperam obter desse investimento vão sair do teu bolso. A singularidade não está a chegar, mas as promessas mais realistas da IA vão tornar o mundo pior. A revolução da IA chegou, e não me agrada.

Este artigo é uma tradução de «AI crap» publicado pelo Drew Devault sub a licença CC BY-SA 2.0.

Este artigo é uma tradução do artigo «No Cellphones Beyond This Point» publicado pela Alyssa Rosenzweig sob a licença CC BY-SA 4.0.

Recuso-me a andar com um telemóvel — para os meus amigos confusos na nossa sociedade obcecada pela tecnologia — eis a razão. Alguns de vocês já me perguntaram qual é o meu número para me enviarem mensagens. Talvez tenha sido um professor de uma das minhas aulas a pedir-me para utilizar um software proprietário na aula. Talvez fosse um membro da família, preocupado com o facto de, numa situação de insegurança, eu não poder pedir ajuda.

Há quatro níveis de raciocínio associados à minha recusa de ter um telemóvel, apesar de ser uma utilizadora ativa da Internet. Por ordem da menor para a maior importância:

Primeiro, a eletrónica dos telemóveis é desconfortável para mim. O meu tempo nos computadores é maioritariamente gasto em escrita, programação e arte; para mim, estas tarefas requerem teclados de tamanho normal ou tablets de desenho. Esta não é uma razão ética para evitar telemóveis e tablets, claro, e reconheço que muitas pessoas têm utilizações mais adequadas ao formato pequeno.

Em segundo lugar, os utilizadores de telemóveis criam a cultura do telemóvel. Numa fração de tempo da vida de um adulto, os telemóveis passaram de inexistentes a socialmente aceitáveis para serem usados quando se fala com alguém na vida real. Esta cultura não é inevitável para a eletrónica digital — muitas pessoas utilizam a tecnologia de forma responsável, pelo que as aplaudo —, mas continua a ser deprimentemente comum. Se eu tivesse um telemóvel à frente do nariz enquanto fingisse estar a falar com os meus amigos, continuaria a perpetuar a noção de que este comportamento é aceitável. Como receio poder vir a tornar-me alguém que utiliza a tecnologia desta forma, evito andar com um telemóvel para evitar o risco ético.

Em terceiro lugar, os telemóveis constituem um grave risco para a liberdade e a privacidade. A grande maioria dos telemóveis no mercado utilizam sistemas operativos proprietários, como o iOS, e estão repletos de software proprietário. Além disso, ao contrário da maioria dos computadores portáteis e de secretária, muitos destes sistemas operativos executam verificações de assinatura. Ou seja, é criptograficamente impossível e, em alguns casos, ilegal substituir o sistema por software livre. Este facto, por si só, é uma razão para se recusar a tocar nestes dispositivos.

A situação real é, infelizmente, pior. Na eletrónica convencional, existe um único chip principal no seu interior, a UCP [unidade central de processamento]. A UPC corre o sistema operativo, como o GNU/Linux, e tem o controlo total da máquina. Nos telemóveis não é assim; estes dispositivos têm dois chips principais — a UCP e a banda base. O primeiro tem o conjunto habitual de problemas de liberdade; o segundo é uma caixa negra ligada à Internet com um conjunto assustador de capacidades. No mínimo, devido à conceção das redes de telemóveis, sempre que o telefone estiver ligado à rede (ou seja, a banda de base estiver em linha), a localização do utilizador pode ser rastreada através da triangulação das torres de telemóveis. O risco já é inaceitável para muitas pessoas. As operações de telefonia tradicionais são vulneráveis à vigilância e à manipulação, uma vez que nem as chamadas nem as mensagens de texto são encriptadas. E, para agravar ainda mais a situação, poucos telemóveis possuem um isolamento aceitável da banda de base. Ou seja, a UCP, que pode executar software livre, não controla a banda de base, o que, para efeitos práticos, faz com que seja ilegal executar software livre nos Estados Unidos. Pelo contrário, em muitos casos, a banda de base controla a UCP. Não importa se são utilizadas mensagens encriptadas através de XMPP se a banda de base pode simplesmente tirar uma captura de ecrã sem o conhecimento nem o consentimento do sistema operativo do lado da UCP. Em alternativa, mais uma vez, dependendo da forma como a banda de base esteja ligada ao resto do sistema, pode ter a capacidade de ativar remotamente o microfone e a câmara. Com 33 anos de atraso, um mundo em que todos têm um telemóvel ultrapassa os pesadelos de George Orwell. Talvez não tenha «nada a esconder», mas eu continuo a preocupar-me com a minha privacidade. Os telemóveis são assustadores. Não contem comigo.

Por último, tendo em conta as graves implicações para a sociedade e a liberdade, recuso-me a perpetuar este sistema. Poderia decidir andar com um telemóvel mesmo assim, decidindo que, como pessoa aborrecida, posso sacrificar a liberdade em nome de uma conveniência instantaneamente gratificante. Mas, ao ser complacente, apenas acrescentaria uma pessoa à dimensão do problema, um pesado fardo ético quando a utilização da rede de telemóveis contribui para o efeito de rede, como o nome sugere.

Se eu tivesse o meu telemóvel na frente dos outros, estaria a dar a entender que «os telemóveis não fazem mal». Se alguém me admirar do ponto de vista ético, também poderá continuar a usar o telemóvel.

Se eu permitisse que os meus amigos me enviassem mensagens de texto em vez de utilizarem meios de comunicação mais éticos, estaria a dar a entender que «não há problema em enviar mensagens de texto» e que «é razoável esperar que as pessoas enviem mensagens de texto». Se eles estivessem indecisos quanto à ética e à necessidade de ter um telemóvel, isto poderia levá-los a ficar com ele.

Se eu utilizasse um telemóvel para actividades na aula, estaria a dar a entender que «os alunos do século XXI devem ter um telemóvel». Preferia ser o último a resistir na turma para os lembrar de que não se trata de um pressuposto ético.

Se eu receber um olhar perplexo dos meus conhecidos, confidentes e professores, tenho agora a oportunidade de os educar sobre software livre e privacidade. Poucas pessoas estão cientes dos riscos desses «dispositivos portáteis de vigilância», como escreveria Richard Stallman. Esses «momentos embaraçosos» são oportunidades perfeitas para ajudá-los a tomar uma decisão mais informada.

Ao andar com um telemóvel, estaria a perpetuar algo mau. Ao recusar-me ativamente a andar com um, estou a fazer algo bom.

Então, em vez de utilizar um telemóvel, quais são as minhas alternativas?

Para a maioria das tarefas digitais, incluindo escrever este artigo, utilizo um computador portátil com software livre. Como suplemento, para me ligar à Internet, utilizo uma placa Wi-Fi que corre firmware livre!

Para falar com os meus amigos, utilizo, sempre que possível, protocolos descentralizados e de especificação aberta. Em particular, estou disponível por correio eletrónico, XMPP e Mastodon. Em alguns casos em que isso não é possível devido ao efeito de rede, uso sistemas centralizados gratuitos como o IRC. Ocasionalmente, uso sistemas proprietários que foram objeto de engenharia reversa para serem usados com software livre, como o Discord [o projeto de engenharia reversa a que ela ligou já não existe]. Sempre que possível, utilizo encriptação forte implementada com software livre, como GPG e OTR, para proteção extra contra ameaças à privacidade. Se a privacidade local for um problema, ligo-me através do Tor. Qualquer uma destas medidas é um grande passo em relação as chamadas telefónicas, mensagens de texto, o Whatsapp ou o Snapchat. Todas elas juntas protegem-te da maioria dos adversários.

Para me ligar enquanto estou fora de casa, procuro redes Wi-Fi públicas, que podem ser seguras quando combinadas com encriptação e Tor. Se esta não for uma opção, talvez tenha de pedir a outra pessoa que me empreste os seus aparelhos electrónicos — isto é lamentável, mas enquanto o efeito de rede estiver em jogo, é eticamente aceitável explorá-lo. Na maior parte das vezes, evito ligar-me à Internet fora de casa; sou mais produtivo desligado!

Por isso, sim, consigo viver sem telemóvel. Nem sempre é cómodo, mas a produtividade, a liberdade e o comportamento ético são sempre mais importantes do que a conveniência.

Encorajo-te a fazer o mesmo.