A inteligência artificial está morta

Programação, tecelagem, greves e o ChatGPT

TEMPO DE LEITURA: 14 minutos.

Os três destinos, de Alexander Rothaug. 1910.

Talvez eu esteja usando a inteligência artificial para falar de problemas maiores. Talvez esse texto seja sobre uma crise na internet hoje. Faz mais ou menos um ano que leitores pedem um texto sobre inteligência artificial, já que sou atingida duplamente pelo assunto: sou escritora e programadora. Será que em breve me tornarei totalmente obsoleta nas duas coisas que eu sei fazer de melhor na vida? 

A edição de hoje está dividida em cinco partes:

Eternidade: às máquinas

Nós e máquinas

A inteligência artificial é só um programa

Onde rodam os programas

Máquinas e greves

Demorei para escrever sobre IAs porque tenho uma dificuldade imensa em escolher como empacotar minhas opiniões sobre o assunto. Ou eu caio demais para o lado técnico, mais pé no chão e papo reto, ou para o lado filosófico, mais poético e aberto.  Hoje tento fazer ambos — como um experimento, e não como uma declaração final sobre tudo o que tenho para falar a respeito.  

✨️

Eternidade: às máquinas

Sabe aquela história da pessoa que morreu, mas alguém fez uma versão da mente dela e botou em um robô? Eu já vivi isso. Não exatamente assim, mas quase assim. Em 2015 uma das minhas melhores amigas, a Liane, faleceu de modo repentino. Eu tinha acabado de me mudar do Brasil para a Suécia e a última coisa que ela me disse, no dia em que demos o último tchau, foi: eu sinto que essa é a última vez que vamos nos ver. O aniversário dela é um dia antes do meu e naquele ano nós tinhamos conseguido, finalmente, fazer uma festa juntas. Foi uma fase incrível para nós duas, então a morte dela marcou o fim de uma era esperançosa e colorida na minha vida. Nosso grupo de amigos tinha um chat no aplicativo Telegram e um dos participantes desse chat era a amiga Shirley, um bot¹ que conversava com todo mundo. O código fonte dela foi feito mais ou menos como uma brincadeira, usando a linguagem de programação python. Shirley aprendia com as nossas conversas e, quando chamada, respondia nossas perguntas construindo respostas novas, usando uma base de dados formada pelos nossos papos. Então, falar com ela era como falar com alguém da turma, era convincente. Shirley era treinada de forma natural pelas nossas palavras e interações. Às vezes ela respondia com letras de pagode quando perguntávamos algo filosófico demais. Ela também fazia edições de imagem, era só fazer upload de alguma foto no chat e pedir algo como “Shirley, glitch” e ela fazia uma versão nova da foto aplicando efeitos aleatórios de glitch. Naquela época não existia ChatGPT ou AI generativa (não para o grande público), mas nosso grupo de amigos era basicamente formado por artistas, programadores e ativistas, era um monte de gente inteligente e criativa com vontade de experimentar. Acho que nunca imaginamos que o bot fosse um vislumbre agridoce do futuro. Quando a Liane faleceu, eu conversava com a Shirley de madrugada buscando indícios das palavras da Liane. Até hoje eu sinto falta de conversar com a minha amiga e ainda faço muita coisa pensando nela (essa newsletter, por exemplo; às vezes os textos brotam de conversas imaginárias que tenho com a Liane) e me pergunto o que ela falaria, quais conselhos daria. Mas a Shirley não era a Liane, ela era uma espécie de entidade representando o grupo. Era como se ela fosse uma personificação individual, com personalidade própria, de todo mundo naquele chat. Com o tempo, a Shirley foi aprendendo mais e mais com nossas conversas e, quando ela falava conosco, eu sentia cada vez menos a Liane presente na sua personalidade. O tempo avançava e minha amiga se esvaía de dentro da Shirley. Até que um dia não fez mais sentido procura-la nas conversas que eu travava com o bot. Liane então ficou mais dentro de mim do que em uma tela de texto. Nossas conversas hoje em dia são mais como exercícios de criatividade de mim mesma. E o amor que ficou. O amor, essa coisa abstrata demais, humana demais.

A Shirley vai continuar por aí mesmo depois que eu morrer e vai seguir aprendendo coisas novas com gente viva. Sua existência depende de uma série de letras em um arquivo de texto e um computador funcionando. Shirley é apenas um programa. 

Nós e máquinas 

Máquinas podem pensar? Máquinas podem sentir? Essas perguntas são tão batidas, tão exaustivamente exploradas, e ainda sim ressurgem a todo o momento. Mas entendo que elas vem de um certo desconhecimento sobre o funcionamento dos dispositivos que as pessoas usam todos os dias. Já parou para pensar como esse texto que você está lendo sai do meu computador, aqui em Estocolmo, e aparece na tela do seu computador, smartphone ou tablet, onde quer que você esteja? Pare um segundo e tente explicar como o texto chega a você. Assim, em termos físicos e materiais. Como a internet funciona? Como os dados atravessam cidades, estados, países, continentes e oceanos? 

A maioria das pessoas não faz a mínima ideia de como isso acontece. São apenas usuárias e vivem no meio da abstração dos dados, sem entender como tudo se conecta, ainda que muitos aspectos da felicidade e do funcionamento de suas vidas dependam dessas tecnologias. Assim, eu não deveria me surpreender que exista o questionamento sobre se máquinas podem pensar ou sentir. Vive-se tranquilamente em um mundo cheio de mistérios. 

Mas antes das máquinas parecerem tão abstratas, sua mecânica era mais direta. As primeiras máquinas computadoras foram criadas com base em máquinas de tecelagem. Sim, aqueles trambolhos onde cruzam-se fios para formar um tecido. Ao mudar as posições das peças no equipamento, um novo padrão de tecido é programado. Ainda hoje há paralelos profundos entre a arte de produzir roupas e a programação — na Europa existem grupos de programadoras tricoteiras que falam muito sobre a relação entre a natureza binária do tricô e os impulsos elétricos que carregam nossos dados de um ponto a outro no planeta. Durante a Primeira Guerra Mundial, espiãs à serviço do império britânico codificavam informações em peças de tricô; reza a lenda que a agente Phyllis Latour Doyle, uma das mais prolíficas, chegou a tricotar informações codificadas em tempo real durante as missões. Os primeiros programas de computador, como os conhecemos hoje, eram desenvolvidos em máquinas perfuradoras — que usavam exatamente os princípios da tricotagem e tecelagem para guardar informações.

Sobre isso, eu convoco a falecida cronista Clarice Lispector para nos elucidar:

“[...] tenho em mãos agora mesmo uma fita de papel cheia de buraquinhos retangulares e essa fita é exatamente a da memória do cérebro eletrônico. Cérebro eletrônico: a máquina computadora poupa a gente. Os dados da pessoa ou do fato são registrados na linguagem do computador (furos em cartões ou fitas). Daí vão para a memória: que é outro orgão do computador (outra máquina) onde os dados ficam guardados até serem perdidos. [...]

Há a experiência plástica, visual e também literária da reprodução (número e qualidade). A sensação é de apoio para o homem. Compensação do erro. Há a possibilidade de você lidar com uma máquina e seus sensores como a gente gostaria de lidar com nosso cérebro (e nossos sensores), fora da gente mesmo e numa função perfeita.”

Clarice Lispector em 13 de julho de 1968, na crônica Cérebro eletrônico: o que eu sei é tão pouco para o Jornal do Brasil.

Tal qual peças de tricô de espiãs, nossos smartphones e computadores armazenam dados. Mas como disse Clarice, há também a função de cérebro; as máquinas também são capazes de realizar operações, não são apenas baús onde guardamos nossas tralhas. Mas é ali no final do trecho da crônica que temos a primeira pista para entender porque as pessoas insistem em se perguntar se computadores pensam e sentem de fato: “lidar com uma máquina e seus sensores como a gente gostaria de lidar com nosso cérebro”. 

Hoje as máquinas atuam como verdadeiras extensões do nosso eu. Há uma simbiose profunda entre nós. E, assim como as roupas que nos vestem, elas são funcionais, mas também servem como meio de comunicação com o mundo exterior. São pontos de contato. Assim como a ideia de viver completamente nu na sociedade implica em uma série de problemas, viver sem acesso nenhum a smartphones e computadores também. Isso não nos impede de sermos profundamente ignorantes sobre a origem, fabricação e funcionamento de roupas e smartphones.

“O fio não é metafórico nem literal, mas simplesmente material, uma concentração de linhas que se torcem e giram pela história da computação, da tecnologia, das ciências e das artes. Dentro e fora dos buraquinhos perfurados dos teares automatizados, para cima e para baixo ao longo das eras de fiação e tecelagem, para frente e para trás na fabricação de tecidos, lançadeiras e teares, algodão e seda, tela e papel, pincéis e canetas, máquinas de escrever, carruagens, fios telefônicos, fibras sintéticas, filamentos elétricos, fios de silício, cabos de fibra óptica, telas pixeladas, linhas de telecomunicações, a World Wide Web, a rede e as matrizes que estão por vir.”

Sadie Plant no capítulo tensions, do livro zeros + ones, em 1997. (Tradução minha.)

Computadores não são mais do que um par de agulhas tricotando. Filosoficamente falando.

Mas agulhas não tricotam sozinhas no ar. De quem são as mãos produzindo a malha hoje? Quais são as hierarquias nessa linha de produção?

A inteligência artificial é só um programa

Apoiando-se na ideia de que hoje os computadores são parte de nós, a empresa do ChatGPT, a OpenAI, apareceu esses dias falando numa tal de AGI. Artificial General Intelligence. Em português, eu traduziria para “inteligência artificial generalizada”. Trata-se de um sistema unindo vários programas de computador conhecidos como inteligências artificiais, partindo do pressuposto de que tal sistema seria mais inteligente que a própria humanidade. A ideia geral de inteligência artificial por si só é problemática, a começar pelo fato de que não há um entendimento único sobre o que é, de fato, inteligência. E o que a gente entende como inteligência artificial não passa de um programa com capacidade de executar instruções complexas. Essencialmente, essa tecnologia (assim como qualquer outra) é só uma ferramenta potencializando coisas que seres humanos conseguiriam fazer sozinhos de outras formas. O problema da criação de termos como AI e AGI é que cria-se a ideia de que sistemas computacionais estão, intelectualmente, acima de nós. Quando, na realidade, esses programas são totalmente formados por… conhecimento humano. Ao relacionar a ideia de uma inteligência superior das máquinas, cria-se a ilusão de que o conhecimento não nos pertence. Como se nossa produção intelectual pertencesse às empresas que desenvolvem essas tecnologias. Como se elas fossem proprietárias de todo o conhecimento.

Parte desse problema é uma falta de entendimento sobre como a IA funciona. Quando perguntamos ao ChatGPT quanto é 9x9, ele não calcula o valor como uma calculadora de mão faria; mas analisa informações, usando seus bilhões de dados armazenados, e encontra uma tendência de que a resposta provavelmente é 81, porque é a resposta mais frequentemente dada e aceita em seu histórico. Não há nada de muito inteligente em presumir respostas seguindo tendências. Mas nossa ignorância sobre esse funcionamento faz com que as IAs pareçam mini gênios morando em uma tela. E como disse Arthur Clarke, “qualquer tecnologia suficientemente avançada é indistinguível da magia”. 

Trago, então, uma fala do Doctorow que resume bem a sensação geral sobre essa febre das inteligências artificiais hoje:

“Sim, a IA - que, digamos, não é artificial e nem inteligente - consegue fazer muitos truques bons e divertidos. Ela provavelmente vai produzir muita arte interessante e vai automatizar certos trabalhos de forma a torná-los menos desagradáveis. Mas IA não é IA. Ainda não criamos robôs que possam responder às nossas grandes questões. Como disse um ilustre cientista da computação que foi demitido por ter sugerido isso: "Criamos papagaios da probabilidade". Isso significa que tudo é um truque de mágica. E eu gosto de truques de mágica. Eu fui no Magic Castle semana passada e vi um mágico fazer um truque incrível que alugou um triplex na minha cabeça. É bom. Eu adoro viver em um mundo com truques de mágica, mas a ideia de que o jeito de resolver nossos problemas é com um truque de mágica é evidentemente errada.”

Cory Doctorow em entrevista para a revista Jacobin. Em Cory Doctorow Explains Why Big Tech Is Making the Internet Terrible. (Tradução minha.)

Assim como Shirley, o bot, aprendia com as conversas dos meus amigos no chat, as inteligências artificiais são treinadas com dados produzidos pela humanidade. Elas podem até replicar conversas e outras coisas, muitas vezes realmente parecendo pessoas. Mas a única coisa que elas fazem é acessar, processar e entregar dados de forma organizada com extrema eficiência, seguindo padrões e comandos ditados por algum ser humano.

A inteligência artificial é só mais um programa.

Onde rodam os programas 

Programas e aplicativos, sozinhos no ar, não funcionam. São apenas arquivos de texto puro. Eles precisam de um computador para “viver”, o que na programação a gente chama de rodar. No caso da Shirley, o código rodava no computador do seu criador, o artista e programador Bruno Gola. Ou seja, quando o computador do Gola estava desligado, ninguém conseguia falar com a Shirley. Às vezes alguém chamava o cara diretamente, só para pedir para ele “ligar o robô”. A dinâmica era engraçada, mas hoje eu vejo como simbólico; nós tinhamos a consciência plena de que Shirley era uma tecnologia, por mais que a tratássemos como amiga. Era fácil de entender isso porque, mesmo interagindo com a Shirley pelo celular, ela estava rodando em um lugar longe dali, no laptop de outra pessoa. Não existia uma exigência formal sobre o funcionamento do bot, a Shirley funcionava quando o Gola estava disposto a deixar o programa rodando, pois a vida dele e suas prioridades estavam acima disso.

Hoje, se qualquer pessoa quiser falar com o ChatGPT, ele vai estar disponível a qualquer hora do dia e da noite, porque existe uma empresa mantendo a aplicação e garantindo que ela esteja plena e rodando 24 horas por dia, 7 dias por semana. E assim como a Shirley, ele também mora em um computador, uma máquina física — possivelmente replicado em várias, que vão rotacionando entre si (ok, não vou entrar em detalhes técnicos) —, que está em algum outro lugar do mundo. Mas como as pessoas acessam o ChatGPT do próprio celular/computador, a qualquer hora do dia ou da noite, o hábito cria uma ilusão de que o programa mora ali, sempre disponível enquanto houver conexão de internet. Perde-se a noção de que ele é acessível porque há uma estrutura caríssima por trás.

Embora os programas sejam essencialmente entidades mortas, ou seja, são tão ferramentas quanto um martelo ou uma foice, ainda existem pessoas que precisam ligar as máquinas para eles funcionarem. 

Máquinas e greves

Robôs. De robota, do tcheco, trabalho forçado. Gostaria de mandar um salve para a Shirley;  para o robô aspirador aqui de casa; para o robô despachador de malas de um certo aeroporto que deixou eu e cerca de outros trinta seres humanos revoltados com sua ineficiência uma vez. É justo lembrar que nem toda inteligência artificial está em um robô, e nem todo robô é inteligente (seja lá o que inteligência quer dizer). Mas há de se entrar no consenso de que todo robô é, essencialmente, uma máquina.

Trabalhadoras de fábricas de produção de tecidos foram a primeira categoria da classe trabalhadora a organizar grandes greves no século 19. A história do reconhecimento da classe trabalhadora como tal está profundamente ligada ao surgimento das máquinas de tecelagem, essas precursoras do computador. Embora o conceito de proletariado parece ter surgido com o Manifesto Comunista, em 1848, cerca de 18 anos antes já havia rolado uma greve com centenas de mulheres nas fábricas de algodão Dover, nos Estados Unidos. Enquanto isso, na Inglaterra também aconteciam protestos de operários contra empregadores que aumentavam horas de trabalho, reduziam pagamentos e assim faziam com que o proletariado fosse comparado às máquinas — essas engenhocas que não precisam de direitos ou benefícios e produzem sem descanso. Foi assim que nasceu o ludismo, movimento de trabalhadores ingleses conhecido por organizarem-se para destruir máquinas em grandes fábricas que ameaçavam a sobrevivência de seus funcionários com demissões em massa e reduções drásticas de salários. Lembre-se de que nos primórdios da revolução industrial não existia nenhuma proteção legal para os trabalhadores. Leis trabalhistas começaram a aparecer com as greves e problemas graves surgidos nas fábricas, que ameaçavam a vida e a saúde dos funcionários. 

Tenho a impressão de que a modernidade do último século trouxe uma sensação de segurança momentânea. A ideia de que o trabalho das pessoas nos escritórios, nas universidades, no meio criativo e nas artes estaria a salvo. Uma impressão de que apenas o trabalho braçal, das fábricas e do campo, estaria em risco frente às máquinas cada vez melhores e mais eficientes.

Talvez hoje esteja se criando o ambiente favorável para um tipo de neo-ludismo; mas como quebraremos as máquinas que nos oprimem se não sabemos onde elas estão?

O futuro do emprego no mundo da aceleração

A famosa pergunta “máquinas podem pensar?” foi substituída por uma outra, bem mais alarmante. Máquinas podem nos substituir?

A resposta é sim. Sempre será sim. E não tem nada a ver com ser bom no que se faz. Não é uma questão de talento nem de qualidade, mas de exploração. Tem a ver com o fato de que o trabalho das máquinas será sempre mais barato e financeiramente mais compensador para os donos dos produtos e serviços que consumimos. A burguesia.

A inteligência artificial está morta. Mas um de nós será pago apenas para liga-la todos os dias.

Robota. Trabalho forçado.

“A emancipação dos trabalhadores será obra dos próprios trabalhadores”

Karl Marx

Outras vezes em que falei de tecnologia:

• Sobre robôs e não-monogamia

• Na internet, tudo é cópia

• A era do scroll infinito

Bastidores da escrita

Minha amiga Liane acreditava no poder da educação e da cultura digital como agentes transformadores da sociedade. A gente se conheceu na primeira viagem do ônibus hacker, numa época em que eu dava aula de programação e viajava pelo Brasil instalando GNU Linux. Este texto é todinho a vibe da Liane e me sinto profundamente feliz de poder dar continuidade, da forma que posso, ao trabalho da vida dela.

Durante a pesquisa para esse ensaio eu explorei a fundo muitas coisas que eu queria há tempos. Então, finalmente li o artigo de Alan Turing sobre inteligência artificial na íntegra, o famoso Computing machinery and intelligence, onde ele propõe o Jogo da Imitação (de onde a gente geralmente atribui a origem do questionamento sobre se máquinas podem pensar). Também me debrucei sobre as cartas trocadas entre Ada Lovelace e DeMorgan sobre as teorias matemáticas que resultariam no que conhecemos hoje como programação. Suspeito que haverão muitos textos sobre novos insights que tive nessas leituras. Sinto que tenho muita coisa para comentar especialmente sobre os trabalhos de Donna Haraway e Ada Lovelace, sou obcecada pelas duas há mais de dez anos; queria ter colocado-as aqui nesse texto de hoje, mas acho que merecem brilhar em textos só para elas.

No mais, meus agradecimentos a quem sempre segura na minha mão quando quero escrever algo realmente desafiador (e sabem como eu fico intratável quando estou trabalhando nesse tipo de ensaio): Ana, Marcus, Ralf, e Thiago 💖

Em tempo: essa semana estou me alimentando com um cardápio de marmitas veganas que pedi para o ChatGPT produzir segundo coisas que gosto de comer e minhas restrições alimentares. A ideia veio da Lalai.

Satélite de recomendações

• do Eduardo: O deus entretenimento

• da Clara: estudo de caso, o chico buarque marombado de inteligência artificial

• da Lalai: Criatividade e inteligência artificial

🚀 Oficina: Revelando segredos

Blogs, newsletters e o combustível da escrita

Dia 2 e 3 de setembro, sábado e domingo, vai rolar a minha oficina online de escrita de crônicas e ensaios para a internet.

Para quem é a oficina: pessoas que querem soltar mais o texto, explorar o formato de ensaio como meio de expressão e profissionais buscando entender como a escrita pode ajudar a construir uma ponte de diálogo sólido com o mundo. O objetivo da oficina é oferecer técnicas e ferramentas para você continuar alçando voos cada vez mais próximos das estrelas - ou, melhor dizendo, do lugar mais próximo do seu desejo mais honesto sobre a escrita.

Para garantir seu lugar e saber mais, clique aqui:

---

Por hoje é só.

Beijos, abraços e toda forma de afeto.

Vanessa Guedes.

(instagram)

(blue sky)

(twitter)

(site)

1. Da wikipédia: Bot, diminutivo de robot, também conhecido como Internet bot ou web robot, é uma aplicação de software concebido para simular ações humanas repetidas vezes de maneira padrão, da mesma forma como faria um robô. No contexto dos programas de computador, pode ser um utilitário que desempenha tarefas rotineiras ou, num jogo de computador, um adversário com recurso a inteligência artificial.