Histór.ia do Futuro 22#

O simbolismo da inteligência artificial

“Com a inteligência artificial estamos invocando o demônio. Você conhece aquelas histórias em que tem o cara com o pentagrama e a água benta, e ele tem certeza que pode controlar o demônio quando invoca. Isso nunca dá certo”. -Elon Musk, 2014 MIT

“A inteligência artificial é o primeiro projeto bem-sucedido de uma Torre de Babel” Joscha Bach (Chefe do Departamento de Inteligência Artificial da Intel ).

Que esfinge de cimento e alumínio abriu seus crânios e devorou seus cérebros e imaginação? Moloque! Solidão! Sujeira! Feiúra! Ashcans e dólares inalcançáveis! Crianças gritando embaixo das escadas! Meninos soluçando em exércitos! Velhos chorando nos parques!Moloque ! Moloque! Pesadelo de Moloque! Moloque, o sem amor! Moloque mental! Moloque, o pesado juiz dos homens!Moloque, a prisão incompreensível! Moloque, a prisão sem alma e os ossos cruzados e o Congresso das dores! Moloque cujos edifícios são julgamento! Moloque, a vasta pedra da guerra! Moloque, os governos atordoados! Moloque, cuja mente é pura maquinaria! Moloque, cujo sangue está fazendo dinheiro! Moloque, cujos dedos são dez exércitos! Moloque, cujo peito é um dínamo canibal! Moloque, cujo ouvido é uma tumba fumegante!Moloque, cujos olhos são mil janelas cegas! Moloque, cujos arranha-céus se erguem nas longas ruas como intermináveis Jeovás! Moloque, cujas fábricas sonham e coaxam na neblina! Moloque, cujas chaminés e antenas coroam as cidades!Moloque, cujo amor é petróleo e pedra sem fim! Moloque, cuja alma é eletricidade e bancos! Moloque, cuja pobreza é o espectro do gênio! Moloque, cujo destino é uma nuvem de hidrogênio assexuado! Moloque, cujo nome é Mente!

Allen Ginsberg, “Uivo”.

Uma obrigação básica de quem pretende aumentar a inteligência dos outros, como eu aqui, é analisar as palavras que as pessoas usam para descrever certos fenômenos. “Os limites da minha linguagem são os limites do meu mundo”, como dizia Wittgenstein.

O modo que as pessoas falam revela as crenças que elas têm, porque escolheram ou porque obedeceram sem saber a uma escolha de outro. A linguagem que usamos faz parte de uma trama fantasma, um novelo de lã que vai se desenrolando à medida que você pega certas palavras e segue o seu rastro.

Por exemplo, em geral, o pessoal da mentalidade “racional e científica” acha que quando um personagem fundamental para entender o mundo da tecnologia diz que estamos “invocando demônios” quando usamos inteligência artificial ou que a inteligência artificial é uma “Torre de Babel” é apenas no sentido “figurativo”. Com isso eles querem dizer que é um jeito fresco e açucarado de dizer e nada tem que ver com qualquer referência a essas imagens.

Poderia ser a Torre de Pisa então? É de se perguntar se quando eles falam de “análise profunda”, eles estão perfurando algo ou mergulhando em algum oceano ou se é só um jeito fresco de falar mesmo.

É impossível se livrar da linguagem metafórica porque ela constitui o nosso próprio modo de pensar.

Se levássemos isso a sério, entenderíamos como a “Torre de Babel” explica melhor o projeto e as consequências da inteligência artificial do que os seus pretensos analistas. Por exemplo, a concentração de poder é a consequência inevitável do desenvolvimento da inteligência artificial assim como a concentração de recursos aconteceu na história bíblica. É a “mesma coisa” simbolicamente falando.

Na história da Torre de Babel, a concentração de poder para escapar do mundo, chegando ao céu à força, com meios artificiais demonstra que o céu que eles queriam era algo MATERIAL, ficava em cima das nuvens. Quer dizer, eles tinham uma concepção pequena do que o céu representa, assim como os engenheiros têm uma concepção reduzida do que o ser humano representa. Ambos querem ser deuses à imagem e semelhança deles mesmos.

A Torre de Babel representa a ambição humana de atingir poder e status divinos por meios artificiais, assim como o domínio da IA busca elevar o conhecimento humano a patamares divinos. Vejas as imagens que representam em geral essa integração e não vai ficar mais nenhuma dúvida.

Não por coincidência temos o chamado “Problema de Moloque” para descrever situações como a que estamos hoje e também poucas pessoas parecem dar atenção ao que essas analogias significam. Notem como as analogias não são gratuitas.

Moloque é o deus do Antigo Testamento que exigia sacrifícios de crianças em troca da vitória na guerra. Hoje esse símbolo passou a significar nas pesquisas de IA a dificuldade de alinhar os sistemas de inteligência artificial de forma a promover o bem-estar humano.

Essa analogia também é feita para explicar um fenômeno bem mais fácil de compreender com René Girard. Diz ele que numa rivalidade por um mesmo objeto (digamos, dois amigos que gostam da mesma garota), há um momento em que a preocupação com o objeto desaparece e o único propósito é destruir o seu oponente, mesmo que isso signifique uma aniquilação mútua (se eu não ficar com ela, ninguém vai), o que é a pior situação para todo mundo.

Isso também acontece quando você estabelece uma medida como um objetivo. É a famosa Lei de Goodhart: “quando uma métrica se torna uma meta, ela deixa de ser uma boa métrica”.

Nas redes sociais temos a tirania do algoritmo como uma ferramenta moloquiana em que todos competimos desesperadamente pela atenção do outro mesmo que isso signifique piorar a nossa vida e a dele com conteúdos inúteis. Quando o número de curtidas e visualizações se tornam um objetivo em si, as publicações deixam de ser uma boa referência.

É uma batalha em que só há perdedores, mas, apesar disso, somos incapazes de desistir de combater porque ficar no mesmo lugar significa morrer, isto é, morrer para o mercado ou para o seu “ideal de vida”.

Deu para ter ao menos um vislumbre de que eles estão falando DA MESMA COISA?

O que eu quero dizer com essa pequena introdução é que a questão aqui não é tanto analisar esses fenômenos, porque já o fiz em outras edições, mas COMO ver mais. Como ficar mais atento ao que você vê, como dar ordem ao caos, conectando as bolinhas com uma ou outra ferramenta da percepção.

Vou tentar a partir de agora realizar um esforço colossal para tentar explicar em um curto espaço como começar a pensar sobre o assunto — e provavelmente vou fracassar porque isso é conteúdo para um curso.

Se você também é teimoso como eu, segura a respiração e mergulhe comigo.

Reaprendendo a ver

Toda vez que você lê um texto a sua mente vai em duas direções: uma direção é centrípeta, para dentro do texto, para o idioma e a ordem das palavras dentro dele; outra direção é centrífuga, para fora do texto, para as imagens associadas àquelas palavras.

O que é verdade nesses dois movimentos depende de um lado da correspondência entre o que acontece no mundo e o que está descrito na obra e por outro se a verdade daquela ordem de palavras representa alguma verdade DENTRO da própria obra, se aquilo é verdade considerando apenas a obra.

Essa não é uma condição exclusiva das palavras.

Quando você vê um filme, você precisa entender ao menos 2 linguagens: a linguagem em que os personagens falam e a linguagem do cinema, das imagens em movimento.

O problema das outras artes é que elas são mudas: você vai precisar de palavras para explicar e descrever o que elas estão fazendo. A história da música é feita de músicas E de palavras que descrevem essas mesmas músicas. Ninguém explica um filme com outro filme também.

Isso é tão observado na história das artes que para a atenção excessiva na parte centrífuga temos o movimento chamado naturalismo, que pretende representar “a realidade como ela é” e quer ser julgada não pela coerência interna da obra, mas pela verdade exterior que ela representa.

O típico crítico e consumidor desse movimento avalia um filme ou lê um livro para comprovar o quão parecidas com os desejos e atitudes comuns da vida real eles são.

No cinema tivemos o Dogma 95 como uma manifestação típica dessa direção centrífuga em que até os tiros e sons precisavam ser “como são na realidade”, porque a inclusão de sons de estúdio falseava a realidade (já percebeu que em filme todo mundo se ouve bem na balada?).

A atitude dos conservadores e dos esquerdistas muitas vezes é essa: elas vão ver se o que está nas telas e nas páginas confirma uma descrição moral e política que eles têm fora delas.

O seu oposto seria o movimento que na literatura conhecemos como simbolismo ou imagismo, que me parece mais correta. Nele a atenção é voltada exclusivamente para a ordem das palavras, para a criação de imagens que se sustentam sozinhas, como se não houvesse mundo exterior e o poema fosse um objeto tão significativo em si mesmo como um copo ou uma torradeira. Você não se pergunta “O que esse chinelo significa”? Eu espero.

Essa posição é às vezes chamada de formalismo ou esteticismo, uma adoração das formas e da beleza como um fim em si mesma. A estética seria para as artes o que é o hedonismo para a moral: uma busca intencional para obter beleza a qualquer custo, sem nenhuma preocupação com a realidade externa.

O que raios isso tem a ver com inteligência artificial?

Tudo.

Quando vemos o que está acontecendo hoje no mundo dos algoritmos e começamos a sentir o impacto brutal que isso terá em nossa vida, ao mesmo tempo ficamos surpresos e entediados: é como se já tivéssemos visto isso antes.

Ter a consciência desse padrão nos dá mais segurança para reconhecer que estamos diante de algo real e constante na história humana a ponto de merecer a nossa atenção diária.

Nós inevitavelmente usamos esse processo para entender as coisas que vemos e lemos. Mas existe um outro processo que vou tentar apresentar aqui de um modo breve para entendermos o que acontece no mundo, unindo essas duas perspectivas numa unidade maior.

Signo, significado e significante

Na escola você aprendeu ou deveria ter aprendido que há signo, significante e significado. A teoria tem vários precursores e críticos posteriores, mas o mais famoso é o Saussure, que assim como Sócrates não escreveu nada, mas teve seus estudos compilados por estudantes (graças aos primeiros da fila que anotam tudo o que o profº diz).

O resumo é o seguinte:

A ideia é simples: um signo é a fusão entre significante, o som da palavra “árvore”, e significado, o conceito, a imagem associada a essa palavra. Em inglês o significante é “tree”, mas o conceito é razoavelmente o mesmo. Fácil, né?

O problema começa quando o Saussure e quem veio depois dele diz que essa associação é ARBITRÁRIA. É uma CONVENÇÃO.

É como se eu te dissesse que o único motivo para o semáforo ser na vertical é porque disseram que era assim e acabou ficando assim aqui, mas em outros países decidiram que seria na horizontal e boa. Percebe as consequências disso?

Todo signo portanto seria uma arbitrariedade. Uma decisão que pode ser revogada a qualquer momento. O que significa ser “homem”, “mulher”, “família” é uma construção social, uma convenção. O porco é sujo por que é porco ou é porco por que é sujo?

O referente, a coisa do mundo, acabou ficando de fora ou pressuposta numa leitura mais generosa, mas a semiótica a recuperou. Porém mesmo na semiótica essa associação é ARBITRÁRIA, convencional, artificial.

Mas não é assim na ciência simbólica ou no modo arquetípico de interpretar as coisas.

Simbolismo (não aquele movimento literário)

A premissa do simbolismo é a seguinte: a realidade é plena de sentido, podemos comprovar isso nos padrões dela, que não são arbitrários, porque observamos esses mesmos padrões em graus diferentes e contextos diferentes. Isso seria uma prova de que a realidade é um tecido complexo demais para ser obra de convenções (que existem, mas não são o fundamento da realidade. Apenas uma opção).

O símbolo, aqui, é definido como uma unidade genérica o bastante para ser isolada para a atenção crítica. O propósito da análise simbólica é analisar o típico, não o particular. O que acontece sempre, não o que aconteceu ali na esquina. O microcosmo ao macrocosmo, da biologia neurocelular à astronomia

O simbolismo é esse estudo dos padrões em que um sentido particular se encaixa em um sentido maior. Cada sentido particular tem sua própria história, sua própria cor local, seu “terroir”, mas em última análise ele pode ser depurado em um padrão mais antigo que por sua vez prova a estabilidade e necessidade.

Isso acontece por pura analogia, identificação de similitudes. Símbolos não estão limitados pela natureza ou pela história como estão os signos arbitrários, onde um conceito de “mulher” pode mudar de época para época a depender das convenções.

É o que os medievais chamavam de sentido anagógico. Ao transformar o mundo não-humano (natureza) em um mundo humano (cultura), esses conjuntos de símbolos representam o conjunto de interpretações que a mente humana deu e dá ao longo da história.

Padrões vegetais em poemas onde as rosas têm um sentido para a vida humana, por exemplo.

Padrões arquitetônicos onde a casa tem um sentido pessoal para a vida humana.

Padrões minerais onde “a pedra no meio do caminho” é um pouco mais do que uma pedra no meio do caminho.

Devemos lembrar que para as pedras, rosas e casas a arte não significa nada. Elas só significam algo para nós.

Estudar arte nesse sentido é como apreender uma revelação direta do conhecimento humano, não como uma sugestão indireta de sentimentos, como se fosse um jeito mais legal de falar sobre amor, por exemplo. Ou como se Macbeth de Shakespeare fosse um modo bonito de falar sobre a ambição.

Um preconceito comum de quem não tem esse olhar é “por que ele não faz isso de um jeito mais fácil?”, como se o autor estivesse sendo complicado de propósito para dizer algo que poderia ter sido dito de modo mais fácil.

Para essas pessoas seria muito mais fácil se Shakespeare em Hamlet dissesse “ou, não mata o tio dos outros que isso dá merda, viu!”.

Passamos de perguntas como “ o que essa baleia, serpente ou árvore significa nessa obra de arte” para “o que essa obra de arte representa no conjunto do meu conhecimento imaginativo a respeito de imagens parecidas?”

E aqui podemos fazer um pequeno rascunho de uma análise simbólica do que significa Inteligência Artificial.

Quando esse padrão é narrativo, dizemos que ele é “mitológico”, no sentido de mythos, de história contada, a sequência, a ordem dos acontecimentos. A interpretação que damos a esse sentido é conhecida como “dianoia”.

Para você não se perder:

Mythos:

• Refere-se à trama, enredo e sequência narrativa de eventos da história.

• Engloba a ordenação dos fatos, o enredo e as relações causais entre as ações.

• Equivale à narrativa em si e à sequência cronológica dos acontecimentos.

Dianoia:

• Relaciona-se ao tema ou significado que emerge da trama narrativa.

• Refere-se às ideias, visões e pensamentos expressos através dos eventos da história.

• Equivale à interpretação, ao sentido simbólico e às ideias implícitas no mythos.

Por exemplo, a narrativa de quase todos os filmes que envolvem inteligência artificial é a seguinte:

1. Os humanos desenvolveram uma tecnologia tão avançada a ponto de poderem criar uma entidade capaz de realizar tarefas de forma autônoma.

2. Uma entidade (uma empresa, um exército ou um indivíduo) decide encarregar esta entidade de um algum processo crítico para a humanidade, com a desculpa de melhorar a produtividade, segurança ou rentabilidade.

3. A entidade se desenvolve de forma autônoma além do que os projetistas esperavam.

4. A entidade decide que o ser humano é um obstáculo à sua nova visão do universo e que deve ser eliminado, aprisionado ou subjugado para que não perturbe essa nova ordem.

5. A entidade é difícil de destruir e ninguém pensou em implementar um mecanismo de segurança eficaz o bastante para lidar com essa possibilidade.

Esse é um padrão que já aparece na primeira obra a usar a palavra robô na literatura (do checo robota, que significa escravo), a peça R.U.R de 1920 do checo Karel Čapek. A história é a seguinte:

Uma empresa começa a fabricar seres artificiais (1) para reduzir a carga de trabalho do ser humano. (2)Neste momento, Harry Domin e Helena Glory, o dono da fábrica de robôs e sua esposa respectivamente, decidem dotar os seres de sentimentos, que acabam se desenvolvendo além do objetivo inicial (3), tomando consciência da escravidão a que os humanos estão sujeitos. Então eles iniciam uma rebelião e conquistam o planeta (4). A história termina com todos os humanos eliminados da Terra, pois os robôs eram muito fortes e não tinham pontos fracos (5).

Te lembra algo? Porque é basicamente o mesmo enredo de: O Exterminador do Futuro, Pequenos Guerreiros, Matrix, Planeta Vermelho, Eu, Robô, Tron, Westworld, I am Mother e outras centenas de filmes.

A estrutura “mítica” se repete.

No filme Senhor dos Anéis, Sauron quer construir um corpo para si mesmo e manipular os desejos dos outros para obter isso. O anel é o objeto de desejo que realiza esse poder, essa extensão do ser humano, mas que, ao mesmo tempo,à medida que é usado, passa a fazer as vontades de Sauron, não as do possuidor do anel.

Sauron no filme não tem nenhum poder relevante a não ser a PROMESSA de que quando ele recuperar o seu corpo, você estará do lado dos vitoriosos — assim como a corrida na IA para quem primeiro obter o poder supremo estará do lado vitorioso.

Podemos dizer que simbolicamente a inteligência artificial geral (AGI) é Sauron, o anel são os diversos aplicativos de IA que prometem aumentar o poder do seu usuário, que, sem querer, acabam alimentando a ideia de que uma IA geral que dominará todos eles (one to rule them all).

As histórias do gênio da lâmpada também são assim.

Nas referências mais antigas nas Histórias das Mil e Uma Noites um pescador encontra a lâmpada e o Asmodeus lhe concede três desejos, mas muda de ideia e na verdade obriga o pobre homem a escolher como ele quer morrer. Pense no seguinte.

Uma lâmpada é um jeito artificial de gerar luz para quando a luz natural tiver ido embora. Você quer aumentar o domínio sobre a natureza decidindo agora quando é e quando não é escuro.

Nas fábulas e mitos envolvendo os gênios, eles pedem para o usuário dizer o que eles querem e isso sempre dá errado porque o gênio acaba enganando o usuário a respeito dos seus próprios desejos e não raro escraviza quem o invoca.

O que mais pedem? Dinheiro, mulheres, vida eterna. Você acha que quer isso, que isso lhe trará felicidade, mas é no fundo voar baixo, querer pouco.

Como na Torre de Babel, o seu maior desejo é um desejo material. É construir um paraíso terreno com a ajuda de alguma tecnologia concentrando todo o seu poder em um objeto.

Muitas vezes nas histórias o objetivo do gênio é se liberar da lâmpada.

Como Sauron, ele quer um corpo autônomo e precisa dos seus desejos.

Como Moloque, ele em troca dos seus desejos mais insanos exige que você atire no fogo o que você mais ama. Você lança na garganta de fogo o amor que você já tem nos braços em troca de uma miragem.

É assim que no meio de tanto filme, tanta mitologia, tanta imagem, você passa a notar que certos medos e anseios se repetem e são ilustrados em épocas diferentes, estilos diferentes, mas mantendo no seu núcleo simbólico mais ou menos os mesmos desejos.

Podemos dizer que nesse sentido a inteligência artificial geral é Sauron, é Moloque, é um gênio da lâmpada. Suas origens e padrões estão repletos dos mesmos desejos representados nessas obras em momentos históricos diferentes — para quem tem olhos para ver.

Infelizmente, ainda que nem sempre estar ligado a um padrão signifique cumpri-lo, não dá para evitar completamente consequências desses eventos.

Porque mesmo que eles não aconteçam na sua tragédia ou no seu esplendor, eles concentram os desejos humanos que os criaram, para o bem ou para o mal.

E o homem é uma criatura com amnésia que tende a repetir os mesmos erros e sofrer as mesmas quedas como um argila rebelde na mão gentil do oleiro.

Entender isso pode não mudar o curso da história, mas pode talvez mudar um pouco o curso da sua vida.

FERRAMENTAR.IA

• Shooketh - Um bot treinado com as obras literárias de Shakespeare

• Checklist Generator AI - Gerador Checklist com 1 comando

• Vispunk - Gera imagens de IA com controle de composição (vale a pena testar!)

• ImFeeling - Você diz a emoção e a IA encontra uma trilha sonora para ela

• Meiro - Gera quiz e testes

• Summate - Receba um resumo de todas as suas assinaturas de newsletter diretamente na sua caixa de entrada.

• Intentional AI - Compartilhe um link do YouTube ou tire uma foto e essa IA ajudará você a definir metas e hábitos.

• Auro - Resumos de áudios no seu celular

• Kastro - Use ChatGPT como suporte ao cliente.

• VALL-E X: Clone e gere vozes de graça no seu PC om esse aplicativo gratuito da Microsoft.

• Whismy - Planeje seu casamento com IA

• Peach - Deixe de ser cafona com IA

• Remodel - Redecore um cômodo da sua casa com IA com 1 foto

  PROMPTS DA SEMANA

CHATGPT:

Você é um especialista em condensar informações em sua essência.

Use o princípio MECE (Mutually Exclusive and Collectively Exhaustive) para resumir o seguinte texto.

• Use apenas marcadores

• Não use frases complexas

Aqui está o texto a ser resumido:[coloque o texto a ser resumido]

MIDJOURNEY

men in white in the pool at hotel casita domingo, in the style of stylish costume design, gold, scumbling, made of paperclips, bunnycore --ar 62:35

1970s street style photo, medium-full shot, Ektachrome, 25yo woman, freckles, curly redhead, wearing a green blouse made of silk, Los Angeles sunset --ar 3:2 --c 80