Arthur C. Clark tem uma frase famosa que diz que “Qualquer tecnologia suficientemente avançada é indistinguível da magia”, o que mostra que ele, mesmo que indiretamente, concorda com Marx, que diz que a mercadoria se fetichiza quando somos alienados do conhecimento de como a produzir.
O fetiche é um objeto, mas não por completo, porque tem poder mágico sobre nós. Isso faz com que ele deixe de ser só uma coisa para ter características de gente. É algo entre o sujeito e o objeto. Marx e Clark defendem que um ingrediente crucial para o objeto se autonomizar é os sujeitos não entenderem seu funcionamento, não saberem fabricá-los ou consertá-los. Sob esse ponto de vista, a IA é um fetiche e tanto.
Até mesmo os engenheiros que fabricam as IAs, que treinam os modelos, não entendem bem como elas funcionam, já que são caixas pretas. O público geral então… Sabe apenas sabe que repetindo os procedimentos ritualísticos certos recebe recompensas dos oráculos místicos da IA, sejam imagens, textos, vídeos ou músicas.
Pode parecer exagero igualar nossa relação com artefatos tecnológicos com a relação com ídolos ou santos, mas não podemos esquecer que Hans Blumenberg diz a sociedade moderna não compreende a ciência que sustenta nossas vidas de verdade. Simplesmente acredita nela, como um mito que satisfaz nossa curiosidade e permite que usemos nossa atenção para problemas mais imediatos. O “desencantamento do mundo” que Weber propõe, nunca teria ocorrido de fato. Apenas trocamos um método místico de chamar a chuva por um indistinguível da magia, de seguir as recomendações meteorológicas.
A IA se apresenta como um grande oráculo capaz de responder todas as perguntas, um grande arquétipo capaz de cumprir todas as funções, de cônjuge a terapeuta, de padre a médico, um grande artista, capaz de criar todas as obras de arte. Indistinguível da magia, a IA se apresenta como um sucedâneo de deus onipotente, capaz de suprir todas as necessidades humanas.
Apenas quem entende suas entranhas pode perceber a farsa, que nenhuma das promessas pode ser cumprida, que essa é uma ficção elaborada por departamentos de marketing para vender serviços muito piores do que o anunciado. Cabe a nós pagarmos o preço em saúde mental, precarização do trabalho e pasteurização estética, enquanto repetimos os rituais que nos devolvem, como compensação, quinquilharias com pouco valor e utilidade.
A maior diferença ente Clark e Marx é que o primeiro estava debatendo ficção científica, enquanto o último entendeu bem que a fetichização não é especulação, mas algo bem real e que sempre beneficia o fabricante de fetiches às custas do resto da sociedade.
Sérgio Lima
Gostei do texto e fiquei pensando o que seria o contrário da “fetichização” das IAs ou da tecnologia?
A compreensão racional de algo é suficiente para esta “desfetichização”?
Culturas que buscam “sentir” e compreender (em detrimento de só compreender) o mundo são culturas fetchistas?
Dúvidas que eu teria numa mesa de bar 🙂
Mas divago...
O contrário de fetichização seria a objetificação. Entender a IA como apenas um objeto, uma ferramenta, feita por nós e imperfeita. A compreensão racional ajuda nessa objetificação, com certeza, mas não acho que é a única forma de chegar a esse resultado.
Agora, essa questão do sentir… Olhando o romantismo, podemos ver uma certa propensão à fetichização sim. E, se você concorda com a fenomenologia, não é de todo errado entender que os objetos não são apenas objetos, mas também uma projeção dos sujeitos. Estava escrevendo sobre isso esses dias: https://deleit.es/tudo-que-amamos-sao-pedacos-vivos-do-nosso-proprio-ser/
Interlúdio filosófico:
Em termos epistemológicos, enquanto a fetichização eleva algo para perto da condição de sujeito e a objetificação rebaixa para a de objeto, a fenomenologia diz que os tudo fora de cada sujeito são extensões dele, então, isso permite essa relação de sentir, mas sem que esse objeto se autonomize e nos domine.