Por Babette Babich
Quando Blake Lemoine, um engenheiro do Google, afirmou no verão de 2022 que a IA era “senciente”,[1] anunciando assim a ‘Singularidade’ (mais sobre isso abaixo),[2] ele foi severamente denunciado como, para dizer o mínimo, se precipitando. Seu empregador o demitiu[3]; houve algumas entrevistas desconexas, e Luciano Floridi, um dos principais decanos filosóficos da IA, então em Oxford, opinou, após as notícias subsequentes em torno do ChatGPT, para dizer onde todas essas alegações deram errado. [4] É claro que nenhuma voz crítica no espírito de Günther Anders pôde ser encontrada (a melhor IA que já teve nessa direção “crítica” pode ter sido Peter Sloterdijk ou Friedrich Kittler). [5] Floridi dividiu a diferença: a IA não é como tal “inteligente” e a “melhor prática” (assim diz o meme acadêmico reinante) envolveu seres humanos usando recursos de IA “com proficiência e perspicácia”.
Para ter certeza: já se está fazendo isso, se estiver pesquisando na internet, ou explorando seu projeto de pesquisa no Twitter, pedindo ideias do Twitterati que por acaso está online para ver sua consulta, ou obtendo colegas, ou mesmo pedindo a acadêmicos aleatórios que forneçam referências por e-mail. [6]
As pessoas que usaram o ChatGPT se entusiasmam com o quão maravilhoso ele é – e por que não se entusiasmariam? O efeito é um efeito de bolha, pois também se pode estender o que Tor Nørretranders chamou de “ilusão do usuário”,[7] os resultados correspondem a seus próprios traços de dados, espalhados ao seu redor na esteira de seus hábitos de uso da internet, lendo e reforçando as mesmas coisas repetidas vezes. Gostamos do que sabemos; Com o que concordamos, gostamos ainda mais. Gostamos de nossas próprias expressões estereotipadas, por mais preparadas em nossa consciência, como consideramos que isso é, nossas próprias “convicções”, como diz Nietzsche. Assim, os psicolinguistas sabem que a chave para uma boa conversa, para uma boa terapia, uma boa entrevista de emprego (ou um bom encontro) é repetir o que a outra parte diz de volta para eles. Habilmente feito, isso não é percebido como papagaio, mas como genialidade. Um só coração e uma só alma. Talvez o mais revelador – essa é uma característica comum do hype – as pessoas que não usaram o ChatGPT – há uma curva de aprendizado – também se entusiasmam com isso.
A melodia mudou quando professores de Oxford e outras universidades foram avisados de que os alunos tinham um aliado em falsificar não “notícias”, mas trabalhos de conclusão de curso. [8] De acordo com os objetivos originais do programa MIT Eliza original,[9] projetado por Joseph Weizenbaum para modelar uma sessão de terapia em que a frase de entrada do usuário humano seria respondida por uma pergunta, repetindo em grande parte a frase original (por que você se sente …) e que foi chamado de sistema de processamento de linguagem natural inicial (listar as suposições sobre a linguagem embutidas nisso exigiria outro ensaio), o sucesso do programa Eliza dependia de os usuários usá-lo como se estivessem interagindo com outro ser humano. Se essa pré-condição (priming) é uma versão inicial da ética da IA, o próprio Weizenbaum não viu a conquista como “terapia” e projetou o programa para explorar a natureza da linguagem (e, de fato, um certo componente crítico fazia parte disso),[10] e passou a repudiar explicitamente as leituras populares – não que isso tenha tido algum impacto em sua recepção até hoje. [11]
Nossas expectativas narrativas online foram moldadas em um grau maior do que muitos imaginam por nossas experiências coletivas de jogos online (quer sejamos jogadores ou pensemos nisso como uma noção cultural, envolvida com qualquer isca de clique usando mídia social ou, mais notoriamente, um aplicativo de namoro como Grindr ou Bumble). [12] Como diz Chris Bateman: ‘ninguém joga sozinho’. [13]
De maneiras importantes, somos o que fazemos on-line, ou como Günther Anders e Theodor Adorno analisam a ‘indústria cultural’, consumimos o que nos alimenta e, ao mesmo tempo, estamos convencidos de que não é assim, o que é bem a ideia. A cumplicidade do usuário, a suspensão da descrença, da análise crítica, significa que a velha Hollywood pode usar cenários em um estúdio e a nova Hollywood pode usar CGI em vez de filmar no local. Da mesma forma, os designers de jogos há algum tempo usam fórmulas de estoque (este seria o novo Homer, pode-se argumentar) para ‘programar’ o que os leitores / jogadores podem considerar uma narrativa interativa (pelo menos parte da parte interativa é sempre gerada espontaneamente e o resto pode servir como um prompt).
Por essa razão, argumento que a barra para “passar” em um Teste de Turing é baixa: máquinas de venda automática e caixas eletrônicos, e até mesmo – exagero apenas um pouco – uma torradeira pode “passar” em um teste de Turning. [14] Para a IA, com o que postamos online, o que lemos online, é ainda mais fácil. Mas tudo depende, e essa é a chave para a ética da IA, de “bons” hábitos do usuário. — No caso de trabalhos assistidos por ChatGPT, os instrutores (ninguém pergunta quais instrutores) acharam difícil diferenciar os trabalhos de alunos não assistidos (bons ou ruins) dos substitutos assistidos ou ‘aprimorados’ para os mesmos. Aqui eu argumento que o resultado é superdeterminado e não menos “preparado” ou cozido: os professores, há muito ansiosos para que os alunos plagiadores pudessem jogá-los como tolos, já estavam se valendo da IA na forma de software de plágio, como o Turnitin, e organizando a subscrição universitária do custo desse software. Mas esse software apenas amplia e de fato gera o problema ao longo do tempo. Assim, pré-classificada por assunto e nível de dificuldade, essa mesma ansiedade do corpo docente trabalhou para ‘preencher’ ou ‘alimentar’ um banco de dados com curadoria (a curadoria é grande parte do trabalho da IA) composto de trabalhos de alunos junto com o feedback do corpo docente ao longo de muitos anos. Adicione IA pós-pandemia, adicione dados de aulas do Zoom, incluindo erros de transcrição às vezes flagrantes, e o potencial para um tsunami de falsificações acadêmicas e outras falsificações de escritores está esperando para quebrar há algum tempo. E lembre-se também do conselho de Floridi: o novo movimento parece ser fingir para ajudá-lo a fazê-lo; O ChatGPT é cada vez mais considerado o equivalente a uma calculadora na aula de matemática.[15] Mas agora pode-se voltar aos cuidados mencionados acima.
Assim, apareceram artigos elogiando a poesia AI ou ChatGPT – é tudo ‘bom’ se você disser que é – e pode-se esperar romances cortesia do mesmo (mas a prova estará nas vendas, e talvez, apenas dado o caráter plano ou monótono da maioria das ficções de mercado de massa em oferta, já é…) e assim por diante. O ‘efeito Eliza’ para combinar com o ‘efeito Aleluia'[16] parece ter chegado e também (embora isso ainda não tenha se mostrado pronto para o mercado de massa do Bumble ou do Grindr) as virtudes potenciais de uma garota ou namorado virtual, um ‘amigo’ virtual para o coração solitário, do tipo já imaginado na tela no filme de Spike Jonze, Ela e mais lúgubre e estranhamente mais prosaicamente em Rupert Sanders 2017 Ghost in the Shell.
Aqui a psicologia nietzschiana é útil, especificamente seu ficcionalismo, exatamente no espírito com que Hans Vaihinger escreveu sobre o ficcionalismo de Kant. [17] Mas Nietzsche argumenta que estamos abandonados à ficção: “estamos, de baixo para cima e ao longo dos tempos, acostumados a mentir”. Para Nietzsche, notamos mal as coisas novas e, mais comumente, nada. E a pesquisa psicológica moderna parece corroborar seu argumento. Como Nietzsche coloca, mesmo “no meio das experiências mais estranhas, fazemos a mesma coisa: inventamos a maior parte da experiência e mal podemos ser levados a não nos considerarmos o ‘inventor’ de algum processo” (Além do Bem e do Mal, §192). Como se Nietzsche estivesse ciente de pesquisas recentes sobre movimentos oculares na leitura (e ele estava extremamente ciente do trabalho sobre a percepção sensorial do século 19), confirmando seu ponto, ele observa:
Tão pouco quanto o leitor de hoje absorve todas as palavras individuais (ou especialmente sílabas) em uma página (ele pega talvez cinco de vinte palavras e “adivinha” o que essas cinco palavras arbitrárias podem significar) – tão pouco vemos uma árvore precisa e completamente, no que diz respeito a folhas, galhos, cores e forma. (BGE §192, cf. seu uso anterior do mesmo exemplo da folha em Sobre a Verdade e a Mentira em um Sentido Extra-Moral).
Por que trazer Nietzsche para uma discussão sobre IA, robôs,[18] a hermenêutica erótica das mídias sociais,[19] a fenomenologia de ‘ser o ponto azul’ (GPS),[20] ou nossa tendência de projetar nossa consciência em (e através) de uma tela,[21] etc.?
Um problema é o rigor (acertamos Nietzsche?); outro problema é o equívoco quando se trata da inteligência da IA. O que é inteligência? Dificilmente levantamos a questão do que o ChatGPT falou, como o Tagespiegel nos informou, completo com um lembrete visual de 2001 e Hal. Perguntamos ao oráculo, nossa nova Eliza, e o oráculo respondeu. [22]
Onde Nietzsche observa “um engate cego e casual de idéias, passivo, automático, reflexivo, molecular” (GM I: 1), eu o leio à luz de sua auto-identificação como psicólogo, explicando como funciona o ‘priming’, mesmo no que diz respeito aos exercícios de contágio de mídia social do tipo que atualmente esboçam nossas vidas em todos os níveis, ou a maneira como escoteiros ou crianças pequenas podem ser ‘treinados’ para a virtude e o bom comportamento, frases de efeito repetidas em todos os lugares.
Outra abordagem que pode nos servir além dos fantasmas de Übermensch de ‘filosofar com um martelo'[23] e um certo herói de quadrinhos da DC (Superman™) para combinar com versões cinematográficas recentes da visão da Marvel de violência e super-homens transumanos (Ironman™),[24] mas o mais produtivo pode ser o ideal de uma máquina de movimento perpétuo, pois isso ilumina a metáfora de Nietzsche de uma caixa de música cósmica. Se a ideia de uma máquina de movimento perpétuo corta um pouco perto demais de casa, dado o funcionamento dos adjuvantes LPN (Lipid Nanoparticle) em vacinas de mRNA, agora onipresentes, tornando o tema estranhamente controverso até mesmo para um artigo de Nietzsche, [25] isso exemplifica o ‘sentido extramoral’ que enquadra a discussão bastante mecanicista e fisiologicamente orientada de Nietzsche sobre ‘verdade e mentira’. Novamente: para Nietzsche, estamos “acostumados a mentir” (BGE §192) e é ao ponto da IA que há equívoco e que ela é eficaz.
Muita conversa sobre IA é orientada para o futuro. Isso não significa que o tópico deva estar aberto a novos desenvolvimentos. Par para o curso de um pitch ou proposta de negócios, falar de IA vende aos investidores um produto existente (ou quase), pronto para ser usado, como o ChatGPT, ou quase, adicione um número e mexa. A IA é estipulada, postulada, suposta, proposta, assim como a divindade foi para outro mundo e tempo.
Em questão está a intencionalidade e, como Nietzsche nos lembra, antropomorfizamos constantemente. Apenas essa projeção constante e dedicada de nós mesmos em tudo é como o antigo programa MIT Eliza funcionava. Nós, seres humanos, somos mestres do passado, diz-nos Nietzsche, em nos concentrarmos apenas em nós mesmos e projetarmos, isto é, enganarmos a nós mesmos e aos outros: “Enganar, lisonjear, mentir, iludir, falar pelas costas, colocar uma fachada falsa, viver em esplendor emprestado, usar uma máscara, esconder-se atrás de convenções, desempenhar um papel para os outros e para si mesmo – em suma, um esvoaçando continuamente em torno da chama solitária da vaidade – é tanto a regra e a lei entre os homens que não há quase nada menos compreensível do que como um impulso honesto e puro pela verdade poderia ter surgido entre eles. Eles estão profundamente imersos em ilusões e imagens oníricas: seus olhos apenas deslizam sobre a superfície das coisas e veem ‘formas’. (‘Sobre a verdade e a mentira em um sentido extra-moral’).
Nós ‘nos encontramos’ em nossas nuvens, em nossos lagos (Nietzsche fala de montanhas ‘com olhos’), e, talvez, acima de tudo, nos encontramos (ou pensamos que nos encontramos) nos outros (este é o famoso problema filosófico, nota bene, não resolvido até agora, de ‘outras mentes’), assim como nos encontramos, esta é a força da mimese antiga, em animais, plantas e rochas. Ainda mais do que a identificação com este ou aquele item em um mundo chamado “natural”, como se alguém pudesse encontrar a natureza em qualquer lugar “não naturalizado” por mãos humanas (isso é ecologia arqueológica) que agora está distante e, em muitos casos, até estranho para muitos de nós, nos encontramos em nossas coisas: nossos carros, nossas motocicletas, nossas barras de som de televisão ou configurações de alta fidelidade (era uma vez, pois os fones de ouvido mudaram tudo isso) ou como Günther Anders argumenta, na televisão de tela grande substituindo a mesa da família como centro de foco. [26] Seja o que for, nos identificamos / nos projetamos, também vivemos, percebemos, experimentamos através do equipamento com o qual nos cercamos. Isso não requer nenhuma configuração particularmente especial: assim, os smartphones que carregamos e exibimos – Chris Bateman os chama de “robôs de bolso” [27] – e aqui a análise astuta (e não menos heideggeriana) de Pierre Bourdieu permanece no ponto, um “sinal de status” social constantemente pronto para acessar mídias sociais ou e-mail, em um continuum com Elon Musk e suas aspirações de foguete.
Os shills de IA querem que você pense em uma pessoa idosa arrulhando sobre um gato falso. [28] Sherry Turkle nos lembra que o pretexto é o de intimidade, a “economia do cuidado” agora automatizada, programada e preparada, para obter lucro. Hoje, o robô ‘gato’ foi substituído pelo ChatGPT; daí o hype contínuo do teste de Turing por diversão e lucro presumido, sendo esta a versão do dia das notícias de ontem sobre pessoas solicitando licença legal para se casar com seus robôs sexuais. Agora pode-se “falar” com os filósofos mortos favoritos, embora se imagine que possa ser mais desejável qual ferramenta à la o conceito de vídeo do 1995 Coisas para fazer em Denver quando você está morto, falar com entes queridos mortos, mas – e isso é bastante direto ao ponto sobre projeção e seus limites – o estratagema pode, Eu suspeito, seja mais difícil de sustentar se você estiver tentando ter uma conversa ‘final’ com a qual nunca teve na vida real que você só ‘conhece’ através da leitura de livros, como um personagem fictício (Gulliver ou Huck Finn ou Severus Snape ou Sr. Spock / Picard) ou personagens históricos como Maquiavel argumentou junto com Nietzsche que o repete assim como Nietzsche também descompactou o que é preciso para trazer um texto para falar, argumentando que fazemos isso sempre que lemos.
O que está em jogo diz respeito ao já mencionado problema das “outras mentes” – usando o jargão da tradição analítica na filosofia que é hoje o único tipo que existe, dado o que é ensinado na universidade, o que é testado e examinado e (acima de tudo) contratado. Mas a coisa sobre o problema de outras mentes é que ele permanece sem solução e, talvez, assim Nietzsche parece argumentar, insolúvel.
O que está em questão, e não é por acaso que este é o ponto de partida para a Ética da IA de Mark Coeckelberg, não é se um computador pode vencer um humano em damas ou xadrez (ou jogo da velha) ou algum outro jogo, estilo de lista (observe que Coeckelbergh supera tudo isso começando com o jogo geek de Go), [29] resultados permutantes. A questão é se, como Kasparov ou Bobby Fischer, este último tendo passado para o grande torneio no céu, o software em questão, o conjunto de dados, o ChatGPT, pode se conhecer e se sentir campeão: consciência, amor propor todas essas coisas. A ousadia, que é a segunda melhor coisa para dar essa impressão, agora está programada em Chatbots e isso corresponde ao tom da ética do robô, que, embora os teóricos da ética do robô / IA raramente tomem nota dessa questão venal, é tudo sobre, e sem dúvida apenas sobre, garantir que os usuários joguem de acordo com regras muito corporativas especificadas.
Essa questão está ligada a questões de ética e tecnologia, um ethos ensaiado há mais de um século, incluindo as reflexões de Nietzsche sobre a “atividade mecânica” que ele associou à modernidade como uma forma de entorpecer a consciência em geral, como ele reflete em Humano, muito humano: “Não se deve perguntar ao banqueiro que acumula dinheiro, por exemplo, qual é o propósito de sua atividade inquieta: é irracional. O rolo ativo como a pedra rola, em obediência à estupidez das leis da mecânica. (HH §283) O aforismo de Nietzsche leva o título instrutivo: A Irracionalidade do Real. Este é um aforismo para banqueiros de investimento e pode servir de lema para aqueles que especulam sobre quase tudo, não apenas big data, bitcoin e NFTs. Nessa perspectiva, toda ‘inteligência’ é um automaticismo, incluindo forçosamente a IA.
Qual é a questão da agência quando se trata de IA?
Para fazer a pergunta acima mais uma vez: o que é inteligência? E de quem é o design artificial, a inteligência de quem? E quanto à ‘singularidade’? Isso já aconteceu? O Google de fato “acordou” e as autoridades simplesmente negaram isso (negação parece ser a regra com autoridade nos últimos três anos)? Floridi está errado? O ChatGPT administrou a escritura? Voltando um pouco, isso já teria acontecido com o experimento do Facebook preparando a mente adolescente? Isso ainda está acontecendo (os adolescentes ainda estão no Facebook?)? Como saberíamos? Isso importaria?
Quando se trata de Nietzsche e IA, a preocupação pode ser a conexão do transumanismo, o senhor pós-humano e sobre-humano. Quando Nietzsche escreveu sobre o ser humano como algo a ser “superado”, como Michel Haar e outros estudiosos francófonos observaram em uma pequena tradição de pensamento, a noção de “terra” de Nietzsche e uma lealdade à mesma que poderia, mas raramente esteve, estar conectada com o ethos ecológico da mesma época, “de volta à terra, ‘ essa seria a ideia maravilhosamente francesa de biocultura, bastante estabelecida quando se trata de vinicultura, plantando biodinamicamente de acordo com os ritmos animais e as fases da lua, a ser considerada no contexto da reflexão, a partir da perspectiva dessa mesma terra, de que o humano é a ‘doença de pele da terra’ ou então qua inacabada, animal indeterminado, ainda não fixado — noch nicht festgestellte Thier.
Essas são noções complexas, mesmo que alguns estudiosos sejam arrogantes sobre os detalhes. Existem muitos Nietzsches, e é instrutivo que o AI Nietzsche, como outros Nietzsche ‘digitais’, não esteja entre os mais recônditos.
Considerando a IA como caixa preta, chit, nota promissória como uma boa dose de ética filosófica, falamos sobre o que deve ser promissor, o que deve ser o amor, o que deve ser a empatia, a integridade, a bravura, etc., e quanto menos se sabe sobre Nietzsche nesse sentido, mais fácil. Assim, para muitos que escrevem sobre Nietzsche e o transumanismo, qualquer pedaço que não se encaixe, simplesmente se joga fora. Essa tática é respeitável na filosofia analítica como uma forma de ler Nietzsche, mas é especialmente perigosa quando se trata de IA. Na teoria política, Apolline Tallandier baseia-se no ideal e no ethos do transumanismo, alegando oferecer uma pesquisa enquanto de alguma forma pula a maior parte da literatura, de fato: quase toda ela, produzindo um ensaio livre de muito Nietzsche ou muita erudição de Nietzsche, citando o “crionista” Max More. [30] Aqui é incidental, mas a ponto de Nietzsche colocar em primeiro plano o desejo objetivista de cortar a cabeça para ver como o mundo poderia parecer sem ela, o que significa que a parte isolada do corpo é a preferência pela criogenia.
O foco de Nietzsche na atividade mecânica inclui seu efeito colateral conveniente quase ASMR: amortecimento da consciência. IA como gênio, IA como quase-divindade, aspecto super ou transumano, a qualidade borg da IA não está de acordo com o Übermensch nietzscheano porque este último do ponto de vista de Nietzsche é menos herói de desenho animado do que um pedaço de vaidade: longe de algum sonho futuro, mas um Cálice interior sempre já-conosco.
Lembre-se da referência goetheana de Nietzsche a uma folha em Sobre a verdade e a mentira, pois ele varia isso em relação a uma árvore (da mesma forma goetheana) e ao exemplo familiar nestes dias de IA e tempo de tela, em relação à fisiologia cognitiva / psicologia da leitura / digitalização. [31]
Ao longo do livro, Nietzsche se concentra na ilusão, no engano, na mentira, que, para completar a referência à IA, é automática. Assim, citei Nietzsche ao ler uma página e aqui podemos continuar: “é muito mais fácil para nós montarmos uma aproximação de uma árvore. Mesmo quando estamos envolvidos nas experiências mais incomuns, ainda fazemos a mesma coisa: fabricamos a maior parte da experiência e dificilmente podemos ser compelidos a não contemplar algum evento como seu ‘inventor’. Como Nietzsche enfatiza, “a pessoa é muito mais artista do que imagina”.
Assim inventivo, e aqui estamos de volta à torradeira que podemos culpar pelo mau funcionamento ou ao brinquedo de pelúcia para as senhoras idosas que recebem, assim como as crianças recebem, chupetas ou iPads no lugar da atenção dos pais para silenciar suas reivindicações sobre os membros da família por tal atenção, ou que talvez não tenham tais membros da família, ‘família’ sendo um conceito fantasma em qualquer caso, não muito diferente do membro fantasma de Descartes. Mesmo diff, se este fosse um ensaio diferente sobre as bonecas sexuais que fizeram um negócio de sucesso, pelo que me disseram, durante o bloqueio, juntamente com todos os outros itens de mercadoria entregáveis.
O ponto a ser destacado – é assim que se constrói uma “ilusão de usuário” utilizável – é que esse mesmo sucesso levou à necessidade urgente de ética robótica: quer-se, a corporação precisa, usuários que seguem as regras. Os usuários nunca devem (daí o imperativo ético) tratar esses produtos como os homens heterossexuais tradicionalmente tratam as mulheres: os danos seriam inimagináveis em um tempo surpreendentemente curto. Mas também a experiência do usuário seria melhor se o usuário pudesse ser programado para usar o dispositivo apenas assim e não de outra forma. Ambos os pontos são críticos para um modelo de negócios sustentável.
Além da morfologia de Goethe – ou seja, a referência à folha e à árvore que Nietzsche conecta com a leitura e a tradução – Nietzsche emprestou seu próprio texto de Kunst der Sprache [A Arte da Linguagem] de Gustav Gerber. [32] Nessa medida, Nietzsche/Gerber enfatizam o elemento projetivo na leitura de um texto (pensamos, pelo menos no início e às vezes até mesmo após uma leitura sustentada e repetida, que já sabemos o que o autor está dizendo), o que é semelhante a olhar para uma imagem (especialmente se nunca fizemos um curso de história da arte, muito menos arte, que ‘sabemos’ o que estamos vendo). Nietzsche prossegue em Além do Bem e do Mal para estender nossa confiança de que “já sabemos” às nossas interações face a face, enquanto Nietzsche levava sua visão para nossa percepção de intimidade:
“Em uma conversa animada, muitas vezes vejo diante de mim o rosto da pessoa com quem estou falando tão claramente e sutilmente determinado pelo pensamento que ele está expressando, ou que acredito ter sido despertado nele, que esse grau de clareza ultrapassa em muito o poder da minha visão – de modo que o jogo dos músculos e da expressão dos olhos deve ter sido inventado por mim. Provavelmente a pessoa estava fazendo uma cara bem diferente ou nenhuma” (BGE §192).
Mas isso significa, ao ponto do sentimento, que nós mesmos fazemos a conexão. Além disso, estamos tão focados em nós mesmos que qualquer coisa que pareça estar focada em nós tem uma vantagem. Este é o cerne do guia de 1936 de Dale Carnegie para vendedores, incentivando-os a aprender os nomes de seus clientes e a repeti-los o mais rápido possível. Repetir a linguagem de uma pessoa é a chave para ‘ganhar’ amigos e ‘influenciar’ as pessoas. A IA vem fazendo isso há algum tempo. O argumento de Nietzsche de que preferimos a mentira, a ilusão, à verdade significa que, quando se trata de amigos, amantes e familiares, mas também de figuras políticas, fatos históricos, pinturas ou peças musicais, nós, a maioria das pessoas, argumenta Nietzsche, “preferimos a cópia ao original”. Gostamos que as coisas sejam como imaginamos que sejam. E a IA é feita sob medida para isso.
Publicado originalmente em thephilosophicalsalon.com
Observações:
[1] Há uma série de relatos sobre isso, e aqui menciono um relatório de jornal que faz referência ao “eticista de IA”, Nitasha Tiku, “O engenheiro do Google que acha que a IA da empresa ganhou vida”, Washington Post, 11 de junho de 2022.
[2] Ver, por exemplo, Babich, “Martin Heidegger on Günther Anders and Technology: On Ray Kurzweil, Fritz Lang, and Transhumanism” em: Journal of the Hannah Arendt Center for Politics and Humanities at Bard College, 2 (2012): 122-144. Online: https://hac.bard.edu/amor-mundi/martin-heidegger-and-gunther-anders-on-technology-on-ray-kurzweil-fritz-lang-and-transhumanism-2019-05-09.
[3] Ver reportagem do The Guardian de 23 de julho de 2022, online: https://www.theguardian.com/technology/2022/jul/23/google-fires-software-engineer-who-claims-ai-chatbot-is-sentient.
[4] Luciano Floridi, “IA como agência sem inteligência: no ChatGPT, grandes modelos de linguagem e
outros modelos generativos”, Filosofia e Tecnologia, 16 de fevereiro de 2023. Online: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4358789 e ver Floridi e M. Chiriatti, “GPT-3: Sua Natureza, Escopo, Limites e Consequências”, Mentes e Máquinas, 30/4 (2020): 681–694.
[5] Ver, por exemplo, Thomas Barth, “Kittler und künstliche Intelligenz: Über die Verquickung von Medientheorie und Macht”, Berliner Gazette, 19.07.2018. Online: https://berlinergazette.de/kittler-und-kuenstliche-intelligenz/. Claro, e a maioria dos filósofos analíticos teve que se contentar com Bert Dreyfus para uma voz crítica, ou mais recentemente e indiscutivelmente na melhor das hipóteses: o estudioso de Wittgenstein, Peter Hacker.
[6] Veja uma discussão recente de um historiador, mas há (e tem sido) muitas outras: Wulf Kansteiner, “Doping digital para historiadores: a história, a memória e a teoria histórica podem ser tornadas artificialmente inteligentes?” História e Teoria, Vol. 61, nº 4 (dezembro de 2022): 119–133.
[7] Tor Norretranders, A ilusão do usuário: reduzindo a consciência ao tamanho (Londres: Penguin, 1999 [1991]).
[8] S. Marche, “O ensaio da faculdade está morto: ninguém está preparado para como a IA transformará a academia”. O Atlântico (2022). Online: https://www.theatlantic.com/technology/archive/2022/12/chatgpt-ai-writing-college-student-essays/672371/ e C. Stokel-Walker, “AI bot ChatGPT escreve ensaios inteligentes – os acadêmicos devem se preocupar?”, Nature, (2022).
[9] Joseph Weizenbaum, “Eliza – Um programa de computador para o estudo da comunicação em linguagem natural entre homem e máquina”, Comunicações da ACM, 9/1 (1996): 36–45.
[10] Caroline Bassett, “A Terapêutica Computacional: Explorando a ELIZA de Weizenbaum como uma História do Presente”, AI & SOCIETY, Vol. 34 (2019): 803–812.
[11] Joseph Weizenbaum, Poder do Computador e Razão Humana: Do Julgamento ao Cálculo (San Francisco: WH. Freeman, 1976). De fato, o programa acaba de ganhar o Prêmio Peabody de Narrativa Digital e Interativa, de acordo com um relatório recente do MIT explicando a conquista como tendo aberto “um diálogo mais amplo sobre inteligência de máquina geral, o chatbot foi submetido ao Teste de Turing e passou em uma versão restrita”. Rachel Gordon,” ELIZA ganha o Prêmio Peabody”, MIT CSAIL, 24 de março de 2022. Online: https://www.csail.mit.edu/news/eliza-wins-peabody-award.
[12] Isso faz parte do meu argumento em “Textos e Tweets: Sobre as Regras do Jogo”, The Philosophical Salon: Los Angeles Review of Books, 30 de maio de 2016. Online. https://thephilosophicalsalon.com/texts-and-tweets-on-the-rules-of-the-game/ mas veja também Jordan Frith e Rowan Wilken, “Social Shaping of Mobile Geomedia Services: An Analysis of Yelp and Foursquare”, Communication and the Public, Vol. 4(2) (2019): 133–149 com consequências transformadoras na vida real, no compartilhamento inadvertido de dados: Madeleine Carlisle, “Como a suposta saída de um padre católico mostra o estado lamentável da privacidade de dados na América, ” Revista Time, 26 de julho de 2021, https://time.com/6083323/bishop-pillar-grindr-data/.
[13] Chris Bateman, “Ninguém joga sozinho”, Transactions of the Digital Games Research Association, Vol. 3, No. 2 (setembro de 2017): pp. 5–36. Recomendadas são as reflexões contínuas de Bateman em seu blog: Apenas um jogo.
[14] Babette Babich, “On Passing as Human and Robot Love” em: Carlos Prado, ed., Como a tecnologia está mudando o comportamento humano (Santa Bárbara: Praeger, 2019), 17–26, aqui: 17.
[15] Brady D. Lund e Ting Wang, “Conversando sobre o ChatGPT: como a IA e o GPT podem impactar a academia e as bibliotecas?” Library Hi Tech News, janeiro de 2023.. Pré-impressão online aqui: https://www.researchgate.net/publication/367161545_Chatting_about_ChatGPT_How_may_AI_and_GPT_impact_academia_and_libraries.
[16] Babich, O Efeito Aleluia (Londres: Routledge, 2016).
[17] Hans Vaihinger, Die Philosophie des als ob (Berlim: Reuther & Reichard, 1911) e Vaihinger, “Nietzsche e Kant”, New Nietzsche Studies, Vol. 9, Edição 1/2 (outono de 2013 / outono de 2014): 1–20.
[18] Ver, novamente, Babich, “On Passing as Human and Robot Love”, bem como: “Robot Sex, Roombas, and Alan Rickman”, de Gruyter Conversations: Philosophy & History, 17 de agosto de 2017. Online. Veja também, em conversa com Chris Bateman, com Chris Bateman) “Tocando Robôs”. Apenas um jogo. 23 de fevereiro de 2017, além de: “Teledildonics and Transhumanism“, The Philosophical Salon: Los Angeles Review of Books, 18 de dezembro de 2016.
[19] Veja, novamente, meus “Textos e Tweets”.
[20] Babich, “Autismo de tela, zumbis de celular e silenciadores de GPS” em: Carlos Prado, ed., Como a tecnologia está mudando o comportamento humano (Santa Bárbara: Praeger, 2019), 65–71.
[21] Ver, incluindo uma discussão sobre Raymond Williams e Theodor Adorno, Babich “Epitáfio de Günther Anders para Aikichi Kuboyama”, Journal of Continental Philosophy, 2/1 (2021): 141–157, bem como “Radio Ghosts: Phenomenology’s Phantoms and Digital Autism”, Tese Onze, 153/1 (2019): 57–74.
[22] Hannes Soltau, “Tagesspiegel Plus Interview mit Künstlicher Intelligenz: “Ich würde Friedrich Nietzsche empfehlen”, Tagespiegel, 28.01.2022. Online: https://www.tagesspiegel.de/kultur/interview-mit-kunstlicher-intelligenz-ich-wurde-friedrich-nietzsche-empfehlen-376183.html.
[23] O Martelo de Nietzsche refere-se, portanto, a um Stimmgabel, em francês, um diapasão ou diapasão, o contexto corporal e não virtual necessário quando Nietzsche está falando de sondar ídolos em seu Crepúsculo dos Ídolos, testando-os quanto ao vazio, como intestinos inchados enquanto ele explica sua metáfora. Anteriormente, em The Gay Science escrevendo contra Aristóteles e a tragédia grega, que também é uma questão para Nietzsche sobre a praga intestinal – é isso que ‘catarse’ significa quando Nietzsche acusa Aristóteles de perder o prego (“para não falar da cabeça do prego”), Nietzsche, Die fröhliche Wissenschaft em: Kritische Studienausgabe (Berlim: de Gruyter, 1980), Vol. 3, 436.
[24] Ver Babich, “Friedrich Nietzsche e o Pós-Humano / Transumano no Cinema e na Televisão” em: Michael Hauskeller, Thomas D. Philbeck e Curtis D. Carbonell, eds., Palgrave Handbook of Posthumanism in Film and Television (Londres: Palgrave / Macmillan, setembro de 2015), 45–54.
[25] Veja minhas notas em Babich, “Pseudo-Ciência e Notícias ‘Falsas’: ‘Inventando’ Epidemias e o Estado Policial” em: Irene Strasser e Martin Dege, eds., A Psicologia das Crises e Crises Globais (Londres: Springer, 2021), 241-272. Cf. sobre eflúvios/persistência de nanopartículas, minha resenha de Tom McCleish (1962-2023): “Sobre a poesia e a música da ciência: poesia de quem? Música de quem?”: https://www.academia.edu/42345690/On_The_Poetry_and_Music_of_Science_Whose_poetry_Whose_music_2019_.
[26] Ver para discussão, Babich, Filosofia da Tecnologia de Günther Anders: Da Fenomenologia à Teoria Crítica (Londres: Bloomsbury, 2022).
[27] Veja, novamente, Babich e Bateman, “Touching Robots“.
[28] Estou apenas (ligeiramente) parafraseando Steve Fuller aqui.
[29] Mark Coeckelberg’s AI Ethics (Cambridge: MIT Press, 2020) começa com um capítulo, “Mirror, Mirror, on the Wall” revisando a conquista da engenhosidade humana nos jogos com a derrota por 4–1 de Lee Sedol no jogo de Go.
[30] Veja “Transhumanismo: Rumo a uma Filosofia Futurista” de Max More, Extropia 6 (verão de 1990), bem como More, “On Becoming Posthuman”, Free Inquiry 15, nº 4 (1994). Veja mais, citando Judith Shklar, mas estranhamente ausente de teóricos sociais expressamente nietzscheanos como a aluna de Shklar, Tracy Burr Strong (1943-2022): Apolline Taillandier, “‘Staring Into the Singularity’ and Other Posthuman Tales: Transhumanist Stories of Future Change”, History and Theory, 60, nº 2 (junho de 2021): 215–233.
[31] Yu-Cin Jian, “Leitura em mídia impressa versus digital usa diferentes estratégias cognitivas: evidências de movimentos oculares durante a leitura de textos científicos”, Reading and Writing, 35/7 (setembro de 2022):1–20. E veja Brigitte Nerlich e David D. Clarke, “Mente, Significado e Metáfora: A Filosofia e a Psicologia da Metáfora na Alemanha do Século 19”, História das Ciências Humanas, Volume 14, Edição 2 (2001): 39–62.
[32] Veja para uma visão geral provocativa, além disso, Wolfert von Rahden, “Die Renaissance der Sprachursprungsfrage im 19. Jahrhundert im deutschen Sprachraum,” Forum Interdisziplinäre Begriffsgeschichte, 1/9. JG. / 2020): 56–87.
O autor
Babette Babich
Babette Babich é professora de filosofia na Fordham University em Nova York e professora visitante na University of Winchester, Reino Unido. Ela é autora de ‘The Hallelujah Effect: Music, Performance Practice and Technology’ (Londres, Reino Unido 2016), em três partes: I: Leonard Cohen e k.d lang e desejo masculino vs. feminino, II: Adorno e rádio, e III Nietzsche, Beethoven e grego antigo, e ‘Un politique brisé. Le souci d’autrui, l’humanisme, et les juifs chez Heidegger’ (Paris, 2016). Seus outros livros incluem ‘La fin de la pensée? Philosophie analytique contre philosophie continentale’ (Paris, 2012), ‘Eines Gottes Glück, voller Macht und Liebe’ (2009), ‘Palavras em sangue, como flores’ (2006) e ‘Filosofia da ciência de Nietzsche’ (1994), traduzidas para o italiano (1996) e, em uma edição revisada, para o alemão (2010). Quatro vezes bolsista da Fulbright, ela também editou mais de quatorze coleções de livros, bem como uma edição póstuma de Patrick Aidan Heelan, SJ, ‘The Observable: Heisenberg’s Philosophy of Quantum Mechanics’ (Oxford, 2016). Seu volume coletivo mais recente é ‘Of the Standard of Taste’ de Reading David Hume (Berlim, 2019).