Por que nossa civilização 'é mais frágil do que pensávamos':casa de aposta com paypal

Nossa conversa se concentrou especificamente nos graves riscos representados pela inteligência artificial.

Seu alerta não era sobre uma superinteligência que iria assumir o controlecasa de aposta com paypaltudo. Sua preocupação era com outra ameaça, que ele acreditava que poderia ser uma questão existencial para a civilização, enraizada nas vulnerabilidades da natureza humana.

"Se transformarmos essa tecnologia maravilhosa que temos para o conhecimentocasa de aposta com paypaluma armacasa de aposta com paypaldesinformação, estaremoscasa de aposta com paypalprofundos problemas", disse ele. Por quê?

"Porque nós não saberemos o que sabemos, não saberemoscasa de aposta com paypalquem confiar e não saberemos se estamos bem ou mal informados. Podemos ficar paranoicos e hipercéticos, ou simplesmente apáticos e paralisados. São dois caminhos muito perigosos. E estão à nossa volta."

Filosofiacasa de aposta com paypalformacasa de aposta com paypalficção científica

Para compreender os argumentoscasa de aposta com paypalDennett sobre a IA e o que fez dele um pensador tão profundo e original, é preciso examinar um dos seus estudos acadêmicos mais incomuns.

Em 1978, ele publicou Where Am I? ("Onde estou?",casa de aposta com paypaltradução livre), um contocasa de aposta com paypalficção científica que apresentava seu próprio cérebrocasa de aposta com paypaluma cuba.

"Vários anos atrás", começa a história, "recebi a visitacasa de aposta com paypalautoridades do Pentágono que me pediram para ser voluntáriocasa de aposta com paypaluma missão secreta e altamente perigosa."

No conto, devido a um acidente durante um projeto secretocasa de aposta com paypalpesquisa, uma broca com uma ogiva atômica ficou presa a 1,6 km no subsolo, embaixo da cidadecasa de aposta com paypalTulsa, no Estado americanocasa de aposta com paypalOklahoma. E o Pentágono precisava dele para ajudar a recuperá-la. Ou, mais precisamente, do seu corpo.

Para evitar que o aparelho emitisse radiação prejudicial aos neurônios (lembrando que a plausibilidade não é necessariamente uma característica da ficção científica filosófica), o seu cérebro seria retirado cirurgicamente e conectado ao corpo por transceptorescasa de aposta com paypalrádio. Ele poderia então controlá-lo remotamente, sem se expor a riscos.

A questão por trás da maravilhosa fantasiacasa de aposta com paypalDennett era a seguinte: considerando que o procedimento tivesse sucesso e o seu cérebro continuasse a controlar seu corpo e receber informações pelos seus órgãos sensoriais, onde estaria Daniel Dennett?

Na história, ele imagina seu corpo andando pela sala onde seu cérebro flutua dentrocasa de aposta com paypaluma cuba reforçada. Ele se sentacasa de aposta com paypalseguida e fica olhando para o cérebro.

A cena foi recriada na televisãocasa de aposta com paypal1988,casa de aposta com paypalum documentário do diretor holandês Piet Hoenderdos. Nele, Dennett interpretou a si próprio – com gosto, diga-se.

Certamente, este é um dos poucos estudos acadêmicos que mereceram este tipocasa de aposta com paypaladaptação.

"Bem, aqui estou, sentadocasa de aposta com paypaluma cadeira dobrável, admirando meu próprio cérebro atravéscasa de aposta com paypalum pedaçocasa de aposta com paypalvidro", disse Dennett, estupefato. "Mas espere... eu não deveria estar pensando 'aqui estou eu, suspensocasa de aposta com paypalum fluido borbulhante, sendo observado pelos meus próprios olhos'?"

Este último pensamento é ainda mais difícilcasa de aposta com paypalse defender do que o primeiro. A ideia decorrente é que é impossível saber com certeza onde "eu" estou – ou mesmo o que significa a palavra "aqui" – puramente com base na experiência pessoal.

"Como eu sabia o que queria dizer por 'aqui' quando pensei 'aqui'?", prossegue ele. "Eu poderia achar que me referia a um lugar, mas, na realidade, era outro?"

Não importa o que ele possa acreditar sobrecasa de aposta com paypalprópria localização ou estado mental. Essas convicções não oferecem nenhuma garantia específicacasa de aposta com paypalque sejam precisas.

A visão externa dos eventos, não a interna, é a que interessa – a situação real, não como eles se parecem para a pessoa sentada na cadeira (ou flutuando na cuba, conforme o caso).

Contrariando séculoscasa de aposta com paypaltradições filosóficas, Dennett propôs que não temos conhecimento específico sobre o funcionamento da nossa própria mente. A sensaçãocasa de aposta com paypalque o nosso "eu" é uma entidade coerente e unificada é apenas uma ilusão, maravilhosamente evoluída.

Como ele escreve em I've Been Thinking, "existe pouca coisa que posso saber ao certo pela introspecção isolada na minha própria mente". Mas existe muito a ser aprendido "estudando cientificamente a mente dos demais" – desde que esse estudo pressuponha um rigoroso ceticismo, até sobre a mais plausível das intuições.

A verdade não irá libertar você das restrições cognitivas, já que isso é impossível. Mas, se você for cuidadoso, ela pode ensinar a você sobre os tiposcasa de aposta com paypalliberdade que vale a pena desejar.

Isso nos trazcasa de aposta com paypalvolta a uma tecnologia estranhamente capazcasa de aposta com paypalinverter o cenário centralcasa de aposta com paypalWhere Am I?: a IA generativa.

Sua capacidadecasa de aposta com paypalinvocar simulacros humanos convincentes a partircasa de aposta com paypaltrilhõescasa de aposta com paypalbytescasa de aposta com paypaldados possibilita revirar séculoscasa de aposta com paypalhipóteses sobre a verdade, a identidade e nossas experiências compartilhadascasa de aposta com paypalrealidade.

Em apenas 30 segundoscasa de aposta com paypalvídeo com qualidade moderada, por exemplo, serviçoscasa de aposta com paypalIA disponíveis gratuitamente já podem criar uma versão artificialcasa de aposta com paypalqualquer pessoa – ou alguém totalmente fictício – e fazer com que eles digam absolutamente qualquer coisa.

Líderes como o primeiro-ministro indiano Narendra Modi já usaram ferramentascasa de aposta com paypalIA para criar versõescasa de aposta com paypalsi próprios falando fluentementecasa de aposta com paypaldialetos regionais, para angariar votos. Técnicas similares estão sendo desenvolvidas também na Indonésia e no Paquistão.

Em julhocasa de aposta com paypal2023, vídeos deepfakecasa de aposta com paypalmulheres líderes da oposiçãocasa de aposta com paypalBangladesh, supostamente mostradascasa de aposta com paypalpiscinas usando biquínis, foram rapidamente desmascarados, mas chegaram a receber muitos compartilhamentos.

E muito mais está por vir. O anocasa de aposta com paypal2024 é o maior ano eleitoral da história (metade da população mundial irá exercer seu direitocasa de aposta com paypalvoto). E nunca foi tão fácil manipular as informações para influenciar as decisões das pessoas – ou subverter nossas intuições e inclinações diárias.

De fato, temos todas as razões para imaginar que, com dados suficientes, logo poderá ser possível criar uma cópia convincentecasa de aposta com paypaluma pessoa – uma entidade que poderá passar por um político (ou por você, ou por mim)casa de aposta com paypalforma aceitável, não sócasa de aposta com paypaluma apresentação pré-gravada, mas também nas conversas do dia a dia.

O conto e a realidade atual

Profeticamente, Dennett imaginou este cenário décadas atrás.

No contocasa de aposta com paypalficção científica e no documentáriocasa de aposta com paypalHoenderdos, os cientistas criam um novo Dennett: ao lado do cérebro original na cuba,casa de aposta com paypalmente é duplicada como um "gêmeo digital" e eles competem para manter o controle do seu corpo.

Neste cenário, a questão se uma pessoa realmente estácasa de aposta com paypalalgum lugar – ou se falou, ou fez alguma coisa, ou mesmo se ela existe – fica ainda mais inquietante.

Para observar o quanto a realidade já está próxima da ficção, vamos considerar o caso do botcasa de aposta com paypalLuciano Floridi, uma imitação criada por IAcasa de aposta com paypaloutro importante filósofo da tecnologia.

Ele foi "projetado para responder perguntas e escrever textos imitando a formacasa de aposta com paypalpensar e o estilocasa de aposta com paypalescrevercasa de aposta com paypalFloridi".

O bot é uma ferramenta pedagógica fascinante e um estudocasa de aposta com paypalcaso sobre como, na era da IA, nossas ideias e identidades podem começar a ter vida própria.

Para Dennett, havia algocasa de aposta com paypalproblemático com a nossa obsessão pela IA com aparência humana.

Para ele, embora os fac-símiles completos da mente humana possam não ser algo iminente, a forma como estamos usando IA para imitar seres humanos já nos colocacasa de aposta com paypaluma trajetória perigosa.

Ele chamava essas IAscasa de aposta com paypal"pessoas falsificadas" – e me disse que desenvolver essas entidadescasa de aposta com paypalmassa constitui "malícia da pior espécie": uma formacasa de aposta com paypal"vandalismo social" que deveria ser proibida por lei. Por quê?

Porque, se representações digitais convincentescasa de aposta com paypalseres humanos puderem ser criadas ao bel-prazer, todo o trabalhocasa de aposta com paypaldeterminar coletivamente as afirmações, experiências e açõescasa de aposta com paypaloutras pessoas estarácasa de aposta com paypalrisco, sem mencionar a infraestrutura social essencialcasa de aposta com paypalcontratos, obrigações e consequências.

Daí a necessidade da proibição legal, o que ele detalhoucasa de aposta com paypalum artigo publicadocasa de aposta com paypalmaiocasa de aposta com paypal2023 na revista The Atlantic.

"Não será algo perfeito", ele disse, "mas irá ajudar se pudermos criminalizar a produçãocasa de aposta com paypalpessoas falsificadas."

"Podemos ter sérias penalidades por falsificar pessoas, da mesma forma que temos para falsificar dinheiro... podemos transformarcasa de aposta com paypaluma marcacasa de aposta com paypalvergonha, nãocasa de aposta com paypalorgulho, quando você tornar acasa de aposta com paypalIA mais humana."

Existe aqui uma ironia no fatocasa de aposta com paypalque Dennett passou décadas argumentando contra aqueles que tentavam criar alguma categoria elusivacasa de aposta com paypal"humanidade" que apenas as nossas mentes poderiam ter.

Materialista convicto, ele defendeu repetidamente ideias como a do seu estudo da teoria da evoluçãocasa de aposta com paypal1995, Darwin's Dangerous Idea ("A ideia perigosacasa de aposta com paypalDarwin",casa de aposta com paypaltradução livre): "Todas as conquistas da cultura humana – linguagem, arte, religião, ética e a própria ciência – são artefatos... do mesmo processo fundamental que desenvolveu as bactérias, os mamíferos e o Homo sapiens. Não existe Criação Especial da linguagem, nem a arte e a religião têm inspiração literalmente divina."

Ele defendia que o surgimento da humanidade a partircasa de aposta com paypalmatéria que não pensa é algo maravilhoso, mas não milagroso.

Até as mentes notáveis como as nossas, por fim, são o produtocasa de aposta com paypalum conjuntocasa de aposta com paypalmódulos incompreensíveis, compostoscasa de aposta com paypalcomponentes mais brutos, conectadoscasa de aposta com paypalsequências contínuas às primeiras formascasa de aposta com paypalvida.

Consequentemente,casa de aposta com paypalprincípio, não existe nada que evite que os algoritmos da inteligência artificial atinjam ou excedam suas próprias capacidades; ou que os seres humanos ampliem e remodelem suas mentes com meios artificiais.

De fato, alguns dos primeiros e mais importantes trabalhoscasa de aposta com paypalDennett pretendiam defender a potência e o potencial da computação contra aqueles que argumentavam que o simples cálculo nunca geraria fenômenos como a consciência, como o filósofo americano John Searle.

Para Dennett, não havia nadacasa de aposta com paypal"simples"casa de aposta com paypalrelação ao cálculo ou aos processos algorítmicos. Sempre foi apenas questãocasa de aposta com paypalescala e complexidade.

Neste sentido, as conquistas da IA moderna – das suas proezas linguísticas e domíniocasa de aposta com paypaljogos como xadrez e Go até acasa de aposta com paypalcapacidadecasa de aposta com paypalaprovaçãocasa de aposta com paypalexames legais e médicos – justificam continuamente a insistênciacasa de aposta com paypalDennettcasa de aposta com paypalque pode surgir competênciacasa de aposta com paypalnível humano a partircasa de aposta com paypalprocessos totalmente incompreensíveis (sem mencionar que, no nosso caso, isso já aconteceu).

Durante a nossa conversa, ele também se empenhoucasa de aposta com paypaldestacar o abismo existente entre a arquitetura computacional atual e as complexidades analógicas humanas.

A obsessão para saber se a IA irá atingir a "inteligência geral", com toda a flexibilidade cognitiva dos seres humanos, é perigosa, que dirá se ela irá chegar a algo ainda maior.

Ele observava que, muito antes que acontecesse algo desta magnitude, nós precisaríamos enfrentar o surgimentocasa de aposta com paypalagentes autônomos "extremamente manipuladores", que irão representar uma ameaça muito maior do que as hipotéticas superinteligências ("esqueça isso!"). Por quê?

Porque, da mesma forma que as redes sociais provaram ser um ambiente propício para a evoluçãocasa de aposta com paypalconteúdo capazcasa de aposta com paypalexplorar as vulnerabilidades humanas, a mesma dinâmica favorece tanto o conteúdo gerado por IA, quanto as IAs capazescasa de aposta com paypaldesenvolver uma atraente combinaçãocasa de aposta com paypalpersuasão, sedução, choque e bajulação.

Dos glamourosos e perfeitos influenciadores artificiais até a pornografia deepfake, das companhias infinitamente empáticas até as fraudes amorosas, as paixões e os desejos humanos são um campo fértil para refinar a manipulação.

Podemos (ainda) não ser cérebroscasa de aposta com paypalcubas. Mas aquilo que nós vemos, acreditamos, fazemos parte e realizamos é cada vez mais interligado a incontáveis sistemascasa de aposta com paypalinformação – muitos deles, mais propensos a oferecer persuasão e plausibilidade do que a verdade.

Nada disso deve negar o poder e o potencialcasa de aposta com paypaltecnologias como a IA, nem as inúmeras formascasa de aposta com paypalque ela pode ampliar as capacidades e o autoconhecimento da humanidade. Mas é fácil defender, como Dennett fazia, que as IAs provavelmente irão "evoluir até se reproduzirem".

"E as que se reproduzirem melhor serão os mais inteligentes manipuladores dos interlocutores humanos como nós. As entediantes, iremos deixarcasa de aposta com paypallado, e as que mantiverem nossa atenção, iremos difundir. Tudo isso irá acontecer sem nenhuma intenção. Será a seleção natural do software."

Verdade vs. mentira

Não é necessário um planocasa de aposta com paypalmestre elaborado por uma máquina ou por seres humanos para que se desenvolvam cenários maléficos.

No livro Das Bactérias a Bach e Vice-Versa: A Evolução das Mentes (Edições 70, 2021), Dennett defende que "quando a infraestrutura cultural estiver projetada e instalada [ou seja, evoluída nas mentes humanas]... a possibilidadecasa de aposta com paypalmemes parasíticos explorando essa infraestrutura é mais ou menos garantida."

Em termos evolutivos, nossas mentes não são aparelhos sintonizados para diferenciar a verdade da mentira. Nós somos criaturas parciais, apaixonadas e tribais – animais sociais ligados por laçoscasa de aposta com paypalamor e lealdade que definem nossa humanidade e nos tornam dolorosamente vulneráveis.

O que podemos fazer a respeito?

Felizmente, outra característica que define o pensamento humano é a nossa capacidadecasa de aposta com paypalrefletir precisamente sobre essas limitações, para corrigir,casa de aposta com paypalforma crescente e coletiva, os pontos cegos da percepção social.

"O que você quer", declarou Dennett, "é que o seu pensamento seja determinado pela verdade sobre tudo o que existe."

"Você quer ser levado pelas boas evidências existentes sobre o que é o mundo. Mas você também quer ter espaçocasa de aposta com paypalmanobra para reconsiderar, reconsiderar e reconsiderar ainda mais: suas perspectivas, seus projetos, seus objetivos. Você quer ser um sistemacasa de aposta com paypalintençõescasa de aposta com paypalordem superior, que reflita sobre os meios, fins e propósitos."

Este é o método científico no microcosmo, com um toquecasa de aposta com paypallivre pensamento humanista.

A "liberdade"casa de aposta com paypalagir com basecasa de aposta com paypalinformações manipuladamente imprecisas não é liberdade. Já as ações determinadas pelas "boas evidências existentes" são emancipadoras: elas são abertas às complexidades da realidade e não traídas por mentiras.

Para ampliar o experimentocasa de aposta com paypalWhere Am I?, imagine o que aconteceria se o seu cérebro fosse colocadocasa de aposta com paypaluma cuba e, sem o seu conhecimento ou permissão, fosse conectado a uma versão simulada da realidade.

Naquele campo virtual, você ainda poderá ter certas liberdades. Mas, no contexto do mundo externo, você seria encurralado e ludibriado – excluídocasa de aposta com paypalqualquer forma significativacasa de aposta com paypalcompreensão e ação.

Pode parecer puramente uma questãocasa de aposta com paypalficção especulativa, mas uma versão desse cenário se desenrola sempre que alguém acredita que uma afirmação falsa é a verdade literal – ou que uma entidade artificial é um ser humano.

Das teorias da conspiração até a propaganda totalitária, das evidências fabricadas até falsos seres humanos, a rejeição da realidade é um negócio florescente. E não há nadacasa de aposta com paypalinevitável sobre a persistência da tolerância, do ceticismo ou do debate racionalcasa de aposta com paypalum mundo inundado por este tipocasa de aposta com paypalsituação.

Para Dennett, a nossa civilização "é mais frágil do que pensávamos" – e, justamente por isso, mais preciosa.

Apesarcasa de aposta com paypaltodos os conflitos, injustiças e rancores, vivemoscasa de aposta com paypaluma eracasa de aposta com paypalque grande parte dos seres humanos podem "confiar uns nos outros, ter projetoscasa de aposta com paypallongo prazo, viajar livremente, formar família e viver com muito pouco medo".

"Isso é simplesmente maravilhoso. E devemos preservar isso. Essa estrutura,casa de aposta com paypalverdade, a todo custo."

Este é o grande risco dos grandes modeloscasa de aposta com paypallinguagemcasa de aposta com paypalIA e das pessoas falsificadas: "que eles destruam a confiança que levamos milharescasa de aposta com paypalanos para construir."

Apesarcasa de aposta com paypaltudo isso – e dacasa de aposta com paypalreputaçãocasa de aposta com paypalinflexível razoabilidade – Dennett deixou claro que não tinha interessecasa de aposta com paypaltranscender as limitações da natureza humana.

Para ele, o amor e a lealdade não eram uma bagagem biológica que seria melhor superarmos. Pelo contrário, eles são forças motivadoras do tipo mais profundo: fontescasa de aposta com paypalpropósito ecasa de aposta com paypalbondade, desde que possam ser libertadas do ódio e do egoísmo.

"Buscar o essencial é uma orientação perfeita. Mas o essencial pode ser compreendidocasa de aposta com paypalforma muito ampla. O essencial pode incluir seus filhos, uma ideia, tocar violão, os Chicago Bears [timecasa de aposta com paypalfutebol americano]."

"O essencial pode ser qualquer coisa que você queira que seja. É aquilo que é mais importante para você. É o que você procura para ter proteção. E isso é óbvio. Se alguém quiser extorquir você, eles não precisam ameaçar você. Eles precisam apenas ameaçar aquilo que você ama."

A biologia é onde tudo começa e termina: o surpreendente padrãocasa de aposta com paypalevolução do nosso surgimento ao ladocasa de aposta com paypaltodas as outras formascasa de aposta com paypalvida; as infinitas complexidades que somos capazescasa de aposta com paypalconceber pela cultura, linguagem e computação; e nossa existência comum como criaturascasa de aposta com paypalcarne e osso.

"Meus dois filhos são adotados", contou Dennett ao final da nossa conversa. "Mas eu os amo com a mesma intensidadecasa de aposta com paypalqualquer pai biológico."

"Eu me lembrocasa de aposta com paypalum momento na infância da nossa mais velha, quando ela era uma garotinha, talvez com dois anoscasa de aposta com paypalidade ou menos,casa de aposta com paypalque percebi uma possível ameaça no parquinho ou algo assim e aquilo subitamente me impressionou. 'Oh, vejam só, acho que eu mataria para proteger esta criança.'"

"E aquilo quase me assustou. Mas também me emocionou, porque era o reconhecimentocasa de aposta com paypaluma intensa e profunda ligação emocional. E este é o sentido da vida."

* Tom Chatfield é escritor e filósofocasa de aposta com paypaltecnologia britânico. Seu livro mais recente, Wise Animals ("Animais inteligentes",casa de aposta com paypaltradução livre), explora a evolução conjunta da humanidade e da tecnologia.

Leia a versão original desta reportagem (em inglês) no site BBC Innovation.