Inevitabilidade tecnológica.
| Somir | Somir Surtado | 16 comentários em Inevitabilidade tecnológica.
Hoje pode ser que muitos de vocês que torcem o nariz para meus textos mais otimistas sobre o futuro se sintam representados; existe um caminho lógico no nosso avanço como espécie que fatalmente termina em… extermínio. E para falar disso, eu começo com uma pergunta: por que os terroristas não usam bombas atômicas?
Se bombas atômicas são o ápice do poder destrutivo da humanidade e são conhecidas há quase um século, deve ter algum motivo sólido para não terem sido usadas para esse fim terrorista. Vontade eu duvido que falte.
Se você parar para pensar, tem gente capaz de explodir uma grande metrópole e matar milhões com a certeza absoluta que está fazendo a vontade de seu deus. Gente que inclusive está disposta a morrer cometendo um ato desses. E mais, nem precisa de uma crença de fundo religioso, os atiradores de escolas demonstram que qualquer motivo é motivo para alguns saírem matando sem remorso.
A resposta simples e a resposta complexa para o problema são iguais: porque é difícil. Oras, é óbvio que não usaram, não dá para comprar uma bomba atômica na internet, nem fazer numa garagem. O conhecimento para se construir uma delas existe, e numa pesquisa de internet rápida você já acha o conceito básico. Se você usar uma explosão convencional para comprimir material radioativo com muita pressão, muito rápido, começa a reação nuclear destrutiva.
Mas entre ter ideia de como funciona e fazer uma, tem chão. Existem muitos tratados ao redor do mundo para controlar a matéria prima dessas bombas, o Urânio e o Plutônio que vão nelas precisa ser enriquecido, ou seja, concentrado. Muitos dos materiais que vão nos produtos que usamos no dia a dia são tratados em grandes fábricas para concentrar o que se encontra na natureza em materiais mais puros. Tem muito elemento radioativo espalhado pelo mundo, mas nunca numa concentração que não dependa de processo industrial para ser utilizado.
Mesmo que o terrorista tenha uma mina de Urânio no quintal de casa, ainda não significa que tenha o produto real que vai na bomba, ele tem pedras com concentrações minúsculas que precisam passar por um processo industrial complexo até ficar útil. Toneladas de pedra que viram microgramas do produto desejado.
O que eu quero dizer com isso é que bombas atômicas são 1% inspiração e 99% transpiração. Saber fazer não te deixa nem perto de poder fazer. Há toda uma cadeia de produção envolvida que depende de muito dinheiro, pessoas e até mesmo espaço físico para desenvolver. Mesmo que você tenha cem pessoas dispostas a trabalhar nisso, elas precisam aprender tanto para fazer algo minimamente decente que até passa do limite de capacidade do ser humano médio. Até humano precisa ser “concentrado” para fazer algo assim. A maioria dos humanos simplesmente não vai ter cérebro para aprender a fazer o que precisa fazer para ter uma bomba atômica.
Sem contar que invariavelmente você vai precisar de tanto dinheiro e estrutura física para fazer que vai ser reconhecido no sistema bancário mundial e até mesmo em fotos de satélite. Quando ditaduras que pouco se importam com a reação mundial resolvem fazer a sua, todo mundo fica sabendo. É por isso que existe algum controle sobre bombas atômicas.
Não é que a humanidade é tão eficiente assim em pegar quem está tentando fazer uma bomba atômica, é que fazer uma bomba atômica sempre vai colocar um alvo gigantesco na sua cabeça. Então, terroristas não usam bombas atômicas porque não conseguem fazer isso sem chamar atenção. Se algum grupo terrorista já conseguiu colocar as mãos em uma, eu aposto que no mínimo os EUA já devem ter matado todo mundo em silêncio para não deixar o povo em pânico. Muito embora eu ache que nem isso aconteceu ainda.
E é daqui que eu desenvolvo o tal do pensamento pessimista sobre o nosso futuro: é uma barreira de complexidade. Se fosse possível desenvolver uma bomba atômica em segredo, é evidente que ela já teria sido utilizada contra israelenses, europeus ou americanos. Para quem viveu a vida toda sendo atacado pelo “ocidente satânico”, não custa nada explodir uma cidade ou duas. Como já disse aqui, existem seres humanos capazes disso, e mesmo que sejam uma fração de fração de porcento da humanidade, com 8 bilhões de pessoas vivas, é mais do que suficiente.
E essas barreiras de complexidade vão caindo com o passar das décadas e séculos. Boa parte dos elementos químicos que precisavam de técnicos e fábricas num passado recente já podem ser processados em casa por alguém interessado e com tempo livre. Uma alma esforçada consegue brincar até mesmo com edição de genes em bactérias e vírus se realmente se dedicar ao tema.
Eu vivo discutindo aqui que não devemos tentar segurar o avanço da tecnologia, porque o bônus compensa o ônus, mas ultimamente me veio uma ideia diferente: quem disse que é uma escolha segurar o avanço da tecnologia? De onde eu tirei que é minimamente possível controlar algo do tipo? Não é uma discussão: a tecnologia vai avançar, para o bem e para o mal. A história está cheia de grupos e nações que fracassaram por causa de um avanço tecnológico, inclusive grupos e nações muito ricos e poderosos. Gente que tinha todos os motivos e até mesmo recursos para impedir avanços, mas que foi massacrada por eles.
É um jogo de números. Vai controlar todos os seres humanos ao mesmo tempo? Se você olhar para o lado um segundo, alguém compartilha conhecimento e começa a chacoalhar suas bases de poder. Impérios caem por um motivo, e todos podem ser traçados de volta a uma tecnologia que “saiu de controle”. Os romanos tinham vantagem em tecnologia de construção e de guerra, mas evidente que essa tecnologia se espalhou, de repente os bárbaros não eram tão bárbaros assim. Os ingleses tinham o poder sobre as indústrias, mas o resto do mundo aprendeu a trabalhar do mesmo jeito. Os americanos aperfeiçoaram a tecnologia e tomaram o lugar deles.
Se o resultado te parece positivo ou negativo, é irrelevante: a tecnologia avança porque seu avanço é um objetivo convergente da espécie humana. Somos descendentes de macacos que trabalhavam melhor com ferramentas do que outros macacos. A nossa evolução pós-biológica é basicamente isso, tecnologia. Para explodir inimigos, para ir para a Lua, para mandar meme para seu amigo… é isso que fazemos. Fazemos tecnologia.
Parar tecnologia é parar a humanidade. Temos que ser explodidos de volta à idade da pedra para voltar ao paradigma antigo, e mesmo assim, eventualmente podemos reaprender muita coisa dado tempo suficiente. E quanto mais gente no mundo tira vantagem dessa tecnologia, mais gente desenvolve o conhecimento necessário. Eu sei que a rede social nos faz achar que o ser humano é um imbecil, mas nunca tivemos tanta gente inteligente viva ao mesmo tempo.
O conhecimento que Newton e Einstein desenvolveram é ensinado para crianças! A criança do século XXI aprende o que em 99% da nossa história era impensável para o cidadão médio. Um nerd de 10 anos hoje daria aula para as mentes mais brilhantes do mundo dos últimos milênios. Acumulou. Todo dia se formam mais cientistas no mundo do que em séculos passados inteiros. Somos 8 bilhões, com projeção de chegarmos aos 10 antes de estabilizar.
A minha conclusão é que não vai parar. Nenhuma tecnologia vai parar, ninguém vai conseguir segurar. Se tiver alguma coisa no futuro que permita que uma pessoa construa uma bomba atômica em casa sem chamar atenção de quase ninguém, vamos ter escolas explodindo em cogumelos de fogo. Vai ser uma guerra de atrição entre pessoas “normais” e sociopatas, tentando construir mais rápido que eles podem destruir.
Uma alternativa vai ser vencer por números e distância. Uma humanidade de 1 trilhão de pessoas vivendo ao redor do Sol em estações espaciais separadas por milhares de quilômetros pode resistir a uma explosão atômica ou outra. Eu até imagino que dada uma grande capacidade de produzir tecnologia assassina no futuro distante, vamos ter que criar regras muito severas sobre reprodução para eliminar genéticas propensas à psicopatia, se é que psicopatia é genética mesmo…
Num futuro com tecnologia muito poderosa, cada ser humano é extremamente perigoso. Se conseguirmos aumentar muito nossa longevidade, talvez seja melhor proibir reprodução porque seria basicamente a mesma coisa fazer um filho e fazer uma bomba atômica. Apenas clonagem seria possível, e todos os clones feitos estéreis. É um problema do futuro distante, mas que já podemos ver em pequenas parcelas atualmente: a tecnologia da arma de fogo permite tiroteios em escolas. Se você não criar direito ou perceber sinais de descontrole emocional severo no seu filho, você está colocando uma arma mortal no mundo por causa da tecnologia disponível para ele.
E aqui eu finalmente falo de Inteligência Artificial: na parte sobre fazer bombas atômicas eu disse que o ser humano médio nem tem inteligência para aprender a fazer de verdade, mas a IA pode ter. E se cada humano tiver acesso a uma para turbinar sua capacidade mental, todo mundo pode ser uma bomba atômica potencial. Não vejo sequer a possibilidade de um futuro em que conseguimos controlar a adoção da IA pelo cidadão médio para aumentar suas capacidades. Eventualmente vai ser sentença de morte social não ser aumentado pelo cérebro artificial.
Por isso eu acho que não existe discussão sobre controle de tecnologia, eu acho que existe discussão sobre controle de seres humanos. A IA por si só dificilmente vai ter alguma vontade própria, por mais inteligente que seja. Agora, as pessoas que usam essa tecnologia… se a gente quiser um futuro melhor, temos que melhorar muito o ser humano e ter ferramentas para evitar que as nossas bombas atômicas de carne e osso destruam o mundo para os outros.
E para conseguir isso, não dá para continuar com desigualdade social severa, extremismo político e religioso, chiliques de rede social, ignorância sobre saúde mental, etc. É aquela velha história de que a peça do computador que dá mais problema é a que está na frente do monitor. A tecnologia não vai parar, e a única solução para ela não nos explodir é dar um jeito no ser humano.
Serei sempre contra moratórias ou impedimentos de avanço de tecnologia, especialmente porque é uma solução para um problema que não existe. Nunca foi a arma atirando, sempre foi a pessoa puxando o gatilho. Cuidar de humanos é o desafio do futuro. Se os humanos funcionarem, sobreviveremos. Se os humanos não funcionarem, vamos usar a tecnologia para nos destruir, invariavelmente.
Para dizer que eu resolvi o Paradoxo de Fermi (é a solução dos filtros futuros, já existe), para dizer que se depender dos humanos já acabou, ou mesmo para dizer que tendo sua empregada gato-robô está tudo bem: comente.
Grata pela indicação de leitura.
“A IA por si só dificilmente vai ter alguma vontade própria, por mais inteligente que seja. ”
Eu achava q era o mais provável é q iria eliminar a humanidade por ser como uma doença para o planeta rs . Acho q leio pouco e assisto muito filme.
Inteligência e consciência não são a mesma coisa. Pelo menos não com a tecnologia que eu imagino que vai continuar se desenvolvendo. A IA que temos pode ter um bilhão de vezes mais inteligência que toda a humanidade junta e isso ainda não significa que ela vá querer alguma coisa. Eu aposto que ela nunca vai querer, porque querer é ilógico num universo determinístico.
Fico mais aliviado…
“querer é ilógico num universo determinístico.”
O avanço é realmente imparável. Temos à nossa volta milhares de coisas que são resultado de pesquisa e tecnologia. Hoje em dia não temos contato com praticamente nada que não tenha sido criado, desenvolvido e/ou modificado por cérebros e mãos humanas. A tecnologia está em cada pedaço de papel e plástico que a gente tem contato diariamente. São tantas camadas de desenvolvimento tecnológico para nos fornecer ferramentas, e confortos, que facilitem nosso cotidiano, e parecem tão banais, que a gente esquece que são resultado de estudo, investimento e esforço. Tudo é tecnologia, é embalado em tecnologia, é transportado em tecnologia, a gente pisa em tecnologia, come e cospe tecnologia… Tudo. A humanidade produz mais coisas consideradas boas do que ruins. O problema é que a minoria ruim causa um estrago gigantesco. Então, com certeza, como você bem concluiu, a maior tecnologia que teremos que dominar é a própria mente humana. Não como manipulação de massas, e sim como democratização de bem-estar individual e social. Isso chega a parecer mais utópico do que alguém conseguir desenvolver bombas atômicas no quintal de casa (fora todas as armas de destruição em massa possíveis que precisam de menos estrutura do que uma bomba atômica, como armas químicas e biológicas). Acho que a humanidade já está fadada a viver uma distopia. A gente só não descobriu ainda qual será e quando.
Salvo alguma mudança de paradigma como o fim do ser humano biológico e do que acreditamos ser nossa consciência, nós vamos ser o principal problema para sempre. O futuro tem que ser planejado para mitigar os danos de seres humanos, reconstruir mais rápido que destruir, ter humanidade muito espalhada pelo universo… não vai ser juiz de fim de mundo “bloqueando o zapzap” que vai garantir nossa espécie, vai ser a boa e velha desconfiança que temos uns dos outros.
Pior que isso vale inclusive para outras ameaças, como as biológicas ou mesmo cibernéticas. Mais pessoas podendo manipular elementos químicos, biológicos, ou criar softwares ou malwares para ataques.
Se a psicopatia ou outras condições potencialmente perigosas não virem apenas da genética, terão de olhar para a desigual extrema entre as pessoas. Muito da violência e criminalidade vem da pobreza. Claro, das classes altas também surgem suas pérolas, poder também corrompe, mas…
Aí consideraria a possibilidade do ser humano poder ser mal independente da classe social, ou que a humanidade em grande parte não se aniquilaria porque boa parte das pessoas não tem esse desejo destrutivo, embora possam explorar outras… Sem falar nos potenciais controles de danos, por exemplo, uma boa defesa contra mísseis ou inteligência que encontre os terroristas antes…
Quer saber? Pensarei mais sobre, esse texto ficou muito bom para exercitar o cérebro, Somir.
Bacana que te fez pensar também. Eu tomei um tapa mental quando pensei sobre tentativas de controlar tecnologia. É xingar a arma por causa do tiro. Deixa a tecnologia em paz, porque o que a gente controla é… a gente. E olhe lá.
O Somir tem esse – ótimo – hábito de estimular seus leitores a pensar…
IA é uma combinação de dois fatores. Algoritmo e Big Data.
Inclusive a Adobe foi meter os pés pelas mãos com essa questão por resolver usar as produções nos softwares proprietários deles para alimentar big data e ganhar valor de mercado em meio ao hype da IA e isso tá rendendo treta.
Teu texto me fez lembrar da leitura daquele livro, ‘filosofia da tecnologia’ de Alberto Cupani. Se não conhece, vale a pena a leitura.
No livro, dentre tantas indagações sobre tecnologia, ele traz o seguinte: tecnologia pra que? E pra quem?
A gente tem sempre essa ideia estereotipada de que tecnologia tem a ver com equipamentos cada vez mais modernos, computadores mais potentes, capazes de fazer as coisas mais rápido e em prol de nosso conforto. Mas a gente se esquece que a tecnologia pode ser usada para o mal, basta ver a indústria de guerra e a própria criação de uma bomba atômica. E muitas tecnologias já criadas servem ao interesse de grupos específicos na sociedade, inclusive pra tentar controlá-la.
Para além disso tudo, o ser humano se esquece da concepção básica de tecnologia (techne para os gregos) que tem a ver com a capacidade que o homem tem de realizar algum trabalho, tarefa, ofício, para modificar o ambiente, a natureza, o mundo ao seu redor. Um exemplo básico foi o domínio do fogo pelo homem, ou mesmo a criação de ferramentas como facas e lanças.
Só que vale lembrar também que os gregos antigos tinham outra concepção de mundo que a gente. Pra gente o mundo é dado como tal. Uma maçã, por exemplo, ela já existe e pronto, sabemos tudo sobre ela, podemos descrever propriedades físicas, seu tamanho, formato, sabor, cor, etc etc usando todo conhecimento humano e tecnologia já inventadas. Para os gregos, o mundo era um “em si” a ser descoberto, uma transcendência a ser realizada na imanência. Nesse sentido, existe a maçã, mas existe também algo a ser descoberto na essência da maçã.
Grato pela dica de leitura, prezado Ge.
Também quero dar uma olhada nesse livro.
E as maçãs de hoje…são produto de tecnologia.
O computador sem alguém para usar é só uma combinação bizarra de átomos. Interessante puxar também essa percepção sobre a visão antiga sobre conhecimento, a tecnologia é tão pervasiva que até esquecemos que foram coisas criadas por nós, talvez diferente da maçã cuja essência independe de nós (objeto pré-antropeceno), a tecnologia humana já tem intenção e essência humanas embutidas. A bomba atômica É o ser humano. Vou procurar o livro também!