blog

Jun 04, 2023

De “quem pode pensar” a “o que pode pensar”: descobrindo a IA através da história

Você já deve ter ouvido falar do alerta de Elon Musk à humanidade sobre os perigos da

Você já deve ter ouvido falar do alerta de Elon Musk à humanidade sobre os perigos da inteligência artificial. Independentemente das diferentes reservas individuais em relação ao gigante do Vale do Silício, é inegável que nossa construção da realidade está mais instável do que nunca. À medida que os desenvolvimentos tecnológicos se desenrolam a uma taxa tão incontrolável e irreversível, é necessário refletir sobre os numerosos avisos prescientes que os estudiosos emitiram nas últimas décadas.

A noção de que as máquinas podem realizar o que se pensava estar exclusivamente dentro da capacidade da mente humana remonta ao experimento de 1950 do matemático Alan Turing, apelidado de Teste de Turing. No experimento de Turing, os participantes adivinharam se o remetente das mensagens recebidas em um terminal de computador era um ser humano ou uma máquina. Turin afirmou que se as máquinas podem imitar e agir como enormes depósitos de consciência humana, elas podem de fato se tornar seres humanos; a subsequente fusão da máquina e da inteligência humana cria o "ciborgue". Nas palavras da crítica literária americana Katherine Hayles: "Você é o ciborgue e o ciborgue é você". Conseqüentemente, o sujeito liberal, amplamente considerado como "o humano" desde o Iluminismo, agora se torna "o pós-humano".

Décadas após o experimento de Turing e o argumento de Hayles, o iPhone moderno cria e lembra centenas de senhas complicadas para você. Seu iPad armazena suas anotações para a aula e responde à sua voz. O Apple Watch mede sua frequência cardíaca e monitora suas calorias. Esses recursos de fácil acesso tornam você incapaz de imaginar uma vida sem dispositivos eletrônicos. Essa confiança, embora positiva em muitos aspectos, torna-se estranha ao imaginar duas versões de si mesmo existentes: uma composta de sangue e carne e outra na forma de sinais e símbolos em um ambiente totalmente digital. Quando agora leva uma questão de segundos para alcançar os robôs que podem criar instantaneamente ensaios complexos e bem pensados, parece seguro concluir que a tecnologia não pode mais ser significativamente separada do sujeito humano.

Neste novo paradigma pós-humano, onde a informação escapa da carne e a materialidade se torna obsoleta, parece essencial errar por excesso de cautela ao tirar vantagem das criações do Vale do Silício. É importante pesquisar ativamente tanto os fatos científicos que revelam os impactos tangíveis da IA ​​quanto os textos literários que revelam as complexas questões sociais, culturais e políticas que a humanidade enfrenta como consequência do desenvolvimento tecnológico.

Essa nova revelação significa que os humanos agora podem tratar seus corpos como meros acessórios de moda? Não necessariamente. Em seu livro de 1999 "Como nos tornamos pós-humanos", Hayles descreve um mundo pós-humano ideal como aquele que "abraça as possibilidades das tecnologias da informação sem ser seduzido por fantasias de poder ilimitado e imortalidade desencarnada". Além disso, Hayles também observa que este mundo deveria "reconhecer e celebrar a finitude como condição do ser humano". Essa visão parece ter se concretizado, pois as organizações onde o poder está mais concentrado parecem ostentar suas sofisticadas tecnologias e virtualidade; o Pentágono, por exemplo, atualmente se vê como um "teatro sem precedentes" no qual as guerras são travadas. Com isso dito, as preocupações levantadas pelos estudiosos contemporâneos tornam a visão de Hayles ainda mais difícil de realizar.

Duas décadas após a publicação da presciente intervenção pós-humanista de Hayles, a socióloga e professora da Universidade de Princeton, Ruha Benjamin, cunhou o termo "o Novo Código Jim". Essa ideia refere-se a uma série de designs discriminatórios em tecnologia que trabalham explicitamente para ampliar hierarquias e replicar divisões sociais. Simplificando, a tecnologia que permeia quase todas as fendas da experiência humana contemporânea pode replicar e exacerbar as desigualdades sistêmicas, às vezes colocando uma fachada enganosa de bem-estar que parece promover o contrário. Como Benjamin apontou corretamente, há uma infinidade de novos aplicativos que incorporam esse código no status quo.