Como a relação entre o ser humano e a computação tem evoluído ao longo do tempo e quais os riscos nessa evolução?

Por Lesandro Ponciano , em 09 de novembro de 2023.

Este texto foi elaborado como fala inicial no evento "Diálogos Pertinentes: Filosofia, Ética e Tecnologia" do IFTDJ/ PUC Minas. A gravação do evento está disponível no canal do youtube do IFTDJ.

Neste texto, gostaria de abordar o papel do ser humano ao criar e se relacionar com a tecnologia, tratando, em particular, das tecnologias da informação e comunicação. Englobando os processos de processamento, armazenamento e transmissão de informação, irei me referir a todo esse ecossistema de forma ampla como computação.

A Ciência da Computação é uma área muito jovem, com quase 80 anos de existência. Ao longo desse período, ela tem entrelaçado de forma contínua o pensar e o construir, a teoria e a engenharia. Diante disso, várias correntes de pensamento se desenvolvem à medida que a própria tecnologia é criada e aperfeiçoada. A seguir, analisaremos algumas dessas correntes.

Começaremos discutindo a computação inicialmente como uma tecnologia, para depois pensá-la sob a ótica da "Cognição Estendida" — ou seja, como uma extensão do cérebro colocada a serviço do ser humano. Esse avanço, progressivamente, eleva os computadores a um patamar antropomórfico ou de parceria, perspectiva que analisamos ao tratar as máquinas como "Parceiros do Discurso". Naturalmente, a Inteligência Artificial se junta a essa visão, mas introduz um novo cenário: a "Computação Estendida", no qual os computadores passam a fazer uso das capacidades humanas (criativas, cognitivas, etc.) para ampliar seu próprio potencial. Por fim, discutiremos a "Sociedade de Risco" que emerge dessa visão avançada da computação.

Computação como uma tecnologia

Hoje, o substantivo “computador” é amplamente empregado para designar uma máquina ou um dispositivo eletrônico. No entanto, nem sempre foi assim. Há mais de 80 anos, antes de as primeiras máquinas de computar serem criadas, o termo referia-se à profissão de pessoas que realizavam cálculos manuais para criar tabelas logarítmicas e de navegação. Organizações da época mantinham grandes salas repletas desses "computadores" humanos, que utilizavam caneta, papel e tabelas para otimizar o trabalho de cálculo, aumentando a velocidade e reduzindo erros. Inclusive, Alan Turing inspirou-se diretamente na forma de trabalho dessas pessoas ao desenvolver seus primeiros estudos sobre o processo de computação.

Mas por que criar uma máquina de computar? Embora sejamos capazes de realizar algumas contas de modo estritamente mental, outras exigem mais do nosso cérebro. Todos nós já recorremos ao papel e à caneta para resolver cálculos que demandavam mais etapas do que éramos capazes de memorizar. Se a caneta e o papel tornaram esses cálculos possíveis, o processo ainda permanecia lento, manual e mecânico. Hoje, ao recorrermos às máquinas, dispomos de uma velocidade extrema: computadores realizam operações matemáticas bilhões de vezes mais rápido que os seres humanos. Diante disso, é provável que aqueles antigos computadores humanos tenham sido os primeiros trabalhadores substituídos pelo advento da computação moderna.

Vale ressaltar que os cálculos são apenas um exemplo desse universo, visto que as aplicações da área são diversas. Atualmente, a computação está integrada desde relógios e geladeiras até os formatos mais tradicionais, como tablets, smartphones, notebooks e computadores de mesa.

Cognição estendida

Sob a perspectiva da cognição estendida, o ser humano utiliza as tecnologias de informação e comunicação como uma extensão direta do próprio cérebro. Essa abordagem é aplicada quando uma tarefa excede os limites do nosso sistema cognitivo, seja por restrições de armazenamento (a impossibilidade de lembrar de tudo) ou de processamento (a dificuldade de analisar gigabytes de informação simultaneamente). Esses limites humanos na tomada de decisão foram profundamente estudados por Herbert Simon, criador da teoria da racionalidade limitada (bounded rationality).

Essa corrente de pensamento enxerga a computação como um complemento do nosso corpo, capaz de amplificar e adicionar novas habilidades às capacidades limitadas que possuímos. Trata-se de uma das teorias que explicam por que esses dispositivos se tornaram tão essenciais, dado que, por meio deles, conseguimos atingir objetivos antes inalcançáveis. Cria-se, assim, um ciclo de dependência: quanto mais complexo se torna o ambiente à nossa volta, mais necessitamos de tecnologias de memória e processamento para compreendê-lo; por outro lado, quanto mais tecnologia inserimos na rotina, mais complexo o ambiente se torna, retroalimentando a necessidade de novos recursos tecnológicos.

Parceiro do discurso

Nas primeiras décadas da computação, os seres humanos não eram considerados usuários das máquinas, mas sim seus operadores. Tratava-se de sistemas rústicos nos quais o operador fornecia os dados de entrada e, após algum tempo, coletava o resultado final gerado. Foi somente a partir da década de 1970, com o surgimento dos sistemas interativos, que o fator humano ganhou centralidade. Emergiu, nesse período, a perspectiva do computador como um parceiro do discurso — um interlocutor com o qual o ser humano estabelece uma genuína interação ou conversação, conforme proposto pela Engenharia Semiótica. A máquina deixava de ser vista apenas como uma ferramenta técnica e passava a atuar como um colega de trabalho.

Esse conceito se reflete claramente em sistemas atuais como Cortana, Siri ou ChatGPT, que buscam compreender e simular a comunicação humana. Nesses cenários, a tecnologia ultrapassa o papel de mera extensão cognitiva para atuar como um verdadeiro parceiro a serviço do usuário.

Inteligência Artificial

Para se consolidar como um legítimo parceiro do discurso, o computador precisou se equiparar ao ser humano em termos de linguagem e raciocínio. Essa busca impulsionou a inteligência artificial, uma vertente teórica e prática que evoluiu em paralelo ao longo das últimas décadas. A origem da IA na computação remonta, em grande parte, à análise técnica e filosófica feita por Alan Turing em seu célebre artigo de 1950 na revista Mind. Ao propor a pergunta "pode uma máquina pensar?", Turing adotou uma visão operacional de inteligência: define-se como inteligente aquilo que não conseguimos diferenciar de um comportamento tipicamente humano.

A partir dessa concepção original, a evolução da área foi expressiva. Hoje, a sociedade debate o tema intensamente devido à popularização de aplicações como assistentes pessoais, carros autônomos, ecossistemas de Internet das Coisas e modelos de linguagem generativa.

Para tratar o assunto com o devido rigor, contudo, é fundamental compreender que a Inteligência Artificial não é um bloco monolítico. A área engloba diferentes paradigmas de aprendizado algorítmico, tais como o aprendizado por reforço, supervisionado, não-supervisionado e semi-supervisionado. Algumas abordagens dependem estritamente de dados históricos rotulados por pessoas, enquanto outras dispensam esse tipo de intervenção. Atualmente, a IA comercial mais difundida aprende a partir de bases de dados criadas por seres humanos, embora a tendência de longo prazo aponte para sistemas capazes de aprender de forma autônoma com as próprias experiências.

Computação estendida

Atualmente, discutem-se muito os riscos associados ao uso de dados pela inteligência artificial, gerando debates complexos sobre privacidade e direitos autorais. É o caso de ferramentas que aprendem explorando o conhecimento disponível publicamente na internet. Nesse ponto, surge uma inversão teórica interessante: se antes falávamos em cognição estendida, aqui cabe introduzir o conceito de computação estendida. Afinal, a base de conhecimento dessas máquinas está atrelada àquilo que externalizamos; o sistema se estende utilizando a nossa cognição e a nossa produção intelectual. O ChatGPT, por exemplo, nada saberia se não tivesse livre acesso ao conhecimento histórico produzido pela humanidade.

Modelos dessa natureza inovam ao demonstrar o potencial do aprendizado em escala extrema, utilizando redes gigantescas com bilhões de hiperparâmetros capazes de indexar e representar o conhecimento digital. Embora o ChatGPT seja um exemplo notável do poder dessa arquitetura, ele não representa o limite definitivo do conhecimento computacional.

A inteligência artificial, em seu estágio teórico mais avançado, tende a se desvincular da dependência de dados estáticos humanos. Nesse patamar de autonomia, os sistemas passam a aprender essencialmente por meio de experimentação própria (recorrendo a aprendizado por reforço profundo e algoritmos genéticos). Embora ainda existam poucos exemplos comerciais e cotidianos desse nível de IA — devido à sua extrema complexidade de desenvolvimento —, o seu amadurecimento traz riscos latentes. O ser humano terá menos mecanismos para controlar ou prever com precisão os processos cognitivos e as ações tomadas por esses agentes autônomos.

Sociedade de risco

As perspectivas que cruzam cognição estendida, computação estendida, parcerias de discurso e inteligência artificial manifestam-se em duas dimensões principais: a teórica e a técnica. Enquanto a dimensão teórica molda a forma como percebemos, valorizamos e interagimos com o computador, a dimensão técnica traduz essas percepções na engenharia prática, balizando o trabalho de projetistas que tentam viabilizar tais conceitos em sistemas reais.

Historicamente, contudo, a computação tem evoluído de forma acelerada em busca da inovação, muitas vezes preterindo a prudência. Como os riscos raramente são mitigados de forma preventiva, soluções regulatórias costumam surgir apenas após a consolidação dos problemas. O mercado de tecnologia frequentemente adota a cultura corporativa de que "é melhor pedir desculpas do que pedir permissão", garantindo aos desenvolvedores uma ampla licença para errar. Consequentemente, não é raro que novas tecnologias provoquem profundos conflitos sociais em seus estágios iniciais, como testemunhado no surgimento de plataformas como Uber, Facebook e WhatsApp, que exigiram longos processos de adequação jurídica e cultural.

Para interpretar esse cenário, a sociologia oferece o conceito de sociedade de risco (risk society), formulado por Ulrich Beck. Trata-se de uma caracterização das sociedades modernas, marcadas por incertezas crônicas que derivam, ironicamente, dos próprios efeitos colaterais do desenvolvimento científico e tecnológico. Essa percepção generalizada de vulnerabilidade tende a persistir até que a sociedade consiga estabelecer bases sólidas de análise, novas diretrizes éticas e legislações robustas.

Por tudo isso, o avanço tecnológico permanece — e continuará sendo — o epicentro de intensas controvérsias legais, morais e éticas. Manter esses debates ativos é o único caminho para assegurar que as tecnologias futuras alinhem-se genuinamente aos valores, direitos e desejos da sociedade.

Leituras recomendadas

BECK, U.; LASH, S.; WYNNE, B. Risk society: towards a new modernity. USA: Sage. v. 17, 1992.

BARBOSA, Simone; SILVA, Bruno. Interação humano-computador. Elsevier Brasil, 2010.

GRIER, D. A. (2013). When computers were human. Princeton University Press.

PONCIANO, L., BRASILEIRO, F., ANDRADE, N., & SAMPAIO, L. (2014). Considering human aspects on strategies for designing and managing distributed human computation. Journal of Internet Services and Applications, 5(1). https://doi.org/10.1186/s13174-014-0010-4

PONCIANO, Lesandro. Reflexões sobre o Emprego de Inteligência Artificial em Ciência Participativa e Cidadã. Civis Blog, Brasília, 15 agosto. 2023. Disponível em: https://civis.ibict.br/blog/2023/08/14/ia-ciencia-cidada/ Acesso em: 15 agosto 2023.

PONCIANO, Lesandro, et al. Designing for pragmatists and fundamentalists: Privacy concerns and attitudes on the internet of things. In: Proceedings of the XVI Brazilian Symposium on Human Factors in Computing Systems. 2017. p. 1-10.

Ramos, H., Fonseca, M., & Ponciano, L. (2021). Modeling and Evaluating Personas with Software Explainability Requirements. In Communications in Computer and Information Science (Vol. 1478 CCIS, pp. 136–149). Springer Science and Business Media Deutschland GmbH. Disponível em: https://doi.org/10.1007/978-3-030-92325-9_11 Acesso em: 29 outubro 2023.

SANDERS, E. B. N. From user-centered to participatory design approaches. In: Design and the social sciences. EUA: CRC Press, 2002. p. 18-25.

SANTOS, Lesandro Ponciano dos. “Computação por humanos na perspectiva do engajamento e credibilidade de seres humanos e da replicação de tarefas.” (2015). Disponível em: https://dspace.sti.ufcg.edu.br/handle/riufcg/569 Acesso em: 29 outubro 2023.

SMART, Paul; HALL, Wendy; BONIFACE, Michael. Extended Computation: Wide Computationalism in Reverse. In: Companion Publication of the 13th ACM Web Science Conference 2021. 2021. p. 76-79.

TURING, Alan (1950). "Computing Machinery and Intelligence», Mind, LIX (236): 433–460, doi:10.1093/mind/LIX.236.433

WING, J. M. Computational thinking. Communications of the ACM, v. 49, n. 3, p. 33-35, 2006

Caso você tenha gostado desse texto, talvez também se interesse por: