Image for post
Image for post
Alejandro Morán | Head of Public Sector & Healthcare | everis Argentina

O ser humano na era da IA: a visão indispensável de um físico

Atualmente existem inúmeros livros publicados com reflexões sobre o presente e o futuro da inteligência artificial. A maioria percorre ambientes comuns sem uma contribuição verdadeiramente original e, uma minoria, tem uma narração com diferentes pontos de vista ou abordagens, mais inovador. Entre estes últimos está o Vida 3.0 Ser humano en la era de la inteligencia artificial (Vida 3.0 — O ser humano na era da inteligência artificial, em tradução literal), do físico, cosmólogo e professor do MIT, Max Tegmark.

O que mais gostei no texto de Tegmark vem precisamente das disciplinas em que ele é especialista. Por isso, a partir do nível atômico e das camadas mais básicas da matéria, explica como a informação pode adquirir uma entidade própria, independentemente de seu substrato físico ser carbono ou silicone; e que, enquanto a computação é uma transformação de um estado de memória para outro, a mesma coisa acontece com a inteligência e a aprendizagem. O único limite ao seu desenvolvimento é o estabelecido pelas leis da física.

No extremo oposto, nos capítulos finais, o livro aborda o impacto do aparecimento da inteligência artificial numa escala cosmológica, tanto temporal como espacialmente, relacionando a capacidade computacional e os buracos negros com conclusões surpreendentes, lembrando-nos as tênues fronteiras entre matéria e energia.

Hoje, no entanto, o que trago a este artigo não é nada disso, mas sim uma série de reflexões que acontecem no capítulo do livro que ressalta o futuro próximo, nos anos e décadas mais próximos. E que inicia após uma citação de Irwin Corey:

“Se não corrigirmos o curso em breve, acabaremos para onde estamos indo.”

A Tegmark analisa os desenvolvimentos mais recentes na IA e as razões para a sua aplicação em áreas comuns da esfera pública, como: justiça, saúde, emprego, segurança ou legislação. E deixa muitas questões que deveriam estar nas agendas políticas de todos os governos e legislaturas do mundo.

No início da reflexão, ele levanta algumas questões gerais

Como podemos modificar nossos sistemas jurídicos para que sejam mais justos e eficientes e não percam o ponto de inflexão em relação às rápidas mudanças que ocorrem no cenário digital?

Como podemos garantir nossa prosperidade por meio da automação sem privar as pessoas de renda ou gerar exclusão social?

que depois se concretizam à medida que avança nos diferentes temas. Por exemplo, ele comenta sobre o sonho de ter um sistema de justiça eficiente, rápido e imparcial, otimizado através da tecnologia:

Alguns especialistas sonham em automatizar [a justiça] inteiramente por meio de robôs juízes: sistemas de IA que aplicam ininterruptamente os mesmos altos padrões legais a qualquer sentença sem ceder a erros humanos, como parcialidade, fadiga ou falta de conhecimento mais atualizado.

Agora, se os robôs juízes tivessem tendenciosos, cometessem erros ou fossem hackeados:

Será que todos que entendem o raciocínio lógico da IA se sentem seguros o suficiente para respeitar sua decisão? O aprendizado de máquina é mais eficaz do que os algoritmos tradicionais, mas com a desvantagem de ser inexplicável. Se os réus querem saber por que foram condenados, não deveriam eles terem direito a uma resposta melhor do que “nós treinamos o sistema usando uma enorme quantidade de dados e foi isso que ele decidiu”?

Mas um bom sistema de justiça não se baseia somente na correta aplicação das leis, também é fundamental o teor dessas leis. Torna-se evidente que a evolução do nosso quadro regulamentar deve ser cada vez mais ágil, tendo em vista o ritmo acelerado da tecnologia, e que, sem dúvida, os especialistas em tecnologia devem ser participantes ativos na função legislativa. Agora,

Deveria isso ser acompanhado por sistemas de tomada de decisão, com base em IA, para eleitores e legisladores, seguidos imediatamente por robôs legisladores?

A justiça e as leis são apenas algumas das áreas de reflexão de Tegmark sobre o futuro imediato. Ele também escreve sobre a tensa relação entre privacidade e liberdade de informação, na qual já vivemos hoje. Onde devemos estabelecer a fronteira entre justiça e privacidade, entre a proteção da sociedade e a liberdade pessoal? A combinação de identificação biométrica impulsionada pela IA e câmeras em espaços públicos, é positiva ou leva a um estado orwelliano? Devemos nos sentir assediados por essa situação permanente ou ficar aliviados porque podemos ser protegidos quando o deepfake se generalizar?

Ou a possível concessão de direitos às máquinas. Quando um veículo autônomo provoca um acidente, quem deve ser o responsável? Os seus ocupantes, o seu proprietário, o seu fabricante, a empresa de mobilidade como serviço? Ou o próprio carro? E se dermos responsabilidade civil à máquina, devemos dar quaisquer outros direitos ou obrigações legais?

Particularmente preocupante é o capítulo relativo às armas, sua regulamentação e seu uso por exércitos e forças de segurança. Devemos permitir que os países desenvolvam armas cada vez mais letais com base na IA (complementadas por outras tecnologias, como drones)? Será que devemos regularizar, em um futuro não tão distante, as armas autônomas, uma vez que estamos agora regularizando os veículos autônomos? Como podemos garantir que estarão sempre a serviço da lei e da justiça? Ou simplesmente que não apresentarão falhas? Algumas perspectivas não são muito tranquilizadoras.

https://youtu.be/9CO6M2HsoIA

Evidentemente, o capítulo também foca no impacto das disrupções tecnológicas no mercado de trabalho e, como consequência imediata, na desigualdade, algo de que já comentamos em outras ocasiões. E passa superficialmente pelo impacto em outras áreas, igualmente relevantes, decorrentes da combinação de IA com outras tecnologias como IoT, Blockchain, impressão 3D ou biotecnologia: nos sistemas de saúde e sua sustentabilidade e acessibilidade; no papel dos países em desenvolvimento nas cadeias globais de produção, caso não sejam facilitadores digitais; na esfera financeira, questionando os paradigmas atuais de moeda, mercados financeiros e bancos centrais; ou na mobilidade urbana, tanto para o transporte de pessoas como de mercadorias, através de veículos autônomos.

Em geral, as respostas dos participantes apresentam dois problemas: em primeiro lugar, porque pretendem impedir, atrasar ou proibir um desenvolvimento tecnológico inevitável (e que, em condições adequadas, é desejável); em segundo lugar, porque eles geralmente geram respostas “branco ou negro”. Devemos proibir a videovigilância biométrica nas ruas ou dar carta branca para qualquer pessoa realizar isso.

Como Tegmark observa, a decisão não tem a ver com tudo ou nada, mas sim com o grau em que queremos utilizar a IA em nossas vidas e a velocidade com a qual queremos fazer. Voltando à justiça, o livro levanta as seguintes questões:

Queremos que os juízes disponham de sistemas de apoio à tomada de decisões com base em IA, assim como os médicos do futuro?

Queremos ir mais longe e ter robôs juízes pronunciando sentenças que podem ser apeladas a juízes humanos, ou queremos ir até ao fim do processo e também dar a sentença final às máquinas?

Sem dúvida, a resposta a estas perguntas e a todas as suas implicações não é nada simples. Requer uma reflexão profunda, calma, multidisciplinar e global. Em outras palavras, leva tempo, muito tempo. A má notícia é que não nos resta muito tempo e, ainda por cima, estamos nos dando ao luxo de desperdiçar esse tempo, porque o desenvolvimento tecnológico não impede seu progresso desenfreado, pelo contrário, ele o acelera.

Talvez deveríamos esperar que as contribuições de um físico e cosmologista para os dilemas gerados pela IA se limitassem à independência da inteligência do seu substrato material ou as possibilidades da sua expansão pelo Universo, quando este viaja a velocidades próximas da luz.

Felizmente, Max Tegmark compreendeu a importância de abordar imediatamente as questões que se colocam sobre o futuro próximo, de nos antecipar. Por esta razão, ele co-fundou o Instituto Futuro da Vida (FLI), que é apoiado por Erik Brynjfolsson, Nick Bostrom, Elon Musk e Martin Rees, entre outros. Sua missão é catalisar e apoiar iniciativas para a preservação da vida e o desenvolvimento de visões otimistas do futuro, incluindo formas positivas para a humanidade seguir seu próprio curso, considerando as novas tecnologias e seus desafios. O seu lema é um pouco mais drástico:

A tecnologia está proporcionando à vida o potencial de prosperar como nunca se viu antes… ou por outro lado, de se autodestruir. Vamos fazer a diferença!”

Certamente, o tempo está se esgotando se quisermos ser aqueles que escrevem a história do futuro na qual a tecnologia nos reserva. Na realidade, não creio que temos escolha: o impacto será tal — tem sido tal — que não nos podemos dar ao luxo de deixar o futuro próximo sem um leme, à mercê da maré. Para citar Irwin Corey, “se não corrigirmos o curso em breve, acabaremos para onde estamos indo”. Vamos concordar que é um risco que não deve ser assumido.

Written by

Exponential intelligence for exponential companies

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store