Por que a filosofia é crucial na era da inteligência artificial

Londres:

Novas técnicas de engenharia e entendimento científico sempre impressionaram e assustaram. Sem dúvida, continuarão a fazê-lo. A OpenAI anunciou recentemente que antecipa a “superinteligência” – A IA superando as habilidades humanas – nesta década. É, portanto, construindo uma nova equipee dedicar 20% dos seus recursos de computação para garantir que o comportamento desses sistemas de IA esteja alinhado com os valores humanos.

Parece que eles não querem superinteligências artificiais desonestas travando guerra contra a humanidade, como no thriller de ficção científica de James Cameron de 1984, O Exterminador do Futuro (agourentamente, o exterminador de Arnold Schwarzenegger é enviado de volta no tempo de 2029). A OpenAI está convocando os melhores pesquisadores e engenheiros de aprendizado de máquina para ajudá-los a resolver o problema.

Mas os filósofos podem ter algo a contribuir? Mais genericamente, o que se pode esperar da disciplina milenar na nova era tecnologicamente avançada que agora está surgindo?

Para começar a responder a isso, vale ressaltar que a filosofia tem sido instrumental para a IA desde seu início. Uma das primeiras histórias de sucesso da IA ​​foi uma de 1956 programa de computadorapelidado de Logic Theorist, criado por Allen Newell e Herbert Simon. Sua função era provar teoremas usando proposições de Principia Mathematica, uma obra de três volumes de 1910 dos filósofos Alfred North Whitehead e Bertrand Russell, com o objetivo de reconstruir toda a matemática em uma base lógica.

Na verdade, o foco inicial na lógica em IA deveu muito aos debates fundamentais travados por matemáticos e filósofos.

Um passo significativo foi o desenvolvimento da lógica moderna pelo filósofo alemão Gottlob Frege no final do século XIX. Frege introduziu o uso de variáveis ​​quantificáveis ​​– em vez de objetos como pessoas – na lógica. Sua abordagem tornou possível dizer não apenas, por exemplo, “Joe Biden é presidente”, mas também expressar sistematicamente pensamentos gerais como “existe um X tal que X é presidente”, onde “existe” é um quantificador, e “X” é uma variável.

Outros contribuidores importantes na década de 1930 foram o lógico austríaco Kurt Gödel, cujos teoremas de completude e incompletude são sobre os limites do que se pode provar, e a “prova da indefinibilidade da verdade” do lógico polonês Alfred Tarski. Este último mostrou que a “verdade” em qualquer sistema formal padrão não pode ser definida dentro daquele sistema em particular, de modo que a verdade aritmética, por exemplo, não pode ser definida dentro do sistema de aritmética.

Por fim, a noção abstrata de máquina de computação de 1936, do pioneiro britânico Alan Turing, baseou-se nesse desenvolvimento e teve um enorme impacto na IA inicial.

Poder-se-ia dizer, contudo, que mesmo que tal bom e velho estilo a IA simbólica estava em dívida com a filosofia e a lógica de alto nível, a IA de “segunda onda”com base na aprendizagem profunda, deriva mais do feitos de engenharia de concreto associado ao processamento de grandes quantidades de dados.

Ainda assim, a filosofia também desempenhou um papel aqui. Considere grandes modelos de linguagem, como o que alimenta o ChatGPT, que produz texto conversacional. Eles são modelos enormes, com bilhões ou até trilhões de parâmetros, treinados em vastos conjuntos de dados (normalmente compreendendo grande parte da internet). Mas, em seu cerne, eles rastreiam – e exploram – padrões estatísticos de uso da linguagem. Algo muito parecido com esta ideia foi articulado pelo filósofo austríaco Ludwig Wittgenstein em meados do século XX: “o significado de uma palavra”, disse ele, “é seu uso na linguagem”.

Mas a filosofia contemporânea, e não apenas sua história, é relevante para a IA e seu desenvolvimento. Um LLM poderia realmente entender a linguagem que processa? Poderia atingir a consciência? Essas são questões profundamente filosóficas.

A ciência até agora não conseguiu explicar completamente como a consciência surge das células do cérebro humano. Alguns filósofos até acreditam que este é um “problema tão difícil” que é além do escopo da ciênciae pode exigir uma mão amiga da filosofia.

De forma similar, podemos perguntar se uma IA geradora de imagens poderia ser verdadeiramente criativa. Margaret Boden, uma cientista cognitiva britânica e filósofa da IA, argumenta que, embora a IA seja capaz de produzir novas ideias, terá dificuldade em avaliá-los como as pessoas criativas fazem.

Ela também antecipa que apenas uma arquitetura híbrida (neural-simbólica) – uma que usa tanto as técnicas lógicas quanto aprendizagem profunda a partir de dados – alcançará inteligência artificial geral.

Valores HUMANOS

Voltando ao anúncio da OpenAI, quando questionado sobre o papel da filosofia na era da IA, o ChatGPT nos sugeriu que (entre outras coisas) ela “ajuda a garantir que o desenvolvimento e o uso da IA ​​estejam alinhados com os valores humanos”.

Nesse espírito, talvez possamos propor que, se o alinhamento de IA é o problema sério que a OpenAI acredita que seja, não é apenas um problema técnico a ser resolvido por engenheiros ou empresas de tecnologia, mas também um problema social. Isso exigirá a contribuição de filósofos, mas também de cientistas sociais, advogados, formuladores de políticas, usuários cidadãos e outros.

Na verdade, muitas pessoas estão preocupadas com a poder e influência crescentes de empresas de tecnologia e seu impacto na democracia. Alguns argumentam que precisamos de uma maneira totalmente nova de pensar sobre IA – levando em consideração os sistemas subjacentes que dão suporte à indústria. O advogado e autor britânico Jamie Susskind, por exemplo, argumentou que é hora de construir uma “república digital” – que, em última análise, rejeita o próprio sistema político e econômico que deu às empresas de tecnologia tanta influência.

Por fim, vamos perguntar brevemente, como a IA afetará a filosofia? A lógica formal na filosofia na verdade data do trabalho de Aristóteles na antiguidade. No século XVII, o filósofo alemão Gottfried Leibniz sugeriu que um dia poderemos ter uma “Calculadora” – uma máquina de calcular que nos ajudaria a obter respostas para questões filosóficas e científicas de uma forma quase oracular.

Talvez estejamos agora a começar a concretizar essa visão, com alguns autores a defenderem uma “filosofia computacional” que literalmente codifica suposições e deriva consequências delas. Isso, em última análise, permite avaliações factuais e/ou orientadas a valores dos resultados.

Por exemplo, o projeto PolyGraphs simula os efeitos do compartilhamento de informações em mídias sociais. Isso pode então ser usado para abordar computacionalmente questões sobre como devemos formar nossas opiniões.

Certamente, o progresso na IA deu aos filósofos muito o que pensar; pode até ter começado a fornecer algumas respostas.

(Autor:Anthony GraylingProfessor de Filosofia, Universidade Northeastern de Londres e Brian BolaProfessor Associado de Filosofia IA e Ética da Informação, Universidade Northeastern de Londres)

(Declaração de divulgação:Brian Ball recebe financiamento da British Academy e já foi apoiado pela Royal Society, Royal Academy of Engineering e Leverhulme Trust. Anthony Grayling não trabalha, não presta consultoria, não possui ações ou recebe financiamento de nenhuma empresa ou organização que se beneficiaria deste artigo e não revelou nenhuma afiliação relevante além de sua nomeação acadêmica)

Este artigo foi republicado de A conversa sob uma licença Creative Commons. Leia o artigo original.