O noticiário sobre tecnologia foi inundado por um assunto em 2023: o ChatGPT. O protótipo de chatbot que utiliza inteligência artificial na formulação de respostas surpreende por sua capacidade de elaborar textos que se encaixam em diferentes situações. De redações com potencial de aprovação em exames, como a primeira fase da prova da Ordem dos Advogados do Brasil (OAB), à queda no valor de ações de empresas que apostam em tecnologias semelhantes responsáveis por cometerem erros quando dão respostas durante apresentações voltadas ao mercado, as novidades trazidas pelas tecnologias de inteligência artificial não interessam mais apenas a pesquisadores e profissionais da área e alimentam especulações eufóricas e aterrorizantes sobre seus efeitos no futuro.
“É muito difícil apontar o que deve ocorrer. Acho que precisamos esperar um pouco para sermos mais sensatos e termos uma noção clara de seus efeitos.” A avaliação é de Ofer Arieli, professor do Academic College de Tel-Aviv, em Israel, e um dos convidados da Escola São Paulo de Ciência Avançada em Lógica Contemporânea, Racionalidade e Informação – SP LogIC. Doutor em Ciência da Computação pela Universidade de Tel-Aviv, ele trabalha com aplicações de lógica em sistemas de inteligência artificial e afirma que o grande desafio da área é desenvolver sistemas capazes de explicitar suas linhas de raciocínio. “Esse é um dos temas mais proeminentes da pesquisa na área”, comenta.
Na entrevista concedida ao Jornal da Unicamp, realizada com o apoio de Walter Carnielli, professor da Unicamp e membro do conselho consultivo da SP LogIC, Arieli fala das contribuições da chamada teoria da argumentação, tema de seu curso na Escola, faz comentários sobre a difusão da lógica entre novas gerações de pesquisadores e aborda a importância do tema para os desafios do mundo contemporâneo.
Jornal da Unicamp - Qual a importância da lógica para a inteligência artificial? Ela é aplicada apenas no desenvolvimento dos sistemas ou existem questões éticas e filosóficas em que a lógica está envolvida?
Ofer Arieli: Um dos objetivos principais da inteligência artificial (IA) é imitar ou seguir o modelo de raciocínio do senso comum. Nesse sentido, a lógica tem uma função primordial de dar forma a esse raciocínio. Essa é a essência da inteligência artificial, a habilidade de entender, raciocinar e imitar a forma com que nós pensamos, tomamos decisões etc. Basicamente, esse é o principal papel da lógica na inteligência artificial. Claro, existem vários outros papéis, como os papéis filosófico e matemático, e todas essas partes estão envolvidas no raciocínio automatizado. Por exemplo, como revisamos nossos pensamentos, ou como tiramos conclusões a partir de informações inconsistentes ou incompletas? São todas tarefas do cotidiano. Então, se queremos desenvolver bons sistemas de inteligência artificial, que sejam racionais, precisamos ter como base algum tipo de lógica. Existem hoje outras disciplinas baseadas no aprendizado de máquina, mas um dos problemas desses sistemas é que eles não são capazes de justificar suas conclusões. Por outro lado, sistemas baseados em lógica são capazes de justificá-las. É com isso que eu trabalho, no desenvolvimento de sistemas capazes de tirar conclusões da forma como humanos fazem e que sejam capazes também de justificar suas conclusões.
JU - Em seu curso na SP LogIC, você abordou a teoria da argumentação. Poderia explicar quais ideias estão envolvidas nessa teoria? Ela se conecta, de alguma forma, com as preocupações que você aponta em relação aos sistemas de IA?
Ofer Arieli: A teoria da argumentação engloba padrões com os quais organizamos nossos debates, diálogos, estratégias de persuasão e também o raciocínio revogável, utilizando argumentos e contra-argumentos. Tradicionalmente, eu trabalho no contexto da lógica paraconsistente, o que significa trabalhar com sistemas que podem raciocinar a respeito de informações inconsistentes. Nesse contexto, considero duas coisas necessárias: primeiro, a maioria dos sistemas de lógica paraconsistente são monotônicos, ou seja, conforme você estende suas premissas, necessariamente estende também suas conclusões. Essa propriedade é muito útil no contexto matemático, porque, se você chega a determinadas provas, pode usá-las para ampliar seu conhecimento. No entanto, no raciocínio do senso comum, isso não se aplica, porque a partir do momento que se aprende um fato, esse conhecimento não seria revisto. Nesse sentido, a argumentação oferece uma boa perspectiva para esse tipo de raciocínio, porque envolve argumentos, contra-argumentos e novas informações. Para mim, é uma boa perspectiva teórica, que permite, por um lado, lidar com inconsistências e, por outro, ser capaz de revisar informações e mudar o pensamento.
Outra vantagem da teoria da argumentação é que ela é baseada em grafos, o que nos fornece uma maneira de verificar o que está acontecendo. Com ela, você consegue visualizar, em certa medida, os núcleos de inconsistência. Não se trata de um método puramente abstrato. Isso é uma coisa boa, não é apenas lógica. Ela combina também outros meios para chegarmos a conclusões racionais, como grafos e outros recursos.
JU - Você percebe um crescimento no estudo da paraconsistência em Israel? Há influências da escola brasileira de lógica?
Ofer Arieli: A escola brasileira de paraconsistência é, talvez, uma das de maior prestígio no mundo. Não apenas um dos fundadores da escola, o professor Newton da Costa, é brasileiro, como muitos pesquisadores contemporâneos também o são, como os professores (Walter) Canielli, Ítala D’Ottaviano, João Marcos e muitos outros. Muitos brasileiros estão envolvidos nessa área e isso é muito inspirador. Em Israel, também há espaços em que a lógica é levada adiante, mas de forma mais modesta. Claro, somos um país pequeno, mas, ainda assim, há vários pesquisadores que investigam a paraconsistência e a lógica de maneira mais ampla. Ainda que hoje seja um pouco difícil atrair pesquisadores para essa área da lógica. Cientistas da computação estão mais interessados em aplicações de aprendizado de máquina, a grande área do momento. Então é mais difícil convencer estudantes a trabalharem conosco, porque isso requer muito estudo, esforço, e nem sempre vemos os resultados práticos disso. Além de ser menos rentável.
JU - Isso porque é uma área mais abstrata?
Ofer Arieli: Exatamente. Ainda assim, conseguimos trabalhar bem. Temos alunos talentosos que serão a próxima geração de lógicos israelenses. É uma área vibrante, com muitos trabalhos publicados. Penso que há um grande potencial de crescimento, porque as inconsistências estão em todo lugar e é preciso lidar com elas de forma racional. Tenho certeza de que a paraconsistência sempre estará relacionada com questões relevantes, e isso por muito tempo.
JU - Em nossa entrevista com o professor Fernando Zalamea, também convidado da SP LogIC, ele ressalta a importância da lógica para estabelecer conexões com diferentes áreas da ciência. Você mencionou a dificuldade de engajar estudantes nessa área. Acredita que isso se deve também a uma possível dificuldade de reunir conhecimentos diferentes em uma mesma área?
Ofer Arieli: Sim, certamente. Posso dizer, a partir de minha própria experiência, que a lógica é um campo interdisciplinar. Eu vim da área da computação, mas hoje trabalho com mais pesquisadores vindos de departamentos de filosofia do que da própria computação. A lógica está no coração de muitas disciplinas. Acho que realmente é uma ponte entre elas. Para fazermos pesquisas relevantes hoje em dia é preciso unir pessoas de diferentes disciplinas, como filosofia, matemática, ciências da informação, e acredito que a lógica, como coração da matemática, é a ponte que pode unir pesquisadores vindos de diferentes áreas.
JU - Você tem acompanhado as notícias a respeito das novas tecnologias de inteligência artificial, principalmente sobre o ChatGPT? Parece que as pessoas estão muito preocupadas com as implicações desses recursos. Qual sua perspectiva sobre esse cenário?
Ofer Arieli: Penso que é um tipo de evolução, uma coisa que está ocorrendo há alguns anos. O que não esperávamos é o impacto causado pelo software. Há várias implicações, não só na matemática e na inteligência artificial, mas também na literatura, nas artes, em tudo. Para mim é um mistério o que vai ocorrer, porque realmente não sabemos. Há, inclusive, pesquisadores que acreditam que recursos como o ChatGPT podem cumprir funções da própria ciência da computação, então a área também pode mudar. Nosso departamento está realizando muitas discussões a respeito disso, não só entre matemáticos, mas entre profissionais da área e outras pessoas que não sabem bem o que deverá ocorrer ou quais os riscos e desafios trazidos. Tudo acontece tão rápido, de uma semana para outra os progressos são velozes. É muito difícil apontar o que deve ocorrer. Acho que precisamos esperar um pouco para sermos mais sensatos e termos uma noção clara de seus efeitos, para chegarmos à essência do software e a suas implicações. Uma coisa que me preocupa é que não conseguimos explicar como o ChatGPT chega às conclusões que apresenta. Isso é um pouco assustador, porque quando você não consegue traçar a linha pela qual o sistema chegou a uma conclusão, identificar a forma com que o raciocínio ocorreu, não conseguimos predizer o que ocorrerá no futuro. Acho que não tenho uma boa resposta no momento, porque estamos em um estágio ainda muito vago. Sempre trabalhei com coisas nas quais conseguia justificar as conclusões de meus estudos, mas isso é algo novo e não sei, exatamente, como lidar com isso.
JU - Isso significa que esse é um sistema que não apresenta as fontes em que se baseou para entregar os resultados, não explica qual sua linha de raciocínio?
Ofer Arieli: Isso mesmo.
JU - Esse é um ponto em que a lógica pode auxiliar?
Ofer Arieli: Sim. Inclusive essa é uma das razões pelas quais o desenvolvimento de uma inteligência artificial explicável é um dos temas mais proeminentes de pesquisas na área. Isso porque é necessário termos sistemas de IA que justifiquem seus resultados. A lógica é uma das soluções, mas, claro, há também os problemas específicos da tecnologia. O principal deles é a eficiência, porque criar sistemas que se justificam a si mesmos leva muito tempo e muitos esforços computacionais. Esse é o principal problema e a principal razão pelos quais as pessoas tentam criar sistemas que substituem sistemas baseados em lógica, porque eles são muito exigentes em termos computacionais. Há problemas complexos, especialmente em relação à linguagem utilizada. Espero que, no futuro, possamos, de alguma forma, estabelecer pontes entre as deficiências dos sistemas lógicos e suas propriedades positivas, de forma a nos tornarmos capazes de integrar esses dois tipos de sistemas, lógico e de aprendizagem de máquina. Mas ainda estamos longe disso. Ninguém sabe, de fato, como fazer isso. Mas são os principais desafios.
JU - Você acredita que a lógica pode contribuir com nosso dia a dia? Como podemos ampliar o uso da lógica em nossas decisões?
Ofer Arieli: Acho que essa é a questão mais difícil até o momento (risos). Acredito que a grande dificuldade para isso é que nossos políticos não têm agido de forma muito racional. Isso ocorre no Brasil. Ocorre também em Israel. Gostaria que a lógica fosse mais substancial em suas ações e decisões, mas, infelizmente, não é o caso. Devemos continuar com a tentativa de ampliar a lógica e convencer as pessoas de sua importância, mas tenho me tornado mais cético a respeito disso. A vida real tem mostrado que interesses importam mais que a racionalidade. Não podemos perder as esperanças, mas esse é um grande problema.
JU - E de que forma podemos lidar com a paraconsistência sem que ela seja utilizada para justificar decisões deliberadamente erradas ou injustiças?
Ofer Arieli: Vou citar um exemplo a respeito disso. É sabido que sistemas legais têm muitas contradições e um dos desafios disso é isolar as contradições e evidenciá-las. Para isso, a lógica paraconsistente é muito útil, porque você pode identificar o ponto em que estão as contradições de seu sistema. Isso ocorre também em sistemas médicos e em vários outros campos. Nesse aspecto, ser capaz de lidar com contradições de forma racional, mas não trivial, é uma necessidade de qualquer sistema. Talvez as pessoas não conheçam o termo "paraconsistência", mas fazemos isso o tempo todo. Sempre temos que tomar decisões e tirar conclusões em meio a contradições, com informações que são insuficientes. É muito importante sermos capazes de formular respostas e decisões nessas condições.
JU - Ou seja, não se trata de apenas lidar com contradições, mas de identificá-las e submetê-las a parâmetros racionais?
Ofer Arieli: Sim. E, uma vez que você identifica a fonte dessas contradições, é necessário decidir como agir, decidir se você mantém a existência dessas contradições e, ainda assim, toma decisões racionais. Ou se você decide por solucionar essas contradições, revisando as informações existentes. Há muitas perspectivas e metodologias que nos permitem lidar com essas situações.
