Professor da USP alerta para riscos e potencial da Inteligência Artificial na educação
A Inteligência Artificial deve promover na Educação a transformação necessária, avalia o professor universitário e pesquisador José Eduardo Santarem Segundo.
Paulista de Irapuru – cidade de 8 mil habitantes a 200 km de Bauru (SP) –, o professor universitário José Eduardo Santarem Segundo é atraído por tecnologias desde pequeno. Aos 15 anos, já estava em São José dos Campos (SP) fazendo cursos técnicos na área. Aos 20, em Marília (SP), começou a trabalhar e a fazer faculdade de Computação, e em 1997 passou em concurso para trabalhar como programador na Unesp (Universidade Estadual Paulista).
O ambiente universitário o colocou em contato com vários grupos de conhecimento. Parou no de Ciência da Informação, que se tornou sua área de pesquisas para o mestrado e o doutorado, que concluiria nos anos seguintes. Já trabalhava com Semântica – área da Ciência da Informação – quando veio para Ribeirão Preto, em 2011, atuar como professor das disciplinas de tecnologia no curso de Biblioteconomia da USP. Entre 2018 e 2019, foi para o Canadá fazer pós-doutorado e resolveu estudar a Inteligência Artificial (IA). Na volta, percebeu que o assunto ainda era uma novidade por aqui e fez dele seu objeto de estudo dos últimos seis anos.
Na entrevista a seguir, José Eduardo fala com autoridade sobre os impactos positivos e negativos da IA sobre a educação e defende o estabelecimento de filtros, regras e critérios éticos e de privacidade para seu uso, de modo que o mundo possa usufruir de suas vantagens, descartando seus maiores – e potencialmente catastróficos – perigos, como o de multiplicar e potencializar desinformação e discursos de ódio.
Explique de que forma a IA, sua principal fonte de pesquisa, está relacionada ao universo da Biblioteconomia.
A Ciência da Informação, onde está a Biblioteconomia, que é meu doutorado, é uma grande área. Então, eu sou da computação, mas formo bibliotecários. As pessoas não sabem o que é Biblioteconomia ou, então, associam o bibliotecário àquela pessoa que fica mandando a gente ficar quieto na biblioteca, e não é [só] isso. Formamos o bibliotecário da biblioteca, mas hoje a área oferece uma formação bastante ampla e diversa, em que os profissionais trabalham com dados, com informação em outros contextos. Temos bibliotecários trabalhando no Fórum, em hospitais, empresas e indústrias. Tem, inclusive, bibliotecário trabalhando para sistematizar a organização de informação do Magazine Luiza, cujo laboratório de Ribeirão Preto responde por toda a rede no Brasil inteiro. Atualmente, a menor parte de alunos do nosso curso vira bibliotecário. Grande parte vai trabalhar em outras áreas, organizando informação. Os e-commerce das empresas trabalham muito com tecnologia de dados, com informações diversas.
Em que aspectos pode dizer que a IA dialoga mais com a Educação?
Dialoga muito com a educação porque a [forma de se consumir] informação, de modo geral, se transformou. Se a gente pega a educação de 20 anos atrás, podemos falar, por exemplo, do YouTube, que tem muita coisa ruim, mas também é uma plataforma sensacional para aprendizado e desenvolvimento em áreas variadas. Então, acho que hoje em dia, os dados criaram possibilidades de informação muito acima do que a gente tinha 20, 30 anos atrás, quando só havia os modelos formais. Os modelos informais, apesar de criticados por alguns, também são muito bons para nos ajudar e nos ensinar a fazer muita coisa. E essa tecnologia da informação de qualidade permitiu, hoje em dia, a gente ampliar o acesso, fazer chegar a educação onde não se conseguia antes. É claro que no meu departamento, por exemplo, que é o de Educação, há a preocupação de que a gente não desvirtue o papel do professor presencial. Acho isso muito importante e nada substitui a sala de aula, o contato entre professor e aluno.
Em que pesem as questões econômica e de acessibilidade à internet, em que casos, efetivamente, a IA está ajudando ou vai ajudar no ensino?
Um exemplo interessante de como a IA pode ajudar é no acesso a conteúdos produzidos em inglês. Hoje em dia, alguns alunos chegam à faculdade até com dificuldade de entender o português e não têm o inglês! Então, meu aluno tem condição de pegar um texto em inglês, colocar em uma IA para ela traduzir bem para ele. Nisso, eu consigo um equilíbrio entre o aluno que não sabe inglês com o outro que sabe. Outro exemplo: eu consigo usar uma IA para gerar um texto com uma letra maior, com um contraste melhor e um acesso com bonequinho de libras [linguagem de sinais]. Então, até no ponto de vista de acessibilidade, consigo pensar na IA para ajudar pessoas portadoras de deficiências. São dois exemplos claros de possibilidades em que a IA pode nos ajudar. O problema é o uso indiscriminado.
Quais perigos encerra a popularização massiva do uso da IA em todos os ramos profissionais?
Daqui 20 anos, se as pessoas continuarem como estão hoje, elas não vão ter autonomia e conhecimento para resolver problemas e tarefas básicas do dia e vão engolir o que a IA fizer. Qualquer pessoa, mas imagine um aluno: se faço uma pergunta e ele não consegue responder sem perguntar para a IA, ele não sabe se o que a IA está respondendo está certo ou não. E, muitas vezes, ela responde uma besteira! Então, não sei aonde a gente vai se as pessoas ficarem dependentes para tudo, se a gente virar simplesmente retransmissor de IA. Lembrando que ela é baseada em um banco de dados. Não é capaz de descobrir novidades, não vai inventar coisas, porque só olha para trás. Em termos de criatividade, do que demanda sensibilidade, relacionamento, tudo o que o nosso cérebro faz melhor, não tem jeito dela nos superar, pelo menos por enquanto.
Qual é o custo pessoal que um estudante escravo da IA pode pagar?
Muito alto. A pessoa fala: ‘quero ser um profissional X’. A partir do momento em que ela começa a se escravizar com a IA, não faz mais nada. E isso não tem a ver só com a IA, mas com a internet do modo geral. Ela começa a ter dificuldades básicas, como ler um artigo, que é o que temos visto dentro da universidade. Quando fiz mestrado, o professor falava para lermos um artigo para discutirmos na aula. E todo mundo chegava motivado para a discussão, com o texto lido. Hoje, a gente pede para o aluno ler o texto e o que ele faz? Manda para a IA fazer um resumo. Ou, então, lê por partes. Essa geração nova não consegue ler um texto científico. São escravos da tecnologia, têm dificuldade com concentração. A IA só vem potencializar isso e forçar a pessoa a ser ainda menos crítica e analítica. Na hora em que se exigir um resolvedor de problemas, essa pessoa não saberá resolver. E é o que a universidade deveria formar: resolvedores de problemas. Penso que esse é um problema sério que teremos daqui para frente.
Se a IA só reproduz aquilo com que foi alimentada, nestes tempos de tantas fake news, corremos o risco dela nos informar errado baseada em todo o conteúdo disponível na internet?
Hoje, o que a gente acessa é a IA que tem como conteúdo a internet, onde circulam notícias falsas. O sofisma (que vem de Aristóteles) – que é convencer as pessoas de algo que não é verdade – é muito presente neste ambiente, assim como discursos de ódio, falsa causalidade e falsa dicotomia. Da mesma forma que a gente tem uma pesquisa científica que descobre a cura do câncer ou a vacina para determinada doença, também temos quem fala mal da vacina. E isso alimenta as IAs. Na hora em que a IA vai montar as respostas, dependendo da pergunta e do seu viés, ela vai direcionar um pouco mais para uma coisa ou para outra. Há um dado importante que aponta que, daqui cinco anos, todo conteúdo que alimenta as bases de IA terá de 60% a 70% do conteúdo formado por dado sintético, ou seja, dados gerados pela própria IA. Então, teremos tese de doutorado, dissertação de mestrado, entrevistas como esta, pauta de TV, completamente geradas por IA, com resultados falsos! E isso vai virar fonte para a IA se retroalimentar para gerar mais resultado. Estamos em um contexto em que isso está aumentando. Hoje, podemos dizer que ainda temos 70% de dados reais e 30% de dado sintéticos [na internet], mas a previsão é de que isso se inverta em cinco anos. Daqui a pouco, alguém vai perguntar uma coisa para IA e ela vai responder com informações que ela própria gerou a partir de dados falsos de que se alimentou – como aquela pessoa que mente tanto que passa a acredita na própria mentira.
Por tudo o que você está dizendo, deveríamos, então, desaconselhar todo o uso da IA que os mecanismos de buscas da internet nos oferece?
Creio que é muito mais a gente sistematizar, criar uso responsável, do que especificamente dizer para não usar. Hoje a gente usa chuveiro elétrico, carro com ar-condicionado, desloca-se de avião... Todas essas tecnologias vieram de revoluções – revolução elétrica, mecânica, industrial – que também geraram problemas no início, ao mesmo tempo que geravam vantagens. Todas essas revoluções pautaram a nossa vida. Então, não posso dizer para a gente não usar IA, porque daqui cinco anos estaremos fazendo coisas usando-a sem nem perceber. Não vamos mais conseguir viver sem ela, como não vivemos mais sem eletricidade. As microondas servem tanto para fazer comida como parar explodir coisas em outros lugares, igual à energia nuclear, que pode gerar tanto uma bomba atômica como energia útil de outro tipo. Então, a ‘IA de portas abertas’ pode trazer muita coisa boa também. A questão é usar de forma responsável, com um mínimo de normas e diretrizes, especialmente no trabalho e na educação. Acho que dá para usar e será muito bom, desde que a gente saiba como e tenha critérios para isso. Se vou escrever um texto, preciso deixar claro o que foi feito por IA e o que não foi. A pessoa que vai ler precisa saber o que foi gerado por uma pesquisa no laboratório e o que foi a IA que gerou. O governo brasileiro está preocupado com isso, fazemos parte de uma iniciativa chamada “IA para o bem de todos”, penso que essa e outras iniciativas desse tipo que pautarão o uso de IA no futuro.
Mas como separar o que é fonte real da fonte falsa?
Essa é uma questão que está rolando e que é de futuro. Por isso, falo que a área da Biblioteconomia talvez seja super importante daqui para frente, para construir técnicas e métodos para nos revelar a proveniência e a originalidade do dado que vai alimentar as IAs. Acho que, no futuro, vamos começar a usar a IA que garanta a fidelidade da fonte e essa grande IA que usamos agora, que abarca tudo e responde tudo, talvez não sirva mais. Acho que isso é um futuro a se construir. Eu testo coisas com IA no meu laboratório, com conteúdo, o tempo todo. Se perguntar algo que é falso, ela não consegue responder, porque está restrita a um ambiente controlado de dados. No meu laboratório, construo uma IA igual ao ChatGPT, usando o algoritmo do ChatGPT, só que a ‘portas fechadas’, ou seja, em um ambiente controlado, onde EU ofereço as fontes. Coloco lá minha tese de doutorado, minha dissertação de mestrado, minhas entrevistas, meus artigos, tudo o que é parte da minha pesquisa, dos meus orientandos, etc. A IA vai responder como se fosse eu que estivesse respondendo e exatamente o que está escrito nos textos. Só vai concatenar, juntar textos separados e tal. Tecnologicamente, o papel da IA não é julgar se aquilo é verdade ou não. O papel dela é ver se, semanticamente, tem relação dentro de uma função matemática.
E quando a gente alimenta uma IA com dados nossos também corremos riscos, certo?
Quando a gente coloca nossos dados para a IA fazer uma análise, as pessoas não têm ideia, mas esse dado está entrando ali para ser consumido e vira resposta para outra pessoa. Um usuário pagante de IA pode selecionar a opção de “não reutilização dos dados”, mas quem garante que a ferramenta não vai mesmo reutilizar? Conhecemos os reais interesses? Não conhecemos os algoritmos. Há uns sete anos, o Facebook entregou os dados das pessoas nos Estados Unidos para a Cambridge Analytica fazer análise e isso virou a eleição nos Estados Unidos. A questão vai além da ética e do uso. Tem também a privacidade. Quanto estamos entregando da nossa vida ali? Já entregamos para a Mastercard, Visa, Google, Waze, mas quanto do nosso dia a dia entregamos para uma IA? O uso indiscriminado de tudo é ruim. E de IA é mais ainda porque é uma tecnologia capaz de potencializar coisas boas e coisas ruins, porque o algoritmo é potencializador e indutor de padrões. Portanto, tem que ter esse entendimento e saber separar o joio do trigo.
