Quem tem medo do ChatGPT?

Henrique Caixeta Moreira

Nos últimos anos vem crescendo o número de aplicativos e sites que disponibilizam e usam de tecnologias de inteligência artificial para produzir textos, imagens, sons e até vídeos. No ambiente educacional essa crescente novidade surge como um arrepio na nuca de professores que se questionam entre outras coisas se os seus alunos utilizarão dessa tecnologia para fazer seus trabalhos. Mas devemos ter medo da inteligência artificial?

Para responder a essa questão, nós resolvemos conversar com ele, o temido ChatGPT. Inspirados no trabalho de Julianna Motter  que entrevistou o robô mais famoso do momento para entender como ele produz sentidos sobre gênero e sexualidade. Nós entrevistamos a inteligência artificial da OpenAI para entender melhor os riscos e potencialidades da sua utilização na educação.

Primeiro, vamos a uma definição do que é inteligência artificial. Segundo o ChatGPT “A inteligência artificial (IA) é um campo da ciência da computação que se concentra no desenvolvimento de sistemas capazes de realizar tarefas que normalmente exigiriam inteligência humana. Isso inclui coisas como reconhecimento de padrões, aprendizado, tomada de decisões e processamento de linguagem natural.” Portanto, para o nosso querido entrevistado, a inteligência artificial existe para realizar tarefas que exigiriam a inteligência humana, mas será que isso é verdade? 

As inteligências artificiais como o ChatGPT são ferramentas de processamento de dados, elas se “alimentam” de dados disponíveis (e às vezes de dados que não foram disponibilizados) na internet para desenvolver “outputs”, ou seja respostas para solicitações dos usuários. Isso significa que na prática, o ChatGPT é alimentado com textos diversos na internet e, a partir disso, desenvolve um modelo de escrita que é baseado nisso. Essa escrita deriva desses textos em formato, estilo e conteúdo. Porém, mais do que ser um grande agregador de textos, o ChatGPT é capaz de processar esses textos através de sua programação e mudar seu comportamento de output e de processamento de acordo com os dados recebidos. A grande diferença da inteligência artificial para as programações comuns é a capacidade de adaptação e melhoria que a IA tem.

Na área da educação a inteligência artificial por vezes surge entre os estudantes como uma ferramenta a ser utilizada, tanto na pesquisa quanto na produção dos trabalhos e entre os professores como uma grande incógnita. Relatos de professores que estão evitando trabalhos de casa, e pedindo escritas a mão para evitar o uso do ChatGPT crescem a cada dia. Ao mesmo tempo relatos de estudantes que entregam trabalhos escritos na íntegra pela inteligência artificial também crescem. Isso levanta a seguinte questão, é possível pensar um uso ético e pedagógico das IAs?

Para responder a essa pergunta, primeiramente precisamos nos atentar a um fato importante, as IAs existem, estão disponíveis e lutar contra sua existência é uma batalha perdida. Com ferramentas tão poderosas, práticas e disponíveis em boa parte de maneira gratuita, as inteligências artificiais são uma realidade com a qual teremos que lidar. Tendo isso em mente proponho aqui duas reflexões, do ponto de vista dos estudantes e dos professores.

Utilizar o ChatGPT para fazer um trabalho é um processo arriscado. Em primeiro lugar, como fonte de pesquisa o ChatGPT se mostra inconfiável. Por mais que suas respostas pareçam precisas e fundamentadas, ele comprovadamente inventa textos e citações para criar uma escrita fluida e coerente. O nosso entrevistado também sofre de uma das mais importantes “doenças” dos programas: o viés algorítmico. Em suas próprias palavras “Algoritmos de IA podem perpetuar preconceitos existentes, resultando em decisões discriminatórias.” No trabalho de Julianna Motter ela mostra como o ChatGPT perpetua noções binárias de gênero acerca de populações LGBTQIA+. Outro ponto perigoso é que todo texto colocado na interface de interação com o ChatGPT será usado por ele para desenvolvimento do seu algorítmo, isso significa que se você usa nosso entrevistado para correção textual seus textos podem circular por aí sem sua autorização. Por fim, as respostas do ChatGPT não são de propriedade intelectual de quem o perguntou, por isso, utilizar suas respostas em textos sem deixar claro sua origem pode configurar plágio.

Por outro lado, a inteligência artificial pode ser uma boa ferramenta pedagógica para o professor. Ensinar uma matéria nunca se restringe à própria matéria do ensino e é preciso que os estudantes saibam lidar com a tecnologia de maneira adequada e ética. Conversar com o ChatGPT é uma forma de entender melhor como funcionam os algoritmos, as inteligências artificiais, a internet e como encaramos determinados assuntos na rede. Contudo, é preciso ter alguns cuidados. Voltando ao nosso entrevistado, perguntamos a ele sobre os perigos da inteligência artificial na educação e sua resposta foi “Na área da educação, os perigos da inteligência artificial podem incluir:

Disparidade educacional: A implementação desigual de tecnologias de IA pode agravar as disparidades existentes no acesso à educação de qualidade.

Dependência excessiva de tecnologia: Uma dependência excessiva de ferramentas de IA na sala de aula pode diminuir a capacidade dos alunos de desenvolver habilidades críticas, como pensamento crítico e resolução de problemas.

Falta de personalização: Embora a IA possa ajudar na personalização do aprendizado, se não for implementada corretamente, pode resultar em uma abordagem de “tamanho único”, ignorando as necessidades individuais dos alunos.

Privacidade dos alunos: A coleta e análise de dados dos alunos por sistemas de IA pode levantar preocupações sobre privacidade e segurança dos dados.”

Ele conclui falando “Para mitigar esses riscos, é essencial adotar uma abordagem equilibrada, garantindo que a IA seja usada para complementar, e não substituir, a experiência educacional humana. Além disso, é importante garantir a transparência, a ética e o envolvimento dos educadores e comunidades no desenvolvimento e implementação de tecnologias de IA na educação.”

Ela

Entre dores e espinhos: Flores de ébano

Ginástica cerebral tem nome: desafio!