A popularização de ferramentas de inteligência artificial generativa ampliou o debate sobre os impactos dessa tecnologia no cotidiano. Para a influenciadora e especialista em ética digital Catharina Doria, o uso crescente dessas plataformas exige atenção redobrada, especialmente diante da tendência de usuários confiarem excessivamente nas respostas geradas.
Fundadora da rede The AI Survival Club, Doria será uma das participantes da programação de inteligência artificial do São Paulo Innovation Week, que acontece no Estádio do Pacaembu e na Fundação Armando Alvares Penteado. O evento reúne especialistas para discutir inovação, tecnologia e seus efeitos na sociedade.
Com experiência no mercado de tecnologia e passagem por empresas do Vale do Silício, Doria decidiu mudar o foco da carreira para atuar na divulgação de conteúdos sobre ética na IA. Segundo ela, a decisão surgiu ao perceber a distância entre o nível técnico das discussões corporativas e o entendimento do público em geral sobre o funcionamento dessas ferramentas.
“Eu quero mostrar a IA de uma maneira mais humana, responsável e crítica. IA é um tema muito falado por influenciadores e experts, mas, no final das contas, são conteúdos falando da adoção da tecnologia sem pensar. (…) Tento trazer o contraponto da IA de uma maneira didática, divertida e aberta às pessoas”, afirma.
Para a especialista, apesar da ampla adoção, há riscos associados ao uso indiscriminado da tecnologia, como dependência cognitiva, padronização do pensamento e reprodução de vieses. Ela também chama atenção para a possibilidade de erros nas respostas geradas, muitas vezes aceitas como corretas pelos usuários. “O Chat GPT não é Deus, não está correto o tempo todo. Ele só é muito bom em fingir que está correto. Temos de tomar muito cuidado com qual ajuda pedimos a essa ferramenta e tentar entender mais as suas limitações”, diz.
A discussão sobre produtividade também é questionada por Doria. Embora a IA seja frequentemente associada ao aumento de eficiência, ela aponta que estudos recentes não confirmam essa percepção de forma consistente. “As pessoas falam da produtividade trazida pela IA, mas novos estudos estão mostrando que não é bem assim. A IA não necessariamente está ajudando as pessoas a serem mais rápidas e produtivas. Tem bastante ‘hype’ nessa conversa, mas os dados não estão acompanhando essa mística sobre a IA”, afirma.
Segundo a especialista, mais relevante do que discutir se o uso da IA é ético ou não em termos de produtividade é avaliar se, na prática, ela cumpre o que promete. Para ela, o debate precisa ser aprofundado com base em evidências, e não apenas em expectativas.
Outro ponto central da análise de Doria é o funcionamento dessas ferramentas. Ela ressalta que sistemas como ChatGPT e Claude não possuem compreensão real do conteúdo que produzem, operando a partir de probabilidades matemáticas.
“Essas tecnologias funcionam fazendo previsões. Existem frases que a gente já ouviu várias vezes e o seu cérebro sabe como ela vai terminar antes de eu acabar de falar. (…) O ChatGPT está fazendo a mesma coisa. Ele não sabe, ele não é inteligente. Ele sabe que, depois de uma palavra, a chance probabilística e matemática é de que venha outra palavra”, explica.
Para Doria, o principal risco está na percepção equivocada de que essas ferramentas são fontes confiáveis de conhecimento absoluto. “As pessoas estão vendo o Claude ou o ChatGPT como bíblias, como se fossem seres que vão nos dar todas as respostas corretas e que podemos aprender com eles”, afirma.
Diante desse cenário, a especialista defende uma abordagem mais crítica e informada no uso da inteligência artificial. Para ela, compreender as limitações da tecnologia é fundamental para evitar erros, reduzir riscos e garantir que seu uso seja feito de forma consciente e responsável.
