No dia 29 de outubro de 2025, uma mudança polêmica entrou em vigor nas políticas de uso do ChatGPT: a OpenAI passou explicitar que que suas ferramentas não devem ser utilizadas como substitutas de profissionais licenciados em áreas como advocacia e medicina. A decisão reacende o debate sobre os limites da inteligência artificial e coloca em xeque a crescente tendência de terceirização de decisões técnicas a sistemas automatizados, levantando questões cruciais sobre segurança, responsabilidade e o papel do profissional qualificado em tempos de inovação acelerada.
O avanço da inteligência artificial tem proporcionado ganhos significativos em produtividade e acesso à informação, mas também tem gerado riscos consideráveis quando utilizada de forma indiscriminada. Imagine, por exemplo, um contrato elaborado por IA que contenha cláusulas inválidas, ilegais ou, em situações ainda mais preocupantes, baseadas em legislação inexistente, criada sem qualquer respaldo normativo. Da mesma forma, uma análise tributária equivocada feita por IA pode levar ao não recolhimento de tributos obrigatórios, resultando em autuações fiscais, multas e sérios danos financeiros para empresas e cidadãos. Esses exemplos ilustram como a ausência de validação técnica pode transformar uma ferramenta inovadora em um verdadeiro problema jurídico e patrimonial.
Infelizmente, o próprio Judiciário já enfrenta problemas decorrentes do uso equivocado da inteligência artificial, havendo registros de casos em que advogados e até Magistrados citam precedentes inexistentes em peças processuais e decisões judiciais. Há, inclusive, situações em que paira a suspeita de que sentenças inteiras tenham sido geradas por algoritmos, sem qualquer análise crítica ou contextualização adequada.
Esses equívocos evidenciam que, mesmo para profissionais habilitados, o uso da IA exige cautela, responsabilidade e constante supervisão técnica e a exigência de envolvimento de profissional licenciado, prevista nas novas políticas da OpenAI, é uma resposta necessária a esse cenário.
O papel do advogado, do médico, do contador e de outros profissionais regulamentados vai muito além da simples reprodução de informações: envolve interpretação, contextualização, análise crítica e responsabilidade ética. A IA, por mais avançada que seja, deve ser vista como ferramenta de apoio, jamais como substituta da atuação humana qualificada.
É importante ressaltar que, embora a restrição possa ser vista como um entrave à inovação, ela serve para preservar a segurança jurídica, a confiança nos serviços essenciais e a integridade das relações sociais. O uso indiscriminado da IA expõe indivíduos e empresas a riscos que, muitas vezes, só se manifestam quando já é tarde para remediar.
https://openai.com/pt-BR/policies/usage-policies/
Fernanda Machado Melendez
Sócia da área Cível do Juveniz Jr.Rolim Ferraz Advogados
