Pesquisadores da USP São Carlos desenvolvem modelo de IA segura e ganham prêmio internacional

Um artigo produzido por pesquisadores do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, acaba de conquistar o prêmio de melhor trabalho apresentado durante o Latin American Symposium on Digital Government (LASDiGov), evento internacional da área de computação.  O grupo de cientistas desenvolveu uma solução inovadora usando inteligência artificial (IA) para o setor público, capaz de preservar a privacidade de dados sensíveis presentes em processos jurídicos, por exemplo, e operar com eficiência mesmo em computadores comuns.

O trabalho premiado, intitulado LLM4Gov: A Privacy-Preserving Approach to Teacher-Student Fine-Tuning of Distilled LLMs for the Public Sector (ou, em tradução livre, LLM4Gov: Uma Abordagem de Preservação de Privacidade no Ajuste Fino de Grandes Modelos de Linguagem Destilados para o Setor Público no Contexto Professor-Aluno), apresenta o LLM4Gov, um grande modelo de língua (ou, com a sigla em inglês, LLM) treinado para garantir a segurança e anonimidade de dados confidenciais presentes em documentos judiciais, que dessa maneira, não precisam sair do ambiente controlado pelo próprio órgão público que os detém.

A solução utiliza uma técnica conhecida como teacher-student (professor-estudante). Nela, um modelo de linguagem maior e mais complexo, chamado de professor, treina um segundo modelo, o aluno, que por sua vez é menor, com menos parâmetros, porém mais eficiente e que necessita de menos recursos para funcionar. Combinado ao método de destilação, que possibilita remover informação menos relevante de um modelo para economizar recursos, o LLM aluno treinado reduz drasticamente seu tamanho e consumo de recursos computacionais. O resultado é um modelo de IA poderoso, porém compacto e de código aberto, que pode ser executado localmente em máquinas com capacidade limitada, eliminando a necessidade de enviar informações para servidores externos ou infraestruturas proprietárias, que podem ser custosas e, em sua maioria, localizadas no exterior, garantindo a seguridade e soberania dos dados brasileiros.

O desenvolvimento da ferramenta LLM4Gov se deu dentro de um projeto, financiado pela Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), denominado Agents4Gov, cuja missão é desenvolver soluções de IA especificamente voltadas para órgãos públicos brasileiros e organizações que lidam com informações sensíveis. O foco principal é criar e adaptar modelos que possam ser executados localmente ou sob controle interno rigoroso, garantindo privacidade, segurança de dados e conformidade com legislações rigorosas como a Lei Geral de Proteção de Dados (LGPD) brasileira e o Regulamento Geral sobre a Proteção de Dados (GDPR) europeu.

O trabalho é assinado pelos pesquisadores Ricardo Marcacini, Jorge Carlos Valverde-Rebaza, Brucce Neves Santos e Solange Rezende, todos do ICMC, e por  Marcelo A. S. Turine (Faculdade de Computação da Universidade Federal de Mato Grosso do Sul – UFMS) e Silvio Levcovitz (Procuradoria-Geral da Fazenda Nacional – PGFN).

O projeto Agents4Gov já estabeleceu parcerias importantes, trabalhando em soluções com a PGFN e a Secretaria da Fazenda do Estado do Rio Grande do Sul (SEFAZ-RS). Mais recentemente, iniciou um trabalho em conjunto com a Universidade Federal de Mato Grosso do Sul (UFMS) e a Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES), no âmbito do Observatório da Agenda Nacional de Formação de Pessoal de Nível Superior.

O prêmio conquistado consagra não apenas a excelência técnica do artigo apresentado, mas também a relevância prática do LLM4Gov. Ele representa um avanço significativo na busca por tecnologias de IA de alto desempenho que respeitem a soberania e a privacidade dos dados públicos, aumentando a agilidade de processos importantes para a população de maneira segura.

O artigo premiado pode ser acessado na plataforma SBC: https://sol.sbc.org.br/index.php/wcge/article/view/36338.