Algoritmo não é esconderijo para a responsabilidade pública, diz autor

A inteligência artificial é, atualmente, tema de discussões no Congresso Nacional e na sociedade civil. O debate vai desde a criação de uma marco legal para o uso da tecnologia até os impactos sociais e econômicos dessas ferramentas. Entre essas vozes, está Ailton Ferreira Cavalcante, Secretário Executivo de Finanças do DF e autor de Entre o Compasso e o Algoritmo: Inteligência, Consciência e Governança na Era da Inteligência Artificial.

Para o especialista, a tecnologia pode apoiar decisões, mas não ocupar o lugar de quem responde por elas.

“O algoritmo não pode servir de esconderijo para a responsabilidade pública”, afirma. Segundo ele, o uso de IA não elimina os deveres legais dos gestores nem a eventual responsabilidade dos fornecedores, e todo sistema deve permitir supervisão, rastreabilidade e revisão das decisões.

Regras para decisões que afetam direitos

Projeto de Lei aprovado pelo Senado Federal, e atualmente em tramitação na Câmara dos Deputados, organiza a regulação do uso de IA por grau de risco e prevê regras mais rígidas para usos considerados de alto risco. O projeto também estabelece direitos, vedações e um sistema de governança coordenado pela Agência Nacional de Proteção de Dados, a ANPD.

Entre no canal de WhatsApp do Metrópoles DF

Ailton concorda com o uso da IA em setores públicos. Para ele, a tecnologia “pode potencializar decisões em todas as áreas, entretanto, exige cautela”. Segundo o secretário, as máquinas também podem apresentar informações falsas ou argumentos convincentes, mas inconsistentes, por isso, seus resultados precisam ser verificados e interpretados criticamente.

“Podemos delegar tarefas e análises aos algoritmos, mas não a responsabilidade pelas escolhas que envolvem direitos, valores e consequências humanas”, reforça.

Transparência e governança cognitiva

Para o autor, transparência também é fundamental e exige conhecer a finalidade dos sistemas, a origem dos dados, os critérios usados e os responsáveis pelas decisões.

No livro, ele propõe ir além da governança algorítmica, que fiscaliza a tecnologia, e chegar ao que chama de governança cognitiva: entender também como as pessoas interpretam e aplicam as recomendações das máquinas.

Questionado se a Secretaria de Economia do DF já usa IA, ele afirmou que a tecnologia tem “enorme potencial” para a gestão fiscal e orçamentária, principalmente,na substituição de tarefas repetitivas. O desafio do servidor público, segundo ele, é a capacitação, para que o profissional entenda os limites da tecnologia e saiba quando questionar suas recomendações.
“Inteligência não é apenas a capacidade de produzir respostas, mas também de questioná-las”, resume o autor.