O Senado agora tem uma norma específica que regulamenta o uso de inteligência artificial (IA) na Casa. A Diretoria-Geral (Dger) criou o Programa Apoio em Inteligência Artificial do Senado Federal (ApoIA), responsável pelas iniciativas relacionadas ao tema. A norma é resultado de um grupo de trabalho criado em 2024 com a missão de desenvolver uma estratégia corporativa para o uso de IA no Senado.

Segundo o diretor-executivo de Gestão da Casa, Marcio Tancredi, a nova norma representa um marco de governança tecnológica.

— Suas diretrizes asseguram que a inovação ocorra de forma ética, segura e transparente, reforçando a centralidade da pessoa humana e o respeito aos direitos fundamentais. Esse arcabouço normativo também cria bases sólidas para a inovação sustentável, evitando vieses discriminatórios e assegurando a rastreabilidade das decisões automatizadas — afirma.

O ApoIA é subordinado ao Comitê de Governança de Tecnologia da Informação (CGTI). As áreas de negócio e equipes de TI do Senado devem colaborar com o programa, identificando oportunidades de aplicação de IA que estejam alinhadas com a estratégia da instituição.

— Com a institucionalização do Programa ApoIA, o Senado se coloca na vanguarda da transformação digital do setor público, conciliando inovação tecnológica com responsabilidade social e proteção de direitos, e oferecendo uma referência de governança na administração direta federal — completa Tancredi.

O modelo operacional do programa ainda deve ser definido pela Dger. Até lá, as atividades ficam suportadas pela Diretoria-Executiva de Gestão (Direg). 

Supervisão humana

Além do ApoIA, a Dger publicou em 8 de agosto um ato determinando que toda decisão tomada por sistemas de inteligência artificial seja revisada e confirmada por uma pessoa. Assim, o usuário passa a ser o responsável pelos resultados gerados ao usar essas plataformas.

A norma também recomenda que os gestores registrem quando usarem resultados de IA nos processos de negócios, deixando claro onde a IA foi usada e como os resultados foram aplicados.

João Lima, do Serviço de Soluções Para Informação Legislativa e Jurídica (Seleju), reforça que a intenção da Casa é usar a inteligência artificial como ferramenta de apoio, e não como substituta das decisões humanas.

— A IA é vista como um recurso para tornar o trabalho dos servidores mais eficiente, produtivo e assertivo, mantendo sempre o papel decisivo e a supervisão final nas mãos das pessoas — reitera.

O diretor da Secretaria de Tecnologia da Informação (Prodasen), Gleison Carneiro, complementa:

— A IA é uma nova ferramenta, tal qual foi o Word [software para processamento de textos] há um tempo. Seu uso traz diversos ganhos, mas não dispensa a conferência e validação humanas. Afinal, a tecnologia está aí para nos auxiliar, não para nos substituir — reforça.

LGPD

Segundo o ato, o desenvolvimento e uso de sistemas de inteligência artificial devem envoler identificação, avaliação, tratamento e monitoramento contínuo dos riscos associados à segurança da informação. Gleison recomenda que os usuários não insiram documentos ou informações sigilosas ou que possuam direitos autorais em plataformas contratadas ou de uso livre.

— Uma vez copiados arquivos sigilosos, por exemplo, eles podem ser usados pelo modelo para ser treinado também. Assim, informações restritas acabam sendo divulgadas — alerta Gleison.

O ato determina também que, ao usar plataformas externas de IA, os usuários devem priorizar dados anonimizados ou sintéticos. O uso de dados pessoais, sigilosos ou pessoais sensíveis deve ser submetido à aprovação formal do CGTI.

Mais orientações

De acordo com João Lima, o usuário está liberado para usar CoPilot, ChatGPT, Gemini, Claude e outras plataformas de IA de uso livre, desde que respeite as diretrizes estabelecidas:

• Não inserir dados pessoais, sigilosos ou protegidos por restrição legal
• Usar, preferencialmente, dados públicos e abertos
• Agir com responsabilidade técnica e ética
• Seguir as normas internas sobre segurança e privacidade
• Revisar e validar os resultados fornecidos por sistemas de IA antes de utilizá-los em processos institucionais
• Notificar ao seu gestor qualquer anomalia ou evento adverso durante o uso da ferramenta

— Essas ferramentas de uso livre podem ser utilizadas com responsabilidade individual, lembrando que os usuários serão tecnicamente responsáveis pelos resultados produzidos por elas — reforça João.

Agência Senado (Reprodução autorizada mediante citação da Agência Senado)

Fonte: Agência Senado