A Inteligência Artificial (IA) é uma tecnologia em constante evolução que tem o potencial de transformar diversas áreas e melhorar a vida das pessoas. No entanto, é importante abordar os desafios e riscos associados à IA, como a privacidade e a segurança.

Como forma de estabelecer um marco regulatório que busque equilibrar a inovação tecnológica com a proteção dos direitos fundamentais, os senadores aprovaram projeto de lei que cria tanto limites quanto permissões no uso de IA no Brasil.

O texto aprovado em Plenário é um substitutivo do senador Eduardo Gomes (PL-TO) que tem como base o PL 2.338/2023, projeto de lei apresentado por Rodrigo Pacheco, presidente do Senado. Entre os dispositivos aprovados está um que prevê a proteção dos direitos dos criadores de conteúdo e obras artísticas.

O presidente da ABIPTI, Diego Menezes, lembrou que IA ajuda a melhorar a eficiência em diversas áreas. “A IA pode ser utilizada para diagnosticar doenças, desenvolver tratamentos personalizados e melhorar a eficiência dos sistemas de saúde, por exemplo”, frisou.

O texto aprovado divide os sistemas de Inteligência Artificial (IA) em níveis de risco, oferecendo uma regulamentação distinta para os de alto risco, a depender do impacto do sistema na vida humana e nos direitos fundamentais.

Na avaliação do presidente da ABIPTI a IA pode ter impactos significativos na vida humana, tanto positivos quanto negativos. “A inteligência artificial pode levantar questões éticas, especialmente quando se trata de decisões que afetam a vida e a segurança das pessoas”, lembrou. Ele ressaltou que a IA impulsiona a inovação e o progresso em áreas como saúde, educação e indústria.

O texto também proíbe o desenvolvimento de aplicações de IA que apresentem “risco excessivo”, e uma das principais alterações em relação às versões iniciais, é o caráter facultativo da avaliação preliminar dos sistemas de IA.

O objetivo dessa avaliação preliminar é determinar o grau de risco do sistema, que dependerá de suas finalidades e do seu impacto. Ela deve ser realizada pelos próprios agentes — isto é, os desenvolvedores, fornecedores ou aplicadores do sistema, conforme o caso —, antes da disponibilização do sistema no mercado.

De acordo com o substitutivo, a avaliação preliminar só será obrigatória para os sistemas generativos e de propósito geral. Para os demais casos, ela será facultativa, mas será considerada uma medida de boa prática, podendo resultar em benefícios para os agentes (como prioridade em avaliações de conformidade).

Para Diego Menezes, a IA é uma tecnologia complexa e multifacetada e que precisa de regulamentação quanto aos limites e permissões da sua utilização sem causar impactos irreversíveis na vida humana. “É importante abordar os desafios e riscos associados à IA e trabalhar para garantir que ela seja utilizada de forma justa, equitativa e benéfica para todos”, concluiu.