O texto preliminar apresentado pela Comissão Temporária Interna de Inteligência Artificial (CTIA) trouxe avanços em comparação aos seus antecessores, mas ainda é preciso aprofundar o debate para que os benefícios do uso da tecnologia não sejam cerceados por restrições excessivas. A avaliação é da Federação do Comércio de Bens, Serviços e Turismo do Estado de São Paulo (FecomercioSP), que apoia uma manifestação do Fórum LGPD — em parceria com, pelo menos, outras 24 entidades empresariais — para a ampliação do prazo de consulta pública, de forma que a proposta e o debate possam ser devidamente amadurecidos. 

A preocupação dos entes empresariais com o aprofundamento da discussão e o envolvimento multissetorial sobre o modelo regulatório proposto, bem como como acerca dos novos dispositivos inclusos ou modificados no texto, se explica por que a Comissão do Senado indicou que espera votar o PL ainda neste mês. Assim, tramitaria no Plenário e, posteriormente, na Câmara para que o Marco Regulatório Brasileiro pudesse ser sancionado durante a Cúpula do G20, em novembro. 

A FecomercioSP enviou sugestões de melhorias ao novo texto do PL 2.338/23, por meio de ofício encaminhado à Comissão Temporária Interna sobre IA do Senado (CTIA), na última sexta-feira (3). A Federação reconhece que o relatório preliminar trouxe melhorias, como maior relevância para a autorregulação, incentivos concretos à inovação e reconhecimento da importância dos órgãos reguladores setoriais, mediante a criação do Sistema Nacional de Regulação e Governança de IA (SIA). Contudo, avalia que há pontos que precisam ser mais bem analisados. 

Um deles é justamente a proposta de criação de novos direitos que afetariam todos os sistemas com alguma interface com a IA, inclusive a governança. Na prática, os sistemas dessa tecnologia passariam a ser avaliados pelo Poder Judiciário, o que levaria, além de insegurança jurídica, a um provável aumento das ações judiciais. A Entidade lembra que o ordenamento jurídico nacional já prevê direitos aplicáveis de IA em outras normas, como a Lei Geral de Proteção de Dados (LGPD), na qual, inclusive, grande parte dos “novos direitos” citados no texto já está prevista. 

Outro ponto que a FecomercioSP entende ser negativo é a responsabilização objetiva, enquanto regra, sobre os sistemas de IA de alto risco ou excessivo — e a presunção de culpa para os demais sistemas. A Federação já havia se posicionado contra a medida por entender que o excesso de responsabilização, para desenvolvedores e empresas, poderia limitar a confiança do mercado e reduzir prováveis investimentos em IA. Além disso, há o risco de transferência de custos aos consumidores finais sem garantia de que as ameaças às pessoas físicas sejam minimizadas na prática.

Desburocratização e modernização

Mais uma vez, a FecomercioSP reforça que é preciso levar em consideração que o Código Civil e o Código de Defesa do Consumidor já contemplam a responsabilidade objetiva, ao passo que outras normativas apresentam regimes de responsabilização específicos para o uso de novas tecnologias. Dessa forma, a Entidade sugere que o artigo seja alterado, removendo-se a responsabilidade objetiva como regra para sistemas de alto risco e a culpa presumida como regra para sistemas que não se enquadrem em nenhuma categoria de risco. 

O texto preliminar do PL também indica a criação de novas sanções administrativas para empresas que violarem as normas propostas por sistemas que tratem dados pessoais. O problema é que estas são muito similares às já previstas na LGPD, o que pode se tornar um perigo para os negócios, que correm o risco de serem duplamente penalizados. A FecomercioSP sugere uma mudança na redação do artigo para que, no mínimo quanto à LGPD, as sanções administrativas de uma mesma infração não sejam cumulativas.

Outra preocupação da Entidade são as medidas de governança excessivas previstas no relatório, como avaliação preliminar, medidas de governança para sistemas de IA de alto risco e avaliação de impacto algorítmico com inúmeras prescrições detalhadas na própria legislação. É preciso lembrar que já existem obrigações que mitigam os riscos de acordo com o uso da tecnologia, como a própria LGPD, o Código de Defesa do Consumidor (CDC), o Banco Central (Bacen) e a Agência Nacional de Vigilância Sanitária (Anvisa).  

Por fim, a Entidade sugere, ainda, maior protagonismo das agências setoriais na definição do enquadramento dos sistemas de IA na categoria de alto risco, bem como no atendimento às medidas de governança previstas na legislação. Ao lado da FecomercioSP, Abrap, Anup, Anbi, Abinee, Icolab, IBDEE, AbraCloud, AOPD, MID, Lisbrasil, Apeti e Abes, dentre outras, assinam a manifestação do Fórum Empresarial LGPD.

Clique aqui e acompanhe todas as iniciativas da FecomercioSP em Inteligência Artificial.