As sugestões de aprimoramento ao marco legal é mais um passo da FecomercioSP em busca de um ambiente adequado à tecnologia que tem sido essencial às empresas
(Arte: TUTU)

A Federação do Comércio de Bens, Serviços e Turismo do Estado de São Paulo (FecomercioSP) encaminhou ofício à comissão de juristas do Senado que trata dos projetos sobre Inteligência Artificial (IA), com contribuições para o aperfeiçoamento do Marco Regulatório da IA, atualmente em debate no Legislativo. 

"Em síntese, o posicionamento da Federação é no sentido de que haja incentivo à inovação e à pesquisa científica; que existam oportunidades de desenvolvimento para pequenas empresas, mediante a criação de ambientes controlados de inovação (sandboxes e hubs regulatórios); e que sejam estabelecidos parâmetros éticos para o desenvolvimento seguro e confiável da IA em conformidade com os pilares da Estratégia Brasileira de Inteligência Artificial (Ebia). Além disso, pelo caráter dinâmico e pelas especificidades das diversas aplicações dos sistemas de IA, que cada setor promova a regulação necessária para ponderação de riscos", destaca o consultor em Proteção de Dados da FecomercioSP, Rony Vainzof.

No entendimento da Entidade, o investimento em IA precisa ser estimulado por meio de Parcerias Público-Privadas (PPPs) que canalizem recursos ao desenvolvimento da tecnologia. Neste sentido, a Federação sugere que se utilizem fundos públicos, tais como o Fundo de Interesses Difusos e Coletivos, além do Fundo Nacional de Desenvolvimento Científico e Tecnológico (FNDCT). 

Veja também
Marco Legal de Garantias: passo importante para quem procura crédito
Código de Defesa do Empreendedor: FecomercioSP busca mais eficiência para o ambiente econômico no Estado
Entenda a MP que determina regras trabalhistas alternativas para situações de calamidade pública
Marco Legal das Garantias: FecomercioSP defende que projeto que facilita acesso a crédito tramite em regime de urgência

Combate aos riscos 

Em relação aos riscos inerentes à IA, a FecomercioSP entende que estes são desafios que precisam ser abordados por iniciativas de regulação eficazes e equilibradas. Desta forma, regulações verticais marcadas por proibições de aplicações específicas ou abordagens de “comando e controle” não são recomendadas, sob pena de não terem aderência social, bem como serem economicamente contraproducentes e minarem inúmeros benefícios futuros. 

É importante que sejam estabelecidas condutas claras que não venham a delegar ao Poder Judiciário a especificação de obrigações por interpretações próprias e fragmentadas destes princípios.  

A Federação encaminhou sugestões sobre padrões mínimos de governança, capazes de orientar os agentes envolvidos no desenvolvimento e na disponibilização de sistemas de IA, de alto ou baixo risco inerente. Tais sugestões se baseiam em regulações a serem padronizadas na Europa e que não instituem uma intervenção excessiva pelo Estado. Também estão em conformidade com a Lei Anticorrupção e com a Lei Geral de Proteção de Dados (LGPD).  

A FecomercioSP sinaliza que a dinâmica de evolução constante da tecnologia, a inovação e a diversidade de contextos para cada setor indicam a autorregulação como caminho mais adequado do que a mera imposição externa de normas estatais. 

Tendo em vista os possíveis interesses convergentes entre Estado e setor privado, bem como o relativo consenso internacional sobre um regramento de procedimentos, o melhor caminho a ser seguido é a adoção de soluções de corregulação ou “autorregulação regulada”, nas quais o Estado induz a formação e o reconhecimento de instituições de autorregulação de desenvolvimentos responsável e ético da IA, bem como instituições de certificação que possam gerar confiança para o uso e o crescimento saudável da tecnologia no País.  

Responsabilidade civil 

A definição das nuances de responsabilidade civil é fundamental para garantir a segurança jurídica e estimular o crescimento econômico do setor. A Federação sinaliza que o excesso de responsabilização, tanto para desenvolvedores quanto para empresas que utilizem essas tecnologias no dia a dia, pode limitar a confiança no mercado e reduzir as possibilidades de investimento futuro em IA. É necessário que os riscos sejam escalonados e que a responsabilidade envolvida seja compatível com o nível dos riscos em questão. Com isso, o regime geral de responsabilidade civil subjetiva (aliado à autorregulação regulada) é o que melhor se adapta à realidade das aplicações de IA, conforme sugere a Entidade. 

Governança e fiscalização 

A legislação da IA deve incorporar medidas mínimas visando à autorregulação setorial com reconhecimento pelo Poder Público, tais como: 

- análises de impactos e mapeamento dos riscos associados aos usos intencionais (ou não) do sistema, contendo a indicação de medidas mitigatórias; 

- gestão dos dados utilizados para treinamento, teste e validação do sistema, contendo medidas para controle e prevenção de vieses discriminatórios; 

- documentação sobre os modos de funcionamento do sistema e das decisões na sua construção, na sua implementação e no seu uso; 

- registro automático dos eventos ocorridos durante a operação do sistema; 

- transparência na utilização dos sistemas voltados à interação com pessoas físicas; 

- transparência na interpretação das decisões e nos resultados automatizados;

- testes de segurança para assegurar níveis adequados de precisão, cobertura, acurácia, robustez e cibersegurança. 

A FecomercioSP considera que estas medidas de governança deveriam ser obrigatórias para sistemas de IA de alto risco. Levando-se em conta que existam diferenças entre os níveis de risco atrelados a cada tipo de aplicação, o controle dos sistemas de IA que não constam no grupo de alto risco poderia ser feito com base nas próprias boas práticas observadas no mercado. Neste caso, uma sugestão seria a criação de selos que atestem a qualidade dos sistemas de IA, gerando uma espécie da garantia de confiabilidade aos ofertantes. 

Além dos parâmetros de governança, destaca-se a importância dos programas de certificação neste contexto, visto que garantem a eficiência das medidas mitigatórias adotadas, impulsionando o monitoramento e o aprimoramento contínuo dos processos internos que envolvam os sistemas desta tecnologia. 

IA ganha força na economia 

Nos setores de comércio e serviços, há um grande número de aplicações possíveis de IA, especialmente no varejo e no atacado. Em que pese a variabilidade dos sistemas, grande parte se volta à análise preditiva e pode ser utilizada em atividades como gerenciamento de mercadorias e reabastecimento de estoques, atendimento ao cliente, logística, marketing, entre outros. 

Essas tecnologias têm se tornado essenciais para a sobrevivência e a competitividade dos negócios dos setores de comércio e serviços, trazendo mais eficiência, com redução de custos e melhoria de qualidade no atendimento dos consumidores finais. 

As sugestões de aprimoramento ao marco legal é mais um passo da FecomercioSP em busca de um ambiente adequado à tecnologia que tem sido essencial às empresas. Em outubro de 2021, a Federação promoveu o seminário Inteligência Artificial em Perspectiva: Competitividade e Desenvolvimento, em que se discutiram os impactos da IA na economia, nas atividades do setor público e na sociedade, além das oportunidades de inovação proporcionadas pela tecnologia.