É fundamental estabelecer a distinção entre o Blueprint for an AI Bill of Rights e a Ordem Executiva sobre IA. O Blueprint, publicado em 2022, configura-se como um documento orientador que estabelece princípios e valores fundamentais para o desenvolvimento ético da IA, sem força normativa vinculante. Por outro lado, a Ordem Executiva de outubro de 2023 representa um instrumento legal que determina ações específicas e obrigatórias para agências federais, estabelecendo prazos, responsabilidades e mecanismos concretos de implementação. Esta evolução demonstra a transição da política americana de IA de um framework conceitual para um conjunto de obrigações executivas específicas.

A governança da IA emergiu como prioridade global, considerando o impacto crescente dos sistemas automatizados na sociedade. O “Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People” estabelece cinco princípios fundamentais para orientar o desenvolvimento tecnológico responsável. Este marco regulatório reflete a necessidade de alinhar inovações tecnológicas com valores democráticos, preservando direitos civis, privacidade e equidade no desenvolvimento e implementação desses sistemas.

O Blueprint fundamenta-se em cinco princípios essenciais para o desenvolvimento ético dos sistemas automatizados. O primeiro enfatiza a segurança e eficácia, exigindo testes rigorosos, monitoramento contínuo e mitigação de riscos. Sistemas automatizados devem passar por análises técnicas e éticas antes da implementação, mantendo supervisão constante para prevenir falhas potencialmente danosas. O segundo princípio aborda a discriminação algorítmica, reconhecendo que sistemas treinados com dados históricos podem perpetuar preconceitos sociais, econômicos e raciais preexistentes.

LEIA MAIS: Aplicações de inteligência artificial potencializam o ESG

A implementação desses princípios requer mecanismos específicos para identificar, mitigar e corrigir vieses durante a operação dos sistemas, assegurando que a IA não amplifique desigualdades existentes ou crie novas formas de exclusão. Este aspecto é particularmente relevante considerando o impacto crescente da IA em decisões críticas que afetam indivíduos e comunidades.

A privacidade de dados constitui o terceiro pilar do Blueprint, estabelecendo diretrizes para a coleta, armazenamento e utilização de informações pessoais em uma sociedade digitalizada. O documento defende o controle efetivo dos indivíduos sobre seus dados, com proteções integradas aos sistemas automatizados. A privacidade é tratada como direito fundamental, exigindo implementação de salvaguardas técnicas e procedimentais desde a concepção dos sistemas.

O quarto princípio enfatiza transparência e explicabilidade, estabelecendo o direito dos cidadãos de conhecerem quando interagem com sistemas automatizados e compreenderem os processos decisórios subjacentes. A transparência deve ser funcional e acessível, permitindo entendimento independentemente do nível técnico do usuário. O quinto princípio assegura alternativa humana, consideração e recurso, garantindo opções de revisão humana para decisões automatizadas significativas.

O comunicado oficial da Casa Branca, de julho de 2024, demonstra avanços significativos na implementação prática dessas diretrizes. Destacam-se a criação do AISI – Instituto de Segurança de IA, os frameworks do NIST para gestão de riscos em IA generativa, e o programa AI Talent Surge, que incorporou mais de 200 especialistas ao serviço público. Internacionalmente, os EUA estabeleceram uma rede global de Institutos de Segurança de IA e conquistaram apoio substancial para a Declaração Política sobre o Uso Militar Responsável da IA.

Em contraste com o AI Act europeu, que estabelece regulamentações vinculantes para seus Estados-membros, a abordagem americana evoluiu de diretrizes não vinculantes, como o Blueprint de 2022, para um marco regulatório mais robusto com a Ordem Executiva de outubro de 2023. Esta evolução culminou em ações concretas anunciadas em julho de 2024, demonstrando uma transformação significativa na regulamentação americana da IA, mantendo características próprias distintas do modelo europeu.

VEJA TAMBÉM: Perspectivas para o ESG em 2025

A análise comparativa entre as principais potências globais em IA revela abordagens regulatórias fundamentalmente distintas. A UE, através do AI Act, estabeleceu um framework legal abrangente e vinculante, com ênfase na proteção de direitos fundamentais e regulamentação preventiva. A China, por sua vez, implementou um modelo de controle estatal centralizado, priorizando o desenvolvimento tecnológico acelerado e a liderança em áreas estratégicas. Os Estados Unidos, em contraste, desenvolveram uma abordagem híbrida que combina diretrizes voluntárias com regulamentações setoriais específicas, complementadas por ações executivas direcionadas. Essas diferentes estratégias regulatórias refletem não apenas prioridades políticas distintas, mas também visões divergentes sobre o equilíbrio entre inovação tecnológica e proteção de direitos individuais

O Blueprint for an AI Bill of Rights e as iniciativas subsequentes representam uma abordagem abrangente aos desafios da IA, estabelecendo bases para um desenvolvimento tecnológico alinhado com princípios éticos e democráticos, sendo que o modelo americano oferece uma perspectiva valiosa sobre como conciliar avanço tecnológico com responsabilidade social, potencialmente influenciando frameworks regulatórios globais.

_______________

1 Disponível aqui.

2 Disponível aqui.

3 WHITE HOUSE OFFICE OF SCIENCE AND TECHNOLOGY POLICY. Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People. Washington, DC: The White House, October 2022.

4 Disponível aqui

O post Do Blueprint à execução: Uma análise da estratégia americana para governança da Inteligência Artificial apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

O C20 (Civil 20) realiza uma série de encontros e debates com representantes de organizações de diferentes países, enviando ao final dos trabalhos recomendações e demandas da sociedade civil para o G-20.

Oficialmente, a cúpula do G-20  atua em duas frentes de trabalho: Trilhas de Finanças, que tratam de assuntos macroeconômico, distribuídos por sete grupos de trabalho, e as Trilhas de Sherpas, voltadas à atuação política, distribuídas por 15 grupos de trabalho.

VEJA MAIS: Combatendo deepfakes: Desafios de gênero na regulação contra a Violência Digital

O Grupo 7 do C-20 elegeu quatro temas prioritários este ano: Inclusão digital e conectividade significativa e universal; Governo digital: construindo uma infraestrutura pública digital confiável e inclusiva; Integridade da Informação on-line e confiança na economia digital e Inteligência Artificial para o desenvolvimento sustentável e redução das desigualdades.

Rivelli, que além de sócio da LBCA, é coordenador em Direitos Humanos do Grupo Humanitas da OAB/SP – Subseção Guarulhos e pesquisador da PUC-SP no grupo “Capitalismo Humanista e ESG à Luz da Consciência Quântica”, fez uma breve análise sobre os desafios da exclusão digital. Ele afirmou  que a inclusão digital permite que os indivíduos, independente do estrato social, tenham acesso a informações e habilidades que irão abrir oportunidades de emprego e melhorar sua qualidade de vida.

Ele também ressaltou a urgência de superar a exclusão digital, destacando como a integração da tecnologia, a educação e as  políticas inclusivas são essenciais para garantir que todos possam participar plenamente em um futuro sustentável e equitativo.

VEJA MAIS: A Internet das Coisas e a sua relação com as práticas ESG

O grupo 7 é integrado também pela professora doutora Luciana Sabbatine Neves, coordenadora Geral do Grupo Humanitas e a professora doutora livre docente da PUC-SP, Maria Celeste Cordeiro Leite Santos, representando o instituto Provitima, entre outros participantes de diversas nacionalidades.

O post Sócio da LBCA, o advogado Fabio Rivelli participa do grupo de engajamento oficial do G-20 apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.

Quando do lançamento do filme, em 2002, houve quem debatesse questões éticas: Se por um lado a criminalidade foi extinta, do outro lado prendiam-se pessoas com base em uma previsão de seres humanos superdotados à revelia de direitos fundamentais; até que ponto o determinismo deveria se sobrepor ao livre arbítrio das pessoas?

Enfim, seu enredo parecia um devaneio, mas quase vinte anos depois, tal hipótese pode deixar de ser o enredo de um filme de ficção científica e se tornar realidade.

A prova está na decisão recente do app de hospedagem Airbnb, que comunicou o uso de uma ferramenta de inteligência artificial para escanear a internet à procura de subsídios que indiquem se um hóspede é confiável ou não[1]. A ferramenta leva em tudo em consideração, desde registros criminais, até postagens nas redes sociais e, após esse levantamento, seus algoritmos avaliam a probabilidade da presença de traços de personalidade “não confiáveis”, incluindo narcisismo, maquiavelismo e até psicopatia.

É inegável que a sociedade em que vivemos se encontra no limiar de uma nova era, em que novas formas de inteligência artificial transformarão as nossas vidas de uma maneira substancial e profunda e, nesse contexto, a necessidade e a relevância de novos recursos tecnológicos serão cada vez mais prementes e indispensáveis, todavia, deve-se “ligar um alerta”, principalmente no que tange aos riscos relacionados às questões éticas e de preservação dos direitos fundamentais dos cidadãos.

É corriqueiro nos depararmos com questões que suscitam preocupações acerca do uso dos algoritmos, notoriamente à sua capacidade decisória aliada à opacidade de seus mecanismos e dados enviesados.

Por exemplo, em um recente estudo publicado pela revista Science[2], foi realizado um levantamento dos algoritmos utilizados pelo sistema de saúde americano utilizados para orientar funcionários de hospitais e clínicas sobre quais seriam os pacientes com mais urgência de atendimento.

Identificou-se que esses algoritmos continham viés racial embutido já que, em patamares similares de doença, era atribuída mais urgência às pessoas brancas do que as negras. Após uma profunda análise, chegou-se à conclusão de que o problema estava em uma regra introduzida no algoritmo que, para mensurar o nível de urgência, captava dados decorrentes de gastos financeiros com plano de saúde, sendo que nos Estados Unidos há um grande histórico de discriminação racial em que, historicamente, pessoas brancas tiveram muito mais acesso à planos de saúde do que as afrodescendentes.

Feita tal identificação, foi eliminado o viés racial contido no algoritmo, que o possibilitou alcançar a sua finalidade precípua, sem qualquer discriminação racial.

É possível concluir que a proposta do algoritmo utilizado pelo sistema de saúde americana era nobre, mas que seus meios não se mostraram adequados e não estavam alinhados com a finalidade que se esperava; carecia de Governança e Compliance.

Algoritmo pode ser explicado como “um conjunto de instruções passo a passo a serem conduzidas mecanicamente para atingir algum resultado desejado”[3]. De forma simplista, podemos afirmar que os algoritmos simulam a capacidade humana de tomar decisão e, assim como os seres humanos estão sujeitos a desvios éticos e ausência de imparcialidade nas suas decisões, os algoritmos também estão.

Para garantir que a inteligência artificial produza decisões éticas, imparciais e esteja em observância à lei e aos valores da própria corporação, torna-se indispensável a adoção de princípios básicos de governança e Compliance da inteligência artificial.

Ao se desenvolver a inteligência artificial, deve-se zelar pela criação de padrões e estruturas de análise, há de ser clarividente o propósito e o objetivo do algoritmo de garantir a rastreabilidade das decisões tomadas pela ferramenta. As questões éticas e os valores coorporativos da empresa devem estar devidamente contemplados no algoritmo para que as suas decisões possam respeitá-las e, além disso, regras de Compliance devem orientar esse algoritmo, para que suas decisões não confrontem o ordenamento jurídico, tampouco as políticas internas da empresa.

É muito importante, também, zelar pela higidez do banco de dados que servirá de subsídio para o aprendizado da máquina, já que na hipótese de o banco de dados estar enviesado, o algoritmo poderá ser contaminado com esse viés.

Uma ferramenta de inteligência artificial como a utilizada pela Airbnb para identificar hóspedes não confiáveis, com o objetivo de proteger os seus clientes, inegavelmente, tem um fim em si nobre, mas que deve ser utilizada com razoabilidade, já que seu resultado pode trazer consequências bastante negativas para a empresa, como o exemplo do caso de discriminação dos algoritmos do sistema de saúde americano.

Além de um evidente prejuízo à imagem da empresa, em um país massivamente judicializado como é o Brasil, qualquer desconformidade da Inteligência Artificial pode dar início a uma enxurrada de processos judiciais e, por essa razão, é importante que as empresas que fizerem uso dessa tecnologia se previnam.

O antídoto para as empresas mitigarem os riscos de resultados negativos produzidos pela Inteligência Artificial é a adoção de Governança e Compliance, algo que, sem sombra de dúvidas, o filme “Minority Report” nos mostrou que faltou para a polícia“Precrime”.

———————————————————————————————————————

[1] https://olhardigital.com.br/noticia/airbnb-diz-que-pode-identificar-hospedes-psicopatas-com-sua-inteligencia-artificial/94963

[2] Ciência 25 out 2019: vol. 366, Edição 6464, pp. 447-453; DOI: 10.1126 / science.aax2342

[3] CHABERT, J.-L. (Ed.). A History of Algorithms: From the Pebble to the Microchip. Nova Iorque, Estados Unidos da América: Springer-Verlag Berlin Heidelberg, 1999. P1.

Fernando De Paula Torre – advogado, sócio da Lee, Brock, Camargo Advogados (LBCA) e especialista em Compliance.

O post Riscos e conflitos entre tecnologia e princípios éticos apareceu primeiro em LBCA | Lee, Brock, Camargo Advogados.