Desafios na Regulação da Inteligência Artificial: Reflexões do Segundo Encontro do CBEC

No segundo encontro do CBEC, realizado no dia 25 de outubro, que teve como tema “Parâmetros Éticos e Jurídicos para a Utilização da Inteligência Artifical (IA)” no Direito Constitucional, a professora Ana Frazão foi apresentada como uma referência na área. Reconhecida por sua vasta experiência e contribuições significativas ao Direito Econômico, Comercial e Constitucional, a professora Ana é uma respeitada advogada e docente na Universidade de Brasília (UnB). Sua expertise e liderança no campo fazem dela uma voz essencial nas discussões sobre a aplicação da inteligência artificial no âmbito jurídico, enriquecendo o debate com sua visão crítica e fundamentada.

A discussão central do encontro foi voltada à regulação da inteligência artificial, tanto no cenário internacional quanto no brasileiro. A professora abordou a crescente relevância desse tema no contexto jurídico, com especial atenção às discussões em curso na União Europeia. Ela explicou a importância de se pensar nos limites éticos e jurídicos da IA para garantir uma regulamentação que proteja os direitos fundamentais, destacando que a adoção de tais tecnologias precisa ser acompanhada por uma reflexão profunda e cuidadosa.

Ana Frazão destacou prêmios Nobel recentes que abordaram os impactos da IA, mencionando Geoffrey Hinton, pesquisador que comparou a inteligência artificial à dinamite, enfatizando o perigo do avanço acelerado dessas tecnologias. Ela também citou a obra “Power and Progress”, que apresenta uma análise histórica de mil anos de progresso tecnológico, questionando se a inovação conduz, de fato, ao progresso e à prosperidade. O livro mostra que, em muitos momentos, inovações tecnológicas reforçaram desigualdades e criaram novos problemas em vez de resolvê-los, perpetuando preconceitos. Segundo essa perspectiva, a verdadeira revolução veio não apenas das inovações tecnológicas, mas da regulação jurídica e das lutas sociais que buscaram controlá-las. Hoje, as tecnologias digitais e a IA aumentam desigualdades e ameaçam a democracia por meio da automação excessiva, da coleta massiva de dados e da vigilância intrusiva.

Seguindo essa linha, a professora criticou o que chamou de "determinismo tecnológico", uma visão que pressupõe que a evolução tecnológica é inevitável e deve ser aceita como um caminho certo para o progresso. Ela argumentou que o progresso deve ser mediado por lutas sociais e regulação jurídica adequada, que assegurem uma distribuição mais justa dos benefícios tecnológicos, evitando que a inovação sirva apenas aos interesses dos mais poderosos. Um ponto de destaque em sua fala foi a crítica ao conceito de "dataísmo", desenvolvido por Yuval Noah Harari, que se refere à crescente dependência de dados e à forma como os sistemas de IA podem subjulgar os seres humanos. Ela ressaltou o risco de a IA tomar decisões subjetivas que afetam diretamente direitos fundamentais, como a liberdade e a igualdade, e citou o temor de que sistemas de IA possam decidir quem tem acesso a oportunidades de educação, crédito e saúde com base em dados pessoais, muitas vezes sem que os indivíduos tenham consciência ou capacidade de contestar tais decisões.

Um detalhe que particularmente me chamou atenção em sua fala foi a questão de como agentes econômicos que controlam essas tecnologias podem ameaçar direitos sociais e humanos de forma tão severa quanto o próprio Estado. A professora alertou para os riscos de manipulação social e política, especialmente quando empresas privadas, com grande poder econômico, utilizam IA para influenciar decisões pessoais e resultados eleitorais. Essa manipulação massiva de dados coloca em risco a privacidade e a própria democracia.

Além disso, a IA representa uma nova forma de terceirização, permitindo que atividades empresariais, antes executadas por humanos, sejam transferidas parcial ou totalmente para máquinas. Um exemplo é o RH das empresas, uma área intrinsecamente humana, que agora incorpora processos automatizados. Esse cenário levanta questionamentos fundamentais: será que a IA supera o pensamento humano em termos de eficiência? E, além disso, até que ponto pode captar a complexidade e a sensibilidade necessárias para interações realmente humanas?

Essa tecnologia, apesar de avançada, não possui uma cultura própria ou vivências reais que lhe permitam compreender verdadeiramente uma cultura como nós, humanos, fazemos. Essa limitação impacta diretamente a capacidade da IA de interpretar ações humanas de forma completa.

Compreender uma ação não é apenas identificar o ato em si, mas captar as intenções, os contextos e as emoções que só fazem sentido dentro de uma história pessoal e de valores culturais profundos. Ela interpreta com base em padrões, mas uma compreensão genuína exige empatia e uma leitura sutil de nuances que vão além da análise lógica, podendo inferir significados e identificar elementos culturais, mas tudo isso é feito sem experiência direta ou sentimentos, o que a limita à uma interpretação técnica e, de certo modo, superficial das ações humanas.

Ao discutir o impacto da Inteligência Artificial no setor empresarial, a professora destacou a tendência de terceirização de funções que antes eram executadas por seres humanos, como o departamento de recursos humanos. Essa substituição pode levar a discriminações personalizadas e a decisões automatizadas que afetam diretamente os trabalhadores e consumidores, muitas vezes sem transparência ou possibilidade de contestação.

Outra área que suscita preocupação é a adoção da IA no poder judiciário. A professora Ana levantou questionamentos sobre os limites éticos e jurídicos dessa prática, considerando os riscos de delegar decisões judiciais a sistemas privados. Ela apontou que, em muitos casos, esses sistemas são oferecidos por grandes empresas que também podem ser partes interessadas em processos judiciais, levantando sérios conflitos de interesse e questões sobre o uso indevido de dados.

O treinamento da IA é feito com grandes volumes de dados que refletem padrões de comportamento, linguagem e interação humana. No entanto, essa formação depende de processos numéricos e estatísticos, que carecem da sensibilidade humana para distinguir o essencial do supérfluo. Em uma análise feita por IA, assuntos que poderiam ser considerados secundários em um contexto humano podem ganhar destaque indevido, justamente pela ausência dessa capacidade de avaliar nuances. A máquina valoriza métricas como números, cliques e engajamento, o que pode desviar seu foco do objetivo fundamental de certas áreas, como o Direito.

Embora a Inteligência Artificial seja celebrada por reduzir "ruídos" e viéses emocionais, como destacou a professora, ela também tem potencial para reforçar preconceitos ao replicar padrões sociais que podem perpetuar desigualdades. Essa ausência de um filtro social crítico significa que, enquanto a IA baseia-se em dados e interações passadas, questões periféricas – como comentários de ódio que geram mais visualizações – podem, inadvertidamente, ganhar mais destaque. Isso é especialmente problemático no Direito, onde é essencial manter um equilíbrio entre a tradição e a busca por justiça, algo que ainda depende da prudência e adaptabilidade humana para assegurar decisões justas e bem ponderadas.

A solução para essas questões? A necessidade de supervisão humana contínua no uso de IA, especialmente em decisões que envolvem direitos fundamentais. Embora reconheça as capacidades impressionantes da IA, como o processamento de grandes quantidades de dados, Ana argumentou que ainda há muitos aspectos nos quais as máquinas não conseguem substituir o julgamento humano, como a capacidade de adaptação a circunstâncias imprevistas e a consideração de causalidades e contrafactuais, elementos cruciais no direito. A discussão, portanto, reforçou que a IA traz desafios significativos para o campo do direito constitucional e que, apesar de seu potencial, o julgamento humano continua sendo indispensável em muitas situações, especialmente quando está em jogo a proteção de direitos fundamentais e a garantia de justiça.