Por Plínio Higasi
A Inteligência Artificial (IA) e as Redes Neurais Artificiais (RNA) são tecnologias que vêm revolucionando diversos setores da economia e mudando a forma como as empresas operam. No entanto, apesar dos benefícios, a IA e as RNA também apresentam desafios legais e éticos que precisam ser enfrentados pelo Direito.
No Brasil, a legislação que se aplica à IA e às RNAs ainda é incipiente, mas algumas iniciativas têm sido tomadas. Em 2018, foi criado o Comitê de Ética em IA, que tem como objetivo orientar empresas e governos no desenvolvimento e uso responsável da tecnologia. Além disso, o Marco Civil da Internet, a Lei Geral de Proteção de Dados (LGPD) e o Código de Defesa do Consumidor podem ser aplicados a situações envolvendo IA e RNAs.
Tanto o Direito Brasileiro quanto o Direito Mundial estão se adaptando à realidade da IA e das RNA, por meio de regulamentações específicas para o setor. No Brasil, a Lei Geral de Proteção de Dados (LGPD) é uma dentre as várias normas que regula o tratamento de dados pessoais, incluindo os dados coletados por meio de tecnologias de IA e RNA. Além disso, o Marco Civil da Internet também traz diretrizes para a utilização, manutenção e tratamento de dados e tecnologias em geral. Já no âmbito internacional, a União Europeia também possui regulamentações específicas para a IA e as RNA, como o Regulamento Geral sobre a Proteção de Dados (GDPR) e o Ethics Guidelines for Trustworthy AI, que estabelecem princípios éticos para a utilização da tecnologia, além de conter princípios como transparência, responsabilidade, equidade e privacidade. Além disso, a União Europeia está em processo de regulamentação da IA, com o objetivo de proteger os direitos fundamentais e garantir a segurança dos cidadãos.
No entanto, a aplicação dessas regulamentações ainda apresenta desafios, principalmente em relação à responsabilidade civil pelos danos causados pela tecnologia de IA e RNA. Por exemplo, quem seria responsabilizado em caso de acidentes envolvendo veículos autônomos? O proprietário do veículo? A montadora? O desenvolvedor do algoritmo? O programador do software? O responsável pela parametrização das bases de tentativa e erro do machine learning?
Nesse sentido, aqueles que me conhecem na atuação do Direito Digital sabem que eu particularmente sempre tive uma imensa propensão a buscar contraposições e formas de controle às Redes Neurais Artificiais e Inteligência Artificial, por isso, em 2017 cheguei à ideia sobre a aplicação das leis da robótica criadas por Isaac Asimov para limitar os atos e repercussões de decisões automatizadas, porém, em diversas discussões com alguns professores da parte de engenharia de computação, durante minha vida acadêmica, fui desencorajado a fazê-lo.
Para os desavisados, as leis da robótica de Asimov estabelecem que:
- Um robô não pode prejudicar um ser humano ou, por omissão, permitir que um ser humano sofra algum dano;
- Um robô obedecerá às ordens, pedidos e determinações dos seres humanos, exceto quando estas entrarem em conflito com a primeira lei;
- Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a primeira ou segunda leis.
Há comentários de que Asimov teria posteriormente criado uma norma de importância superior a todas as anteriores, a qual denominou a “Lei Zero”, com a seguinte narrativa: “Um robô não pode causar mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal”[1], em tradução livre.
Embora as leis da robótica tenham sido criadas como uma obra de ficção, salvo melhor juízo, elas podem ser úteis se inseridas na parametrização do processamento neural artificial, como uma forma de regular a IA limitando as possibilidades de danos causados por essas tecnologias. No entanto, essa aplicação ainda apresenta desafios, principalmente em relação à eficácia das leis da robótica em um ambiente em que as IA e as RNA podem ser programadas, reprogramadas ou até hackeadas para ignorar quaisquer leis, sem pensar também na possibilidade de acidentes, assim como o um colaborador da Ford Motors em Michigan chamado Robert Williams, que foi acidentalmente morto por um “robô” que tinha a altura de cinco andares da fábrica da montadora.
Para entender melhor como funcionam as RNA e a possibilidade de aplicação das leis da robótica, podemos analisar as seguintes tabelas comparativas, onde se deve considerar o dado como qualquer informação, seja ela puramente textual, ou até uma imagem:
| Característica | Função |
| Camada de Entrada | Recebe os dados brutos e os converte em um formato utilizável pela rede |
| Camadas Ocultas | Processam os dados de entrada em múltiplas camadas para identificar padrões e tendências |
| Camada de Saída | Produz uma saída/resultado lógico com base no processamento das camadas ocultas |
Na tabela acima, é importante ressaltar que a nomenclatura “Dados” se refere a qualquer informação inferida, obtida, processada, e recebida pela RNA, ou seja, tudo o que de alguma forma estiver envolvido com o ato ou fato, estará envolvido também com o processo de tomada de decisão da máquina, e complementarmente, o “processamento” também deve ser considerado uma forma de análise pela RNA daquele fato, ato, ou qualquer situação que seja de alguma forma recebida pelo sistema neural da IA.
Para entender melhor como as RNAs funcionam, é importante conhecer um pouco sobre o funcionamento do cérebro humano. As RNAs são inspiradas na maneira como os neurônios do nosso cérebro funcionam. Elas são compostas por camadas de neurônios interconectados, que recebem informações e as processam para gerar uma saída. Essas camadas podem ser ajustadas através do treinamento da rede, de modo que ela possa aprender a reconhecer padrões e tomar decisões.
A tabela a seguir mostra as diferenças entre as RNAs e os algoritmos tradicionais:
| RNAs | Algoritmos Tradicionais |
| Aprendizado por experiência | Programação estática |
| Adaptabilidade | Rigidez |
| Processamento em paralelo | Processamento sequencial |
Uma vez apresentada a base funcional e estritamente necessária para compreensão inicial dos sistemas de inteligência, com a licença poética e hipotética, vale elaborar um breve raciocínio por meio da tabela a seguir, que compara de forma hipotética a eficácia das leis da robótica na limitação dos atos de robôs controlados por IA em relação a outras abordagens:
| Abordagem em RNA de baixa e média complexidade | Eficiência | Vantagens | Desvantagens |
| Leis da robótica de Asimov | Alta | Clareza e simplicidade das leis | Limitações na aplicação prática |
| Regulação legal | Média | Flexibilidade na adaptação às mudanças | Complexidade e dificuldade de implementação |
| Autonomia das empresas | Baixa | Baixo custo e agilidade na produção | Riscos à segurança e ética |
| Desenvolvimento ético | Média | Responsabilidade social das empresas | Limitações na aplicação prática |
| Proibição de IA e robôs | Baixa | Prevenção contra possíveis riscos | Restrição à pesquisa e desenvolvimento |
Nota: A tabela acima é apenas uma análise geral, hipotética e a eficiência de cada abordagem pode variar dependendo do contexto, do acontecimento prévio à tomada de decisão da RNA, e das circunstâncias específicas com variabilidades e peculiaridades das relações humanas.
Pela simplicidade com a qual se apresentam, as leis da robótica de Isaac Asimov podem ser eficazes na limitação dos atos de robôs controlados por Inteligência Artificial de baixa e média complexidade. No entanto, considerando ainda a “Lei Zero”, a implementação dessa base legal quaternária demanda altos custos e novos algoritmos internamente à raiz do sistema da RNA, já que não terá qualquer eficácia se não for incluída na execução-base do funcionamento do sistema – ou seja, que a execução do algoritmo de regramentos e limites seja feito antes de carregar o sistema operacional -, o que para os algoritmos já funcionais, ou já iniciados, poderia gerar risco de travamentos, panes, que demandariam novos estudos de viabilidade dos mais simples projetos, até os já avançados.
Pela ânsia em desenvolver produtos, serviços e mostrar evolução ao mercado, para obter financiamento de big techs, é evidente que muitas empresas não estariam tão dispostas a sofrer atrasos em seu cronograma de desenvolvimento, além dos custos (possivelmente altos) que estariam envolvidos nessa implantação diretamente no kernel, complementarmente ao sistema operacional da RNA.
Ainda, vale ressaltar que quando um sistema de machine learning já foi parametrizado, e sua forma de processamento como Rede Neural Artificial já foi estabelecido, fica extremamente difícil colocar uma trava na raiz do sistema, com base nas Leis de Asimov, por exemplo, já que isso realmente sujeitaria o sistema a falhas graves, inclusive a inviabilidade de todo o projeto.
A razão da eficácia dessas leis, em caso de implantação antes do início da criação do sistema, é que elas estabelecem um conjunto de princípios éticos que regem o comportamento dos robôs. Os robôs programados com essas leis a princípio seriam incapazes de causar danos propositais a seres humanos e devem sempre priorizar a segurança humana.
Imprescindível dispor, no entanto, que quando se trata de redes neurais de IA de alta complexidade há mais uma agravante, e a eficácia das leis da robótica provavelmente diminuirá, porque os sistemas mais elaborados podem ter comportamentos imprevisíveis devido a sua capacidade de autoaprendizado. Nessas situações, a aplicação das leis pode ser desafiadora.
Apenas as redes neurais de IA de baixa complexidades podem ser programadas com regras específicas para limitar seu comportamento, mas isso pode ser impraticável em muitos casos, especialmente quando a complexidade da tarefa aumenta.
Técnicas de aprendizado por reforço em IA podem ser eficazes em limitar os atos de robôs controlados por IA, mas dependem da eficácia da recompensa para direcionar o comportamento das RNA e os Robôs por elas controlados. Além disso, a técnica de redes neurais adversárias em IA pode ser usada para desafiar as regras impostas pelos humanos, o que torna a eficácia dessa abordagem baixa.
Em resumo, a aplicação das leis da robótica de Isaac Asimov é uma abordagem altamente eficaz para limitar os atos de robôs controlados por IA, mas sua eficácia diminui à medida que a complexidade da IA aumenta. Outras abordagens, como programação de regras específicas, técnicas de aprendizado por reforço e redes neurais adversárias, têm níveis variados de eficácia e dependem do contexto específico em que são aplicadas. Afinal, a solução para limitação das RNA de alta complexidade fica cada vez mais à mercê do positivismo e do legislativo de cada jurisdição, ou de um pacto mundial para estabelecimento de regras padrões “embedados” em todas as máquinas de RNA produzidas no mundo.
Isso geraria um mercado paralelo de sistemas e algoritmos sem a aplicação desses limitadores? Muito provável. Mas o “futuro” dos sistemas de inteligência já está acontecendo há anos, e em breve teremos novos capítulos…
[1] https://www.techslang.com/can-asimovs-three-laws-of-robotics-protect-us-from-a-robot-takeover/ – acessado em 22/05/2023