A queda dos aviões Boeing 737 MAX: um alerta para o Direito Digital no Brasil.

Por Bruno Ett Bicego e Plínio Higasi

No dia 29 de outubro de 2018, ocorreu o primeiro acidente envolvendo o novo modelo da Boeing, fabricante norte-americana de aeronaves, o 737 MAX. O voo operado pela empresa Lion Air partiu do aeroporto internacional de Jacarta, Indonésia, com 189 pessoas a bordo. No entanto, passados treze minutos da decolagem, o avião caiu no mar de Java, não deixando nenhum sobrevivente.

Infelizmente, cinco meses após o acidente, um novo desastre semelhante ocorreu. No dia 10 de março de 2019, o Boeing 737 MAX da Ethiopian Airlines decolou do aeroporto internacional de Adis Abeba, Etiópia, com 157 pessoas a bordo. Após seis minutos de voo, a aeronave caiu na região de Debre Zeit. Não houve sobreviventes.

As semelhanças entre os dois acidentes não se restringem ao modelo da aeronave e ao curto tempo de voo que antecedeu a queda. As investigações apontam que as causas dos acidentes também se revelam extremamente parecidas.

Em matérias recentes, afora muita especulação sobre o motivo dos acidentes, especialistas comentam que o Boeing 737 MAX possui um novo modelo de turbina que precisou ser acomodado em uma posição mais alta e avançada da asa. Devido a essa mudança, o nariz da aeronave ficaria mais suscetível a levantar em certas condições de voo, fato que poderia resultar em um estol (perda da sustentação). Para evitar tal problema, a Boeing introduziu à aeronave o MCAS (Sistema de Aumento de Características de Manobra, da sigla em inglês), que atua de modo semelhante a um piloto automático e possui a função de abaixar o nariz da aeronave em uma situação com risco de estol.

Segundo as investigações no processo da Lion Air, acredita-se que o MCAS teria entrado em funcionamento de maneira equivocada. O sistema teria interpretado que o avião corria risco de “estolar”, quando, na verdade, ele se encontrava em voo regular. Assim, de um lado, o MCAS insistiu em abaixar o nariz do avião repetidas vezes para evitar o estol, enquanto, do outro lado, os pilotos manualmente reconduziam a aeronave à posição regular. Após essa disputa homem-máquina ocorrer por vinte e seis vezes, o MCAS teria sido preponderante, levando o avião à queda.

No caso concernente à Ethiopian Airlines, embora as investigações se encontrem em fase inicial, segundo os dados já analisados, acredita-se que a aeronave teria direcionado seu nariz para baixo repetidas vezes, de maneira semelhante ao que ocorreu com o Boeing da Lion Air. Assim, supõe-se que poderia ter ocorrido o mesmo problema em ambos os casos: o MCAS teria atuado de maneira equivocada, impedindo que o piloto mantivesse o controle, levando o avião à queda.

Podemos compreender o MCAS como um sistema de inteligência artificial configurado para a proteção da aeronave em eventuais situações que poderiam levar ao estol. Esse sistema foi configurado para atuar em posição hierarquicamente superior aos comandos do piloto, o que pode gerar uma situação extremamente temerária, uma vez que o piloto, com as informações que possuía no momento, não teria sido capaz de desligá-lo para recuperar o controle da aeronave.

Esse contexto nos permite alavancar a discussão do ponto de vista ético, de como é possível digerir a informação de que a inteligência artificial teria derrubado dois aviões, causando centenas de mortes e que, mesmo querendo, os pilotos de ambas as aeronaves não conseguiram impor sua própria vontade nos comandos. Bem como da perspectiva do Direito, sobre quem poderia ser responsabilizado, caso diante do acidente surgisse fato jurídico a ser analisado sob a égide do Direito Brasileiro – e em quais proporções – pelo acidente e pelas mortes.

No que tange ao primeiro questionamento, conforme reportagens jornalísticas, acredita-se que os pilotos habituados com o modelo anterior da aeronave, o 737, não teriam recebido o treinamento para lidar com o novo sistema, caso contrário, conseguiriam desligá-lo e seguiriam controlando manualmente a aeronave. Além disso, por ser um sistema tão recente, o poder de ação do MCAS não teria recebido a devida atenção, ou seja, no momento de crise, os pilotos se depararam com uma conjuntura muito diferente do usual e não souberam reagir adequadamente.

Posto isso, torna-se evidente que, quanto mais os avanços tecnológicos, mormente relacionados à inteligência artificial, são incorporados ao mundo prático, mais atenção e cuidado devemos ter para com eles. A tecnologia não pode ser subestimada, permitindo que ela atue sem que haja maneira e/ou o treinamento suficiente para contê-la. Para isso, o Direito Digital e seus operadores capacitados, devem supervisionar meticulosamente tudo que envolve inteligência artificial, de modo a criar meios para que todos aqueles que, porventura, venham a se beneficiar dela, saibam exatamente quais os riscos que podem correr e como agir em casos de emergência. Principalmente quando a vida de pessoas está envolvida.

Somente por meio dessa atuação cautelosa será possível incorporar a inteligência artificial de modo benéfico e ético, utilizando-a como uma genuína ferramenta, isto é, deixando-a a serviço de um humano e oferecendo meios de controlá-la adequadamente. Se todas as suspeitas se confirmarem, caso os pilotos estivessem cientes de como desligar o MCAS e, principalmente, em quais condições deveriam desativar o sistema, o acidente poderia ter sido evitado.

No que diz respeito à perspectiva jurídica do acidente, faz-se necessário investigar os motivos para saber quais entidades poderiam ser responsabilizadas pelo dano. Em casos de incidentes em voos internacionais, não raro, tem-se diversas partes de diversos países amarradas em um mesmo processo, possibilitando inclusive conflito entre normas internacionais e soberania de países. Em relação aos dois acidentes do Boeing 737 MAX o Direito poderia cogitar acerca da empresa responsável pela programação do MCAS e/ou dos sensores que eventualmente falharam e transmitiram a informação equivocada e se a esta pode ser imputada responsabilidade que, no caso, recairia sobre a própria Empresa Boeing.

Nesse sentido, o grande diferencial dos profissionais qualificados em Direito e Tecnologia é dissecar, em conjunto com peritos, os pormenores decorrentes do uso da tecnologia e da inteligência artificial, bem como quais parâmetros e algoritmos podem ter sido equivocadamente inseridos e/ou estabelecidos, que contribuíram para o acidente, transportando isso para termos compreensíveis por todos os operadores do Direito, para que assim seja possível determinar exatamente em qual parte do processo houve uma falha e em quem reside a culpa.

Para que a sociedade possa manter o controle sobre o uso da tecnologia, é imprescindível que o operador do Direito esteja capacitado para apurar e coletar a correta cadeia de custódia de provas, e assim imputar aos devidos responsáveis as sanções cabíveis e o grau de responsabilidade, seja em âmbito Cível, ou na área Criminal, caso reste comprovada a atuação de um indivíduo para alterar o código objeto de softwares, ou adulterar o hardware de medição e análise, emergindo a possibilidade de condenação por dolo ou culpa em um caso como esse.

Para que o trabalho dos operadores de Direito seja mais eficiente, torna-se indispensável a criação de leis que regulem as diretrizes da inteligência artificial, além de determinarem, de modo acurado, a quem deve ser imputada a responsabilidade, em caso de algum dano. Contudo, a produção legislativa brasileira, referente ao tema, encontra-se em estágio primário, ainda mais se comparada aos avanços que já ocorreram no campo da inteligência artificial. Para diminuir esse prejuízo, devemos tomar como exemplo progressos que já ocorreram em outros países, bem como fomentar o debate no Brasil, visando o amadurecimento do tema nos diversos ramos de nossa sociedade.

Entretanto, no momento, podemos analisar o presente arsenal normativo brasileiro, apontando quais as regras que poderiam ser aplicadas em uma ocorrência que envolvesse a indenização por perdas e danos decorrentes de um defeito na programação de determinado software. Essas normas podem advir de diversos dispositivos legais. A seguir, examinaremos o Código Civil e o Código de Defesa do Consumidor.

De início, podemos analisar, sob a ótica do Código Civil, como a responsabilidade civil extracontratual, se aplicaria em nosso caso. Conforme aponta Carlos Roberto Gonçalves[1], “quando a responsabilidade não deriva do contrato, mas de infração ao dever de conduta (…) diz-se que ela é extracontratual ou aquiliana”. Essa está fundamentada no artigo 186 do referido Código:

Art. 186. Aquele que, por ação ou omissão voluntária, negligência ou imprudência, violar direito e causar dano a outrem, ainda que exclusivamente moral, comete ato ilícito.

Por conseguinte, o artigo 927, do mesmo Código, impõe para todos aqueles que, por ato ilícito, causarem dano a outrem, a obrigação de repará-lo. O parágrafo único, do mesmo dispositivo, dispõe sobre a responsabilidade objetiva, adotando a teoria do risco e estendendo o dever de indenizar, independentemente de culpa, quando a atividade implicar, por sua natureza, risco aos direitos de outrem.

Art. 927. Aquele que, por ato ilícito (arts. 186 e 187), causar dano a outrem, fica obrigado a repará-lo.

Parágrafo único. Haverá obrigação de reparar o dano, independentemente de culpa, nos casos especificados em lei, ou quando a atividade normalmente desenvolvida pelo autor do dano implicar, por sua natureza, risco para os direitos de outrem.

Nesse sentido, reitera Carlos Roberto Gonçalves[2]: “Todo aquele que causa dano a outrem, por culpa em sentido estrito ou dolo, fica obrigado a repará-lo”.

Ademais, é possível mencionar o artigo 931 do mesmo diploma, no qual está designada a responsabilidade dos empresários individuais e das empresas por parte dos produtos colocados em circulação. 

Art. 931. Ressalvados outros casos previstos em lei especial, os empresários individuais e as empresas respondem independentemente de culpa pelos danos causados pelos produtos postos em circulação.

Posto isso, podemos entender, segundo os artigos acima apresentados, a possibilidade de imputar ao desenvolvedor de um software, caso tenha agido com negligência ou imperícia a obrigação de responder pelos danos causados. Além disso, quando a atividade oferece, por sua natureza, risco para os direitos de outrem, pode o autor do dano ser responsabilizado, independentemente de culpa. Por fim, os empresários individuais ou as empresas que produzirem um software e colocarem-no em circulação, possuem a obrigação de responder pelos danos decorrentes desse produto.

Encerrada a análise da responsabilidade extracontratual, podemos investigar como a responsabilidade que decorre de um contrato poderia ser aplicada em nosso caso de investigação. Conforme explica Sílvio de Salvo Venosa[3]: “Na responsabilidade contratual, é de dentro do contrato que se examina o direito violado, não se prescindindo do conceito de culpa”. Desse modo, segundo o artigo 389 do Código Civíl:

Art. 389. Não cumprida a obrigação, responde o devedor por perdas e danos, mais juros e atualização monetária segundo índices oficiais regularmente estabelecidos, e honorários de advogado.

Fixado esse artigo, fica claro que o não cumprimento de obrigação, isto é, o inadimplemento contratual, está sujeito à indenização por perdas e danos, observados os juros e a atualização monetária. A esse respeito, escreve Maria Helena Diniz[4]:

A responsabilidade contratual funda-se na culpa, entendida em sentido amplo, de modo que a inexecução culposa da obrigação se verifica quer pelo seu cumprimento intencional, (…) quer pelo inadimplemento do dever jurídico, sem a consciência da violação, sem intenção deliberada de causar dano ao direito alheio, havendo apenas um procedimento negligente, imprudente ou omisso (culpa), prejudicial ao credor.

Assim, o desenvolvedor de um software, dentro de uma relação contratual, mesmo que sem a intenção de prejudicar direitos, que devido a um procedimento negligente, imprudente ou omisso, oferecer um produto defeituoso que cause danos ao credor, poderá ser responsabilizado e responder por perdas e danos.

Após a análise de alguns dispositivos do Código Civil, podemos deslocar nosso enfoque para o Código de Defesa do Consumidor, o qual não se afasta daquilo que analisamos anteriormente. Segundo o Código de Defesa do Consumidor:

Art. 12. O fabricante, o produtor, o construtor, nacional ou estrangeiro, e o importador respondem, independentemente da existência de culpa, pela reparação dos danos causados aos consumidores por defeitos decorrentes de projeto, fabricação, construção, montagem, fórmulas, manipulação, apresentação ou acondicionamento de seus produtos, bem como por informações insuficientes ou inadequadas sobre sua utilização e riscos.
    § 1° O produto é defeituoso quando não oferece a segurança que dele legitimamente se espera, levando-se em consideração as circunstâncias relevantes, entre as quais: I – sua apresentação; II – o uso e os riscos que razoavelmente dele se esperam; III – a época em que foi colocado em circulação.
(…)

Em relação aos defeitos no produto, esclarece Ada Pellegrini Grinover et al[5].:

O defeito que suscita o dano não é o defeito estético, mas o defeito substancial relacionado com a segurança que dele legitimamente se espera, levando-se em consideração aspectos extrínsecos, como a apresentação do produto, e intrínsecos, relacionados com a sua utilização e a época que foi colocado em circulação.

Desse modo, segundo o Código de Defesa do Consumidor, torna-se possível a responsabilidade do fabricante, do produtor, do construtor, nacional ou estrangeiro, e do importador de determinado software, de responder pelos danos decorrentes de defeito no projeto, na fabricação, na construção, na montagem, nas fórmulas, na manipulação, apresentação ou acondicionamento desse produto, bem como por informações insuficientes ou inadequadas sobre sua utilização e riscos.

Frente ao exposto, podemos entender que, seja por meio do Código Civil, seja recorrendo ao Código de Defesa do Consumidor, é possível atribuir ao desenvolvedor a responsabilidade resultante de danos causados por um defeito apresentado no software.

Por fim, conforme mencionamos, por mais que já existam normas no sistema brasileiro capazes de enfrentar questões relacionadas ao avanço da tecnologia, a produção de novos dispositivos legais que regulem o tema de maneira rigorosa e precisa é absolutamente necessária para que o Direito Brasileiro se mantenha firme e atualizado frente aos novos desafios. Além disso, é indispensável que os operadores do Direito se mantenham qualificados no entendimento das novas tecnologias para auxiliarem na compreensão de novos sistemas, garantindo a correta atuação do Poder Judiciário.

REFERÊNCIAS:

DINIZ, Maria Helena. Curso de Direito Civil Brasileiro. São Paulo: Saraiva, 27ª edição, 2012. Vol. 2.

GONÇALVES, Carlos Roberto. Direito Civil Brasileiro. São Paulo: Saraiva, 16ª edição, 2019. Vol. 2.

_______ . Direito Civil Brasileiro. São Paulo: Saraiva, 9ª edição, 2014. Vol. 4.

GRINOVER, Ada Pellegrini et. al. Código Brasileiro de Defesa do Consumidor: comentado pelos autores do anteprojeto. Rio de Janeiro: Forense, 10ª edição, 2011. Vol. 1.

VENOSA, Sílvio de Salvo. Direito Civil. São Paulo: Editora Atlas, 14ª edição, 2014. Vol. 2.


[1] GONÇALVES, Carlos Roberto. Direito Civil Brasileiro. Vol. 2, p. 380.

[2] GONÇALVES, Carlos Roberto Direito Civil Brasileiro. Vol.4, p. 44.

[3] VENOSA, Sílvio de Salvo. Direito Civil. Vol. 2, p. 522.

[4] DINIZ. Maria Helena. Curso de Direito Civil Brasileiro. Vol.2, p. 417 (grifos nossos).

[5] GRINOVER, Ada Pellegrini et. al. Código Brasileiro de Defesa do Consumidor: comentado pelos autores do anteprojeto. Vol. 1, p. 2001.

Os artigos publicados no Digital Rights.cc são de autoria de colaboradores da plataforma e não representam as opiniões ou posicionamentos do Digital Rights.cc. A plataforma do Digital é um espaço plural que tem como finalidade contribuir para a discussão do Direito e Tecnologia em âmbito nacional e internacional, bem como garantir que diferentes atores na área de tecnologia possam ter voz e expressar suas opiniões, fato este que enriquece para um debate multisetorial e pluriparticipativo.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *