Concepções de explicação e do direito à explicação de decisões automatizadas

Abstract

O uso ético da inteligência artificial é um dos grandes desafios da sociedade atual. Em resposta aos benefícios e aos riscos associados às diversas aplicações de tecnologias inteligentes, governos e a sociedade civil hoje buscam formas de maximizar os benefícios que estas tecnologias podem trazer, bem como evitar, ou ao menos mitigar, os riscos associados a aplicações nocivas ou inadequadas. De particular relevância para o uso da inteligência artificial é o chamado direito à explicação, segundo o qual uma pessoa submetida a uma decisão automatizada baseada em seus dados pessoais tem o direito de obter “informações claras e adequadas” a respeito dos critérios e procedimentos utilizados para a decisão. Este capítulo é dedicado a analisar como as demandas éticas e jurídicas por explicação podem ser concretizadas. A próxima seção analisa o estado da arte das soluções técnicas para a explicação, expondo as técnicas que existem para concretizar o ideal de transparência. A escolha das técnicas mais adequadas depende das características específicas de cada aplicação, o que dá origem a diversas interpretações do próprio conceito de explicação. A seguir, a seção 3 examina várias formulações do que significa uma explicação de um sistema de inteligência artificial, e mostra que a visão mais adequada para o Direito é aquela orientada à possibilidade de contestar o resultado de decisões automatizadas. Por fim, a última seção expõe o estado atual e as direções futuras para a efetividade do direito à explicação.