Openness doesn’t hurt : enforcing qualified machine-learning transparency for data protection through responsive regulation

Abstract

Sistemas de aprendizagem de máquina (machine learning, ML) têm sido cada vez mais utilizados em processos de tomada de decisões que afetam aspectos-chave das vidas de pessoas. Entretanto, usuários e reguladores pouco sabem sobre como esses modelos funcionam, já que apenas informações escassas são divulgadas por seus desenvolvedores e operadores. A transparência dessas tecnologias surge assim como uma exigência feita por diferentes grupos de especialistas para que os usuários tenham controle sobre o quanto suas vidas devem depender dos julgamentos realizados por sistemas de machine learning, mas também para que reguladores responsabilizem os responsáveis por eles pelos danos que vierem a incorrer. Esta dissertação traça assim uma análise comparativa sobre como as leis brasileira e europeia de proteção de dados abordam a transparência de machine learning e avalia a adequação das estratégias participativas da teoria da regulação responsiva e de sua estrutura de incentivos para promover sistemas mais inteligíveis.