Regulação e responsabilidade civil por danos causados pela inteligência artificial

Conteúdo do artigo principal

Henrique Ribeiro Cardoso
Bricio Luis da Anunciação Melo

Resumo

Este artigo trata da regulação da inteligência artificial no Brasil na perspectiva de proteção dos direitos humanos. Objetiva demonstrar a necessidade da edição de uma regulação adequada para a IA com fundamento na regulação de risco e no princípio da precaução. Propõe, como resultado, a criação de um arcabouço normativo para evitar o comportamento potencialmente danoso, com a utilização de mecanismos próprios do direito regulatório, pautado pela fixação de graus de risco. Nesse modelo, é parte essencial a atuação de autoridade em IA que, além de responsável por fiscalizar o cumprimento da lei e aplicar sanções, se mostre incentivadora da adoção de um regime de governança. No modelo híbrido delineado, operadores e agentes estatais devem, em comum, formular regras de boas práticas, normas de segurança e padrões técnicos. O presente artigo serviu-se de ampla pesquisa bibliográfica nacional e estrangeira.

Downloads

Não há dados estatísticos.

Detalhes do artigo

Como Citar
Cardoso, H. R., & Melo, B. L. da A. (2024). Regulação e responsabilidade civil por danos causados pela inteligência artificial. Revista De Direito Administrativo, 283(3), 143–178. https://doi.org/10.12660/rda.v283.2024.91698
Seção
Artigos
Biografia do Autor

Henrique Ribeiro Cardoso, Universidade Tiradentes

Doutor em direito, Estado e cidadania (UGF/Rio), com pós-doutorado em democracia e direitos humanos (IGC — Universidade de Coimbra) e pós-doutorado em direitos humanos e desenvolvimento (PPGCJ/UFPB); mestre em direito, Estado e cidadania (UGF/Rio); professor do Prodir/UFS e do PPGD/UNIT; promotor de Justiça.

Bricio Luis da Anunciação Melo, Universidade Tiradentes

Doutor em direitos humanos (UNIT/SE); mestre em direito (UFS/SE); professor de direito; oficial de Justiça avaliador federal.

Referências

ALEXA sabe o nome dos seus filhos e com quem você se encontrou: veja os detalhes íntimos que a Amazon coleta com assistente de voz. O Globo, [s.l.], 21 nov. 2021. Disponível em: https://oglobo.globo.com/economia/tecnologia/alexa-sabe-nome-dos-seus-filhos-com-quem-voce-se-encontrou-veja-os-detalhes-intimos-que-amazon-coleta-com-assistente-de-voz-25286354. Acesso em: 28 abr. 2024.

ANTUNES, Henrique Sousa. A responsabilidade civil aplicável à inteligência artificial: primeiras notas críticas sobre a Resolução do Parlamento Europeu de 2020. Revista de Direito da Responsabilidade, Lisboa, ano 3, p. 139-154, 2021. Disponível em: https://repositorio.ucp.pt/handle/10400.14/40695. Acesso em: 26 abr. 2024.

ANTUNES, Henrique Sousa. Inteligência artificial e responsabilidade civil: enquadramento. Revista de Direito da Responsabilidade, Coimbra, a. 1, p. 139-154, 2019. Disponível em: https://revistadireitoresponsabilidade.pt/2019/inteligencia-artificial-e-responsabilidade-civil-enquadramento/. Acesso em: 27 abr. 2024.

BALKIN, Jack. The path of robotics law. California Law Review, Berkeley, v. 6, p. 45-60, jun. 2015. Disponível em: http://euro.ecom.cmu.edu/program/law/08-732/AI/Balkin.pdf. Acesso em: 27 abr. 2024.

BALLELL, Teresa Rodríguez de Las Heras. La inteligencia artificial en clave jurídica: propuesta de conceptualización y esbozo de los retos regulatorios. Una mirada europea. Revista de Ciencia de la Legislación, Buenos Aires, n. 8, p. 57-63, out. 2020. Disponível em: https://ar.ijeditores.com/pop.php?option=publicacion&idpublicacion=200&idedicion=4084. Acesso em: 27 abr. 2024.

BARBOSA, Mafalda Miranda. Inteligência artificial, e-persons e direito: desafios e perspectivas. Revista Jurídica Luso Brasileira, Lisboa, a. 3, n. 6, p. 1475-1503, 2017. Disponível em: https://www.cidp.pt/revistas/rjlb/2017/6/2017_06_1475_1503.pdf. Acesso em: 27 abr. 2024.

BARBOSA, Mafalda Miranda. Inteligência artificial, responsabilidade civil e causalidade: breves notas. Revista de Direito da Responsabilidade, Coimbra, a. 3, p. 605-625, 2021. Disponível em: https://revistadireitoresponsabilidade.pt/2021/inteligencia-artificial-responsabilidade-civil-e-causalidade-breves-notas-mafalda-miranda-barbosa/. Acesso em: 27 abr. 2024.

BECK, Ulrich. Liberdade ou capitalismo: Ulrich Beck conversa com Johannes Willms. São Paulo: Unesp, 2003.

BECK, Ulrich. Risk society: towards a new modernity. Nova Deli: Sage, 1992.

BIONI, Bruno Ricardo; LUCIANO, Maria. O princípio da precaução na regulação de inteligência artificial: seriam as leis de proteção de dados seu portal de entrada? In: FRAZÃO, Ana; MOULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. São Paulo: Thomson Reuters, p. 208-231, 2019.

BLACK, Julia. Forms and paradoxes of principles-based regulation. Law, Society Economy, Londres, n. 13, p. 1-37, 2008. Disponível em: https://www.lse.ac.uk/law/working-paper-series/2007-08/ WPS2008-13-Black.pdf. Acesso em: 20 abr. 2024.

BLACK, Julia. The role of risk in regulatory processes. In: BALDWIN, Robert et al. (Ed.). The Oxford handbook of regulation. Nova York: Oxford University Press, p. 302-348, 2010.

BORRAZ, Olivier. O surgimento das questões de risco. Sociologias, Porto Alegre, a. 16, n. 35, p. 106-137, jan./abr. 2014. Disponível em: https://www.scielo.br/j/soc/a/77NzfHCtJ8JMWXKRnTxg8vC/?format=pdf. Acesso em: 31 maio 2024.

BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Senado Federal, [1988]. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm. Acesso em: 5 mar. 2024.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados. Brasília, DF: Presidência da República, [2018]. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 22 set. 2022.

BRASIL. Projeto de Lei n. 21/2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Brasília, DF: Câmara dos Deputados, 2020a. Disponível em: https://www.congressonacional.leg.br/materias/materias-bicamerais/-/ver/pl-21-2020. Acesso em: 10 jan. 2024.

BRASIL. Projeto de Lei n. 2.338/2023. Brasília, DF: Senado Federal, 2020b. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 10 jan. 2024.

CALO, Ryan. Robotics and the lessons of cyberlaw. California Law Review, Berkeley, v. 103, [s.n.], p. 513-564, jun. 2015. Disponível em: https://digitalcommons.law.uw.edu/faculty-articles/23/. Acesso em: 27 abr. 2024.

CARDOSO, Henrique Ribeiro. O poder normativo das agências reguladoras. 2. ed. Rio de Janeiro: Lumen Juris, 2017.

COFERENCE ON THE PROTECTION OF THE NORTH SEA, Esbjerg, Denmark, 1995.

FISCHER, Elizabeth. Risk regulation and administrative constitutionalism. Oregon: Hart Publishing, 2007.

FLORIDI, Luciano. Soft ethics, the governance of the digital and the general data protection regulation. Philosophical Transactions of the Royal Society, [s.l.], v. 376, n. 2133, p. 1-11, 2018. Disponível em: https://royalsocietypublishing.org/doi/10.1098/rsta.2018.0081. Acesso em: 27 abr. 2024.

GIDDENS, Anthony. Risk Society: The Context of British Politics. In: Franklin, J. The Politics of Risk Society. Cambridge: Polity Press, 1998.

HOFFMANN-RIEM, Wolfgang. Inteligência artificial como oportunidade para a regulação jurídica. Revista de Direito Público, v. 16, n. 90, p. 11-38, nov./dez. 2019. Disponível em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3756. Acesso em: 27 abr. 2024.

HUBER, Peter. The old-new division in risk regulation. Virginia Law Review, Charlottesville, v. 69, n. 6, p. 1025-1107, set. 1983. Disponível em: https://www.jstor.org/stable/1072738. Acesso em: 27 abr. 2024.

KNIGHT, Frank. Risk, uncertainty and profit. Londres: Houghton Mifflin, 1921.

LEAL, Fernando. A retórica do Supremo: precaução ou proibição? Jota, [s.l.], 13 jun. 2016. Disponível em: http://jota.info/colunas/supra/retorica-supremo-precaucao-ou-proibicao-13062016. Acesso em: 31 maio 2024.

LUPTON, Deborah. Risk. Londres: Routledge, 1999.

MAZZUCATO, Mariana. Governing artificial intelligence in the public interest. Nova York: Harper Business, 2021.

MEDON, Filipe. Inteligência artificial e responsabilidade civil: de onde viemos, onde estamos e para onde vamos a nível regulatório? Jota, [s.l.], 10 jan. 2024. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/inteligencia-artificial-e-responsabilidade-civil-10012024. Acesso em: 11 jan. 2024.

MEZZAROBA, Orides et al. Os desafios da governança no novo século, as reformas estatais e a accountability. In: ROVER, Aires José et al. Direito, governança e tecnologia: princípios, políticas e normas do Brasil e da Espanha. Florianópolis: Conceito Editorial, p. 17-38, 2014.

OCDE LEGAL INSTRUMENTS. Recommendation of the Council on Artificial Intelligence. Paris: OCDE, 2019. Disponível em: https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449. Acesso em: 27 abr. 2024.

OLIVEIRA, Liziane Paixão Silva; FERNANDES, Rafael Gonçalves. A regulação do agir decisório disruptivo no Judiciário brasileiro e a observância do princípio da precaução: juiz natural ou “juiz artificial”? Revista Opinião Jurídica, Fortaleza, v. 19, n. 30, p. 91-117, 2021. Disponível em: https://periodicos.unichristus.edu.br/opiniaojuridica/article/view/3446. Acesso em: 27 abr. 2024.

ONU. Precautionary Principle Conference. Declaração de Wingspread, 1998. Disponível em: https://www.gdrc.org/u-gov/precaution-3.html. Acesso em: 4 mar. 2024.

ONU. World charter for nature. Nova York: ONU, 1982. Disponível em: https://digitallibrary.un.org/record/39295?v=pdf. Acesso em: 28 abr. 2024.

PAGALLO, Ugo. AI and bad robots: the criminology of automation. In: MCGUIRE, Michael; HOLT, Thomas. The Routledge handbook of technology, crime and justice. Londres: Routledge Editora, p. 643-653, 2017.

PROSSER, Tony. Regulation and social solidarity. Journal of Law and Society, [s.l.], v. 33, n. 3, p. 364-387, set. 2006. Disponível em: https://www.jstor.org/stable/3838855. Acesso em: 27 abr. 2024.

QUELLE, Claudia. Does the risk-based approach to data protection conflict with the protection of fundamental rights on a conceptual level? Tilburg Law School Research Paper, [s.l.], [s.v.], [s.n.], p. 1-4, 2015. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2726073. Acesso em: 27 abr. 2024.

RESPONSABILITY: our principles. Google AI, [s.l.], [s.d.]. Disponível em: https://ai.google/responsibility/principles/. Acesso em: 6 mar. 2024.

ROSENVALD, Nelson; MONTEIRO FILHO, Carlos Edison do Rêgo. Riscos e responsabilidades na inteligência artificial e noutras tecnologias digitais emergentes. In: TEPEDINO, Gustavo; SILVA, Rodrigo da Guia (Coord.). O direito civil na era da inteligência artificial. São Paulo: Thomson Reuters, p. 543-563, 2020.

SCHERER, Matthew. Regulating artificial intelligence systems: risks, challenges, competencies and strategies. Harvard Journal of Law and Technology, Cambridge, v. 29, n. 2, p. 354-400, 2016. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2609777. Acesso em: 27 abr. 2024.

SENADO FEDERAL. Coordenação de Comissões Especiais, Temporárias e Parlamentares de Inquérito. Relatório final da Comissão de Juristas responsáveis por subsidiar a elaboração de Substitutivo sobre Inteligência Artificial no Brasil. Brasília: Senado Federal, 2022. Disponível em: https://legis.senado.leg.br/comissoes/mnas?codcol=2504&tp=4. Acesso em: 21 abr. 2024.

SMITH, Brad. Facial recognition: it’s time for action. Microsoft, [s.l.], 6 dez. 2018. Disponível em: https://blogs.microsoft.com/on-the-issues/2018/12/06/facial-recognition-its-time-for-action/. Acesso em: 20 abr. 2024.

SOUZA, Leonardo da Rocha; RODRIGUES, Gabriele Borges. O princípio da precaução como critério da administração pública para regular a inserção de organismos geneticamente modificados. Revista da Faculdade de Direito da UFG, Goiânia, v. 41, n. 2, p. 110-133, 2017. Disponível em: https://revistas.ufg.br/revfd/article/view/42972. Acesso em: 27 abr. 2024.

SUNSTEIN, Cass. Para além do princípio da precaução. Revista de Direito Administrativo, Rio de Janeiro, v. 259, p. 11-71, 2012. Disponível em: https://periodicos.fgv.br/rda/article/view/8629. Acesso em: 27 abr. 2024.

UNIÃO EUROPEIA. Comunicação da Comissão relativa ao princípio da precaução. 2000. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/PDF/?uri=CELEX:52000DC0001&from=FI. Acesso em: 12 abr. 2024.

UNIÃO EUROPEIA. Proposal of Artificial Intelligence Act. Bruxelas: Parlamento Europeu, 2021. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1623335154975&uri=CELEX%3A52021PC0206. Acesso em: 15 maio 2021.

WEDY, Gabriel de Jesus Tedesco. Os fundamentos do princípio da precaução. Juris Plenum: Direito Administrativo, Caixas do Sul, v. 2, n. 8, p. 109-138, dez. 2015. Disponível em: https://bdjur.stj.jus.br/jspui/handle/2011/98506. Acesso em: 27 abr. 2024.

XAVIER, Luís Barreto. Notas sobre a regulação da inteligência artificial: da ética ao direito. In: ANTUNES, Ana Filipa Morais et al. Católica talks 2. Lisboa: Investigação, 2020.

ZAMPIER, Bruno. Estatuto jurídico da inteligência artificial: entre categorias e conceitos, a busca por marcos regulatórios. São Paulo: Editora Foco, 2022.

ZANATTA, Rafael. Proteção de dados pessoais com regulação de risco: uma nova moldura teórica? In: ENCONTRO DA REDE DE PESQUISA E GOVERNANÇA DA INTERNET, I, 2017, Rio de Janeiro. Disponível em: https://www.researchgate.net/publication/322804864_Protecao_de_dados_pessoais_como_regulacao_do_risco_uma_nova_moldura_teorica. Acesso em: 27 abr. 2024.