O uso de inteligência artificial para replicação de voz

o controle da identidade vocal e os direitos fundamentais da personalidade no âmbito criminal

Autores

DOI:

https://doi.org/10.18316/redes.v14i1.12229

Resumo

A presente pesquisa tem por objetivo a análise da replicação da voz humana pela inteligência artificial diante do respaldo dos direitos da personalidade e as limitações legais e éticas para o uso ilimitado da voz neste âmbito tecnológico. O trabalho aborda os impactos da clonagem de voz no âmbito da personalidade humana, analisando como essa tecnologia desafia conceitos fundamentais como identidade, privacidade e dignidade humana no seio social. Em um contexto de avanços tecnológicos acelerados, a reprodução artificial da voz humana, embora inovadora, gera preocupações frente ao uso indevido ou sem autorização. O método utilizado na pesquisa foi o hipotético-dedutivo e a busca de dados foi realizada conforme o teórico-bibliográfico, com coletas de dados realizadas em bibliotecas físicas e virtuais, e sites de busca acadêmica que permitiram acesso a dados importantes para a pesquisa. Os resultados obtidos demonstram que não há um controle de sua voz após a replicação dela por uma inteligência artificial, visto que é amplamente utilizada para fins diversos e sem autorização, sucedendo em violação dos direitos da personalidade diante do despeito da identidade humana, a qual é única a todos.

Biografia do Autor

Gustavo Noronha de Ávila, UNICESUMAR/PROFESSOR PERMANENTE DO MESTRADO E DOUTORADO EM DIREITO

Possui graduação em Direito pela Pontifícia Universidade Católica do Rio Grande do Sul (2004), Mestrado (2006) e Doutorado (2012) em Ciências Criminais pela Pontifícia Universidade Católica do Rio Grande do Sul. Realizou Estágio de Pós-Doutoramento, sob a supervisão da Profa. Dra. Lilian Milnitsky Stein, no Programa de Pós-Graduação em Psicologia da PUCRS (2018). Professor Permanente do Programa de Pós-Graduação, Mestrado e Doutorado, em Ciência Jurídica da Universidade Cesumar. Coordenador Adjunto da Residência Técnica em Ciências Forenses da UEM. Consultor do Innocence Project Brasil. Membro do Grupo de Trabalho "Reconhecimento de Pessoas" do Conselho Nacional de Justiça (2021-2022). Membro Permanente da Associação Internacional de Criminologia em Língua Portuguesa. Editor Adjunto da Revista Brasileira de Ciências Criminais (2018-2021). Membro do Grupo de Pesquisa "Sistema Constitucional de Garantia dos Direitos da Personalidade" (Unicesumar) cadastrado no CNPq. Membro do Instituto Brasileiro de Ciências Criminais. Tem experiência na área do Direito, com ênfase em Direito Processual Penal, Direito Penal, Psicologia do Testemunho, Criminologia em suas repercussões aos Direitos da Personalidade. Realiza investigações sobre as relações entre as distorções de memória e privações de liberdade, bem como tem se ocupado da análise da expansão dos controles contemporâneos.

Referências

BANCHIO, Pablo Rafael. La inteligencia artificial y la tecnología robótica como categorías jurídicas. In: Revista Eletrônica Direito e Sociedade – REDES, v. 10 n. 2, 2022. Disponível em: https://revistas.unilasalle.edu.br/index.php/redes/article/view/10278. Acesso em: 15 nov. 2024.

BITTAR, Carlos Alberto. Os direitos da personalidade. 8. ed., rev., aum. e mod. São Paulo: Saraiva, 2015.

BRITO, Ronaldo Figueiredo. Direito da personalidade: pessoa e indivíduo. In: Justiça do Direito, v. 1, n. 1, p. 136-151, jan./jun. 2011. Disponível em: https://seer.upf.br/index.php/rjd/article/view/2320/1855. Acesso em: 15 nov. 2024.

COOBAN, Anna. Banco faz alerta: Milhões de pessoas podem ser alvos de golpes de clonagem de voz por IA. CNN Brasil, 18 set. 2024. Disponível em: https://www.cnnbrasil.com.br/economia/negocios/banco-faz-alerta-milhoes-de-pessoas-podem-ser-alvos-de-golpes-de-clonagem-de-voz-por-ia/. Acesso em: 10 nov. 2024.

CUPIS, Adriano de. Os direitos da personalidade. São Paulo: Quorum, 2008.

DERICO, Ben. Empresa de tecnologia roubou nossas vozes, clonou e vendeu. BBC News, 04 set. 2024. Disponível em: https://www.bbc.com/portuguese/articles/c75nywr054do. Acesso em: 15 nov. 2024.

GODINHO, Adriano Marteleto; GUERRA, Gustavo Rabay. A Defesa Especial dos Direitos da Personalidade: Os Instrumentos de Tutela Previstos no Direito brasileiro. In: Revista Jurídica Cesumar, Maringá, v. 13, n. 1, jan./jun. 2013. Disponível em: https://periodicos.unicesumar.edu.br/index.php/revjuridica/article/view/2440/1899. Acesso em: 15 nov. 2024.

JOANGUETE, Celestino. Vozes sintéticas: explorando os Avatares da IA na comunicação. In: Mediação, Alfabetização Midiática e Comunicação: cidadania e segurança digital na Educação, v. 26, n. 36, 2024. Disponível em: https://revista.fumec.br/index.php/mediacao/article/view/10045. Acesso em: 10 nov. 2024.

KISSINGER, Henry; SCHMIDT, Eric; HOTTENLOCHER, Daniel. A era da inteligência artificial. Leya, 2021.

MELO, Daniel. O Dilema Ético dos Algoritmos: O Sujeito entre o engajamento existencial e o virtual. In: Phenomenology, Humanities and Sciences, Curitiba, v. 5, n. 2, p. 84–94, 2024. Disponível em: https://phenomenology.com.br/index.php/phe/article/view/181/150. Acesso em: 05 nov. 2024.

MORATO, Antonio Carlos. Quadro geral dos direitos da personalidade. In: Revista da Faculdade de Direito, São Paulo, v. 106, n. 106-107, p. 121–158, 2012. Disponível em: https://www.revistas.usp.br/rfdusp/article/view/67941/70549. Acesso em: 15 nov. 2024.

MUSSA, Adriano. Inteligência artificial: mitos e verdades: as reais oportunidades de criação de valor nos negócios e os impactos no futuro do trabalho. São Paulo: Saint Paul Editora, 2020.

OSORIO, Nasly Enerieth Amado. El derecho de autor en la Inteligencia Artificial de machine learning. In: Revista la Propiedad Inmaterial, n. 30, p. 327-353, jul./dec. 2020. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3790753. Acesso em: 15 nov. 2024.

PANCINI, Laura. “Me ouço em todo lugar”: ela teve a voz vendida como se fosse de uma inteligência artificial. Exame, 25 abr. 2024. Disponível em: https://exame.com/inteligencia-artificial/gisele-souza-voz-roubada-por-inteligencia-artificial-ia/. Acesso em: 16 nov. 2024.

PEIXOTO, Fabiano Hartmann; COUTINHO, Marina de Alencar Araripe. Inteligência artificial e regulação: uma análise do projeto de lei 5.051/2019. In: Revista Em Tempo, v. 19, n. 1, ago. 2020. Disponível em: https://revista.univem.edu.br/emtempo/article/view/3129. Acesso em: 15 nov. 2024.

PRADO, Magaly Pereira do. Deepfake de áudio: manipulação simula voz real para retratar alguém dizendo algo que não disse. In: Revista Digital de Tecnologias Cognitivas, n. 23, p. 45-68, jan./jun. 2021. Disponível em: https://revistas.pucsp.br/index.php/teccogs/article/view/55977/37926. Acesso em: 06 nov. 2024.

RANGEL, Matheus. Política e inteligência artificial: prováveis desafios ao contexto brasileiro. In: Revista Tópicos, v. 2, n. 11, 2024. Disponível em: https://revistatopicos.com.br/artigos/politica-e-inteligencia-artificial-provaveis-desafios-ao-contexto-brasileiro. Acesso em: 03 out. 2024.

ROLIM, Delano Sobral. As novas tecnologias, o direito e a autodeterminação informacional. In: PINTO, Rodrigo Alexandre Lazaro; NOGUEIRA, Jozelia (coords). Inteligência artificial e desafios jurídicos: limites éticos e legais. São Paulo: Almedina, 2023.

SANTOS, Gabriel Carvalho dos; CASAGRANDE, Laís Maria da Cunha. As violações dos direitos da personalidade no contexto do episódio “crocodilo”, de Black Mirror. In: VIGLIAR, José Marcelo Menezes (coord.). LGPD e a proteção de dados pessoais na sociedade em rede. São Paulo: Almedina, 2022.

SANTOS, Letícia Evangelista dos; OVANDO, Rômulo Gustavo de Moraes. O efeito da inteligência artificial no ordenamento jurídico brasileiro no que tange a garantia dos direitos fundamentais. In: Revista observatorio de la economia latinoamericana, Curitiba, v. 22, n. 4, p. 01-24, 2024. Disponível em: https://ojs.observatoriolatinoamericano.com/ojs/index.php/olel/issue/view/37. Acesso em: 01 nov. 2024.

SCHREIBER, Anderson. Direitos da personalidade. 3 ed. São Paulo: Atlas, 2014.

SICHMAN, Jaime Simão. Inteligência Artificial e sociedade: avanços e riscos. In: Estudos Avançados, 35 (101), jan./abr. 2021. Disponível em: https://www.scielo.br/j/ea/a/c4sqqrthGMS3ngdBhGWtKhh/?format=pdf&lang=pt. Acesso em: 29 out. 2024.

SILVA, Fabrício Machado da; LENZ, Maikon Lucian; FREITAS, Pedro Henrique Chagas; SANTOS, Sidney Cerqueira Bispo dos. Inteligência artificial. Porto Alegre: SAGAH, 2019.

SIQUEIRA, Dirceu Pereira; MORAIS, Fausto Santos de; TENA, Lucimara Plaza. Voz reproduzida por IA acelera reflexões sobre a necessidade da proteção da personalidade em ambiente virtual. In: Direito e Desenvolvimento, v. 13, n. 2, p. 155–169, 2023. Disponível em: https://periodicos.unipe.edu.br/index.php/direitoedesenvolvimento/article/view/1481/799. Acesso em: 16 nov. 2024.

SOUZA, Sergio Iglesias Nunes de. O uso da inteligência artificial para a clonagem virtual de celebridade falecida: análise sob os aspectos dos direitos da personalidade e dos direitos humanos. In: Revista Argumentum, Marília/SP, v. 25, n. 2, p. 221-245, Mai.-Ago. 2024. Disponível em: http://ojs.unimar.br/index.php/revistaargumentum/article/view/1794/1107. Acesso em: 15 nov. 2024.

THE CENTER FOR COUNTERING DIGITAL HATE. Attack of the voice clones: How AI voice cloning tools threaten election integrity and democracy. CCDH, 2024. Disponível em: https://counterhate.com/wp-content/uploads/2024/05/240524-Attack-of-the-Voice-Clones-REPORT_final.pdf. Acesso em: 15 nov. 2024.

TOMASEVICIUS FILHO, Eduardo. Inteligência artificial e direitos da personalidade: uma contradição em termos? In: Revista da Faculdade de Direito, Universidade de São Paulo, v. 113, p. 133–149, 2018. Disponível em: https://www.revistas.usp.br/rfdusp/article/view/156553. Acesso em: 04 nov. 2024.

VASCONCELOS, Eduardo Silva; SANTOS, Fernando Augusto dos. Inteligência artificial na gestão pública brasileira: desafios e oportunidades para a eficiência governamental. In: Revista observatorio de la economia latinoamericana, Curitiba, v.22, n.6, p. 01-21. 2024. Disponível em: https://ojs.observatoriolatinoamericano.com/ojs/index.php/olel/article/view/5017/3263. Acesso em: 05 nov. 2024.

ZANINI, Leonardo Estevam de Assis; QUEIROZ, Odete Novais Carneiro. A irrenunciabilidade e a intransmissibilidade dos direitos da personalidade. In: Duc In Altum - Cadernos de Direito, v. 15, n. 36, 2024. Disponível em: https://revistas.faculdadedamas.edu.br/index.php/cihjur/article/view/2719/2447. Acesso em: 14 nov. 2024.

Downloads

Publicado

2026-05-18

Edição

v. 14 n. 1 (2026): Redes

Seção

Artigos

Licença

Copyright (c) 2024 Revista Eletrônica Direito e Sociedade - REDES

Creative Commons License

Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.

Autores que submetem seus manuscritos para serem publicados  na Revista REDES concordam com os seguintes termos:

  1. Os autores declaram ter ciência de que mantém os direitos autorais concedendo à REDES o direito à publicação.

  2. Os autores declaram ter ciência de que o trabalho submetido será licenciado sob a Licença Creative Commons atribuição não-comercial que permite o compartilhamento do artigo com reconhecimento da autoria e publicação nesta revista.

  3. Os autores declaram ter ciência que em virtude de os artigos publicados nesta revista tem acesso público e gratuito.

  4. Os autores declaram, sob as penas da lei, que o texto é inédito e original e que têm ciência de que identificada a existência de plágio, os autores plagiados serão informados – para querendo, tomarem as medidas legais nas esferas cível e criminal – e, os autores do plágio terão seu acesso à revista bloqueado.

  5. Os autores declaram que – em caso de coautoria – todos contribuíram significativamente para a pesquisa.

  6. Os autores obrigam-se a fornecer retratações e (ou) correções de erros em caso de eventual detecção.

  7. Os autores obrigam-se a não publicar o texto submetido a REDES em outra Revista eletrônica (ou não).

 

Licença Creative Commons
A Revista Eletrônica Direito e Sociedade - REDES - está licenciado com uma Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional.
Baseado no trabalho disponível em http://revistas.unilasalle.edu.br/index.php/redes/about/submissions#copyrightNotice.
Podem estar disponíveis autorizações adicionais às concedidas no âmbito desta licença em http://creativecommons.org/.