{"id":12891,"date":"2025-07-23T05:12:41","date_gmt":"2025-07-23T08:12:41","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/07\/23\/inteligencia-artificial-e-erros-de-identidade\/"},"modified":"2025-07-23T05:12:41","modified_gmt":"2025-07-23T08:12:41","slug":"inteligencia-artificial-e-erros-de-identidade","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/07\/23\/inteligencia-artificial-e-erros-de-identidade\/","title":{"rendered":"Intelig\u00eancia artificial e erros de identidade"},"content":{"rendered":"

Recentemente o Google foi condenado a indenizar uma pessoa em raz\u00e3o de informa\u00e7\u00f5es falsas que foram disponibilizadas pela ferramenta de intelig\u00eancia artificial<\/a> da plataforma e de todos os transtornos da\u00ed decorrentes<\/span>[1]<\/a>. A v\u00edtima foi indevidamente apontada como propriet\u00e1ria de uma plataforma de apostas e recebeu amea\u00e7as por conta disso.<\/span><\/p>\n

Em sua sucinta fundamenta\u00e7\u00e3o, a senten\u00e7a afirmou que \u201cresta incontroverso nos autos que a intelig\u00eancia artificial da r\u00e9 apontou em pesquisas que o autor \u00e9 o propriet\u00e1rio de uma plataforma de jogos de azar, denominada 7 Games\u201d e que \u201cas informa\u00e7\u00f5es inver\u00eddicas fornecidas pela plataforma da r\u00e9, inveross\u00edmeis, s\u00e3o de responsabilidade da r\u00e9 e causaram danos ao autor, que recebeu amea\u00e7as por e-mail de consumidores das plataformas de apostas\u201d.<\/span><\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/h3>\n

\u00c9 interessante notar que, para chegar a essa conclus\u00e3o, a senten\u00e7a diferenciou a informa\u00e7\u00e3o prestada diretamente pelo sistema de intelig\u00eancia artificial do Google do seu sistema de buscas, afirmando que \u201ca informa\u00e7\u00e3o passada foi indicada pela plataforma da empresa r\u00e9, ou seja, entende-se que foi a r\u00e9 \u00e9 a respons\u00e1vel pela transmiss\u00e3o, n\u00e3o ocorrendo uma indica\u00e7\u00e3o de link como ocorre no Google Search\u201d.<\/span><\/p>\n

Da\u00ed a conclus\u00e3o de que houve falha do Google que trouxe danos reputacionais ao autor, que passou a ser responsabilizado por golpes aplicados na plataforma de apostas, al\u00e9m de receber amea\u00e7as. Segundo o Valor, o problema aconteceu pelo fato de a v\u00edtima ter dado uma entrevista na qual teria recomendado sete jogos e, a partir da\u00ed, o sistema de intelig\u00eancia artificial entendeu que ele seria dono da 7 Games<\/span>[2]<\/a>.<\/span><\/p>\n

Isso acontece porque a maior parte dos LLMs (<\/span>Large Language Models<\/span>)\u00a0simplesmente predizem a pr\u00f3xima palavra, o que os torna fluentes, por\u00e9m aptos a inventar coisas. Como as palavras s\u00e3o escolhidas com base em c\u00e1lculos estat\u00edsticos \u2013 e n\u00e3o com base na verdade \u2013 isso pode dar ensejo a in\u00fameras alucina\u00e7\u00f5es.<\/span><\/p>\n

Esse \u00e9 o ponto fraco de tais sistemas, pois relev\u00e2ncia n\u00e3o se confunde com corre\u00e7\u00e3o, assim como linguagem fluente n\u00e3o se confunde com informa\u00e7\u00e3o correta. Ali\u00e1s, em tais sistemas, quanto mais espec\u00edfico for um t\u00f3pico, maior a chance de desinforma\u00e7\u00e3o, o que \u00e9 particularmente preocupante nas searas m\u00e9dicas, cient\u00edficas e educacionais.<\/span><\/p>\n

Muitos desses sistemas n\u00e3o t\u00eam como diferenciar informa\u00e7\u00f5es corretas das brincadeiras, o que mostra que o problema n\u00e3o \u00e9 propriamente do mau treinamento de dados. Da\u00ed a conclus\u00e3o de que, na medida em que a probabilidade \u00e9 usada para gerar textos palavras por palavras, a alucina\u00e7\u00e3o ser\u00e1 sempre um risco.<\/span><\/p>\n

Al\u00e9m de n\u00e3o conseguirem diferenciar piadas e brincadeiras de informa\u00e7\u00f5es s\u00e9rias, tais modelos tamb\u00e9m n\u00e3o conseguem hierarquizar adequadamente as fontes de informa\u00e7\u00e3o a partir da sua credibilidade. Assim, quando lidam com informa\u00e7\u00f5es conflitantes, n\u00e3o sabem como responder e podem inclusive combinar informa\u00e7\u00f5es para criar uma resposta que ser\u00e1 incorreta.<\/span><\/p>\n

Na verdade, o tema tamb\u00e9m diz respeito \u00e0s falhas da intelig\u00eancia artificial que podem causar danos diretos a terceiros. Como j\u00e1 mencionei em artigo anterior<\/span>[3]<\/a>, dentre os erros mais divulgados pela imprensa, est\u00e3o as sugest\u00f5es de utilizar cola em pizza, comer uma pedra por dia, beber pelo menos dois litros de urina para se livrar mais rapidamente de pedras nos rins, correr com tesouras em prol de benef\u00edcios cardiovasculares, deixar c\u00e3es em carros fechados em lugares quentes, dentre outros. Foi noticiada at\u00e9 sugest\u00e3o de suic\u00eddio para quem se disse com depress\u00e3o.<\/span><\/p>\n

Todas essas caracter\u00edsticas mostram que erros de diversas naturezas, inclusive os que maculam a identidade das pessoas, n\u00e3o apenas s\u00e3o poss\u00edveis como prov\u00e1veis, podendo causar in\u00fameros danos \u00e0queles que foram mal interpretados ou erroneamente descritos pelos sistemas de intelig\u00eancia artificial. A utiliza\u00e7\u00e3o mal intencionada por determinados usu\u00e1rios pode agravar o problema.<\/span><\/p>\n

Da\u00ed por que precisamos estar atentos a esse tipo de falha, assim como \u00e9 dever das plataformas evitar, mitigar e reparar casos evidentes de erros que causam danos a cidad\u00e3os. No caso ora descrito, ressalta-se que houve a tentativa de resolver a quest\u00e3o de forma extrajudicial, mas a big tech n\u00e3o retirou a informa\u00e7\u00e3o, sob o fundamento de que \u201cn\u00e3o teria poder para excluir a informa\u00e7\u00e3o, pois sua intelig\u00eancia artificial apenas organiza as informa\u00e7\u00f5es nas p\u00e1ginas j\u00e1 dispon\u00edveis na internet\u201d.<\/span>\u00a0<\/span>[4]<\/a><\/p>\n

Tal argumento \u00e9 extremamente preocupante, porque n\u00e3o \u00e9 poss\u00edvel se imaginar um sistema de intelig\u00eancia artificial sem controle ou sem a necess\u00e1ria supervis\u00e3o humana. Considerando as caracter\u00edsticas dos modelos de intelig\u00eancia artificial e a previsibilidade dos erros, \u00e9 inaceit\u00e1vel que as plataformas n\u00e3o assumam as devidas responsabilidades.<\/span><\/p>\n

No caso do erro de identidade, o caso retratado n\u00e3o \u00e9 in\u00e9dito. Reportagem do Valor que tratou do tema mencionou decis\u00e3o similar que responsabilizou o Bing da Microsoft por ter acusado um m\u00e9dico de cometer dezenas de ass\u00e9dios sexuais quando, na verdade, ele apenas fazia parte da comiss\u00e3o que investigava os delitos<\/span>[5]<\/a>. <\/span><\/p>\n

Tais hip\u00f3teses de erros da intelig\u00eancia artificial guardam muitas aproxima\u00e7\u00f5es com a quest\u00e3o do furto de identidade, tema que eu j\u00e1 abordei em coluna anterior, na qual tratei do emblem\u00e1tico caso da utiliza\u00e7\u00e3o, pelo ChatGPT, da voz da atriz Scarlett Johansson, ainda que a empresa sustentasse que chegou ao resultado de forma sint\u00e9tica<\/span>[6]<\/a>. <\/span><\/p>\n

O que o epis\u00f3dio de Scarlett Johansson mostra \u00e9 a confus\u00e3o que a intelig\u00eancia artificial, ainda que n\u00e3o intencionalmente, pode criar a respeito da identidade das pessoas. Assim como acontece no erro de identidade, o que vemos s\u00e3o atribui\u00e7\u00f5es indevidas ou equivocadas sobre as pessoas ou suas caracter\u00edsticas que podem ter graves repercuss\u00f5es sobre importantes direitos da personalidade, como nome, honra, imagem, identidade e autodetermina\u00e7\u00e3o informativa.<\/span><\/p>\n

Informa\u00e7\u00f5es direto ao ponto sobre o que realmente importa: assine gratuitamente a JOTA<\/span> Principal, a nova newsletter do JOTA<\/span><\/a><\/h3>\n

Logo, \u00e9 fundamental que estejamos atentos para utiliza\u00e7\u00f5es da tecnologia que podem se mostrar diametralmente opostas a direitos da personalidade. No caso brasileiro, independentemente de eventual regula\u00e7\u00e3o futura sobre o tema, a arquitetura protetiva dos direitos da personalidade \u2013 desenhada tanto pela Constitui\u00e7\u00e3o Federal, como tamb\u00e9m pelo C\u00f3digo Civil e pela LGPD \u2013 j\u00e1 assegura aos titulares os mecanismos para prevenir e reprimir esse tipo de pr\u00e1tica.<\/span><\/p>\n

Vale lembrar que a LGPD assegura aos titulares de dados pessoais a qualidade de dados, ou seja, a garantia, aos titulares, de exatid\u00e3o, clareza, relev\u00e2ncia e atualiza\u00e7\u00e3o dos dados, de acordo com a necessidade e para o cumprimento da finalidade de seu tratamento. O artigo 18, III, tamb\u00e9m trata do direito dos usu\u00e1rios \u00e0 \u201ccorre\u00e7\u00e3o de dados incompletos, inexatos ou desatualizados\u201d.<\/span><\/p>\n

Sob v\u00e1rios aspectos, essa \u00e9 uma importante discuss\u00e3o do constitucionalismo digital, que imp\u00f5e retifica\u00e7\u00e3o e revis\u00e3o de atos ou julgamentos equivocados sobre os cidad\u00e3os.<\/span><\/p>\n

Assim, o caso retratado como exemplo \u00e9 um excelente pretexto para que possamos refletir, com maior cuidado, sobre os deveres dos desenvolvedores de intelig\u00eancia artificial diante da necess\u00e1ria observ\u00e2ncia dos direitos da personalidade daqueles que podem ser afetados por atribui\u00e7\u00f5es ou julgamentos equivocados.<\/span><\/p>\n

\n

[1]<\/a>\u00a0<\/span>https:\/\/www.migalhas.com.br\/arquivos\/2025\/6\/DE1EA59756D0E8_%C2%B7ProcessoJudicialEletronico.pdf<\/a><\/span>\u00a0<\/span><\/p>\n<\/div>\n

\n

[2]<\/a>\u00a0<\/span>Valor Econ\u00f4mico<\/span>. Justi\u00e7a condena Google a indenizar por erro de informa\u00e7\u00e3o de intelig\u00eancia artificial. Edi\u00e7\u00e3o de 06.06.2025.<\/span><\/p>\n<\/div>\n

\n

[3]<\/a>\u00a0<\/span>https:\/\/www.jota.info\/opiniao-e-analise\/colunas\/constituicao-empresa-e-mercado\/as-falhas-da-inteligencia-artificial-generativa-do-google<\/a><\/span>\u00a0<\/span><\/p>\n<\/div>\n

\n

[4]<\/a>\u00a0<\/span>Valor Econ\u00f4mico<\/span>. Justi\u00e7a condena Google a indenizar por erro de informa\u00e7\u00e3o de intelig\u00eancia artificial. Edi\u00e7\u00e3o de 06.06.2025.<\/span><\/p>\n<\/div>\n

\n

[5]<\/a>\u00a0<\/span>Valor Econ\u00f4mico<\/span>. Justi\u00e7a condena Google a indenizar por erro de informa\u00e7\u00e3o de intelig\u00eancia artificial. Edi\u00e7\u00e3o de 06.06.2025.<\/span><\/p>\n<\/div>\n

\n

[6]<\/a>\u00a0<\/span>https:\/\/www.jota.info\/opiniao-e-analise\/colunas\/constituicao-empresa-e-mercado\/o-chatgpt-e-a-voz-de-scarlett-johansson<\/a><\/span>\u00a0<\/span><\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

Recentemente o Google foi condenado a indenizar uma pessoa em raz\u00e3o de informa\u00e7\u00f5es falsas que foram disponibilizadas pela ferramenta de intelig\u00eancia artificial da plataforma e de todos os transtornos da\u00ed decorrentes[1]. A v\u00edtima foi indevidamente apontada como propriet\u00e1ria de uma plataforma de apostas e recebeu amea\u00e7as por conta disso. Em sua sucinta fundamenta\u00e7\u00e3o, a senten\u00e7a […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/12891"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=12891"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/12891\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=12891"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=12891"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=12891"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}