{"id":20220,"date":"2026-02-04T05:58:56","date_gmt":"2026-02-04T08:58:56","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2026\/02\/04\/deepnudes-do-grok-o-que-mais-e-preciso-para-regular-a-ia-no-brasil\/"},"modified":"2026-02-04T05:58:56","modified_gmt":"2026-02-04T08:58:56","slug":"deepnudes-do-grok-o-que-mais-e-preciso-para-regular-a-ia-no-brasil","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2026\/02\/04\/deepnudes-do-grok-o-que-mais-e-preciso-para-regular-a-ia-no-brasil\/","title":{"rendered":"Deepnudes do Grok: o que mais \u00e9 preciso para regular a IA no Brasil?"},"content":{"rendered":"

Nos \u00faltimos anos, o debate brasileiro sobre regula\u00e7\u00e3o de plataformas e tecnologias como a intelig\u00eancia artificial tem sido marcado por ciclos muito semelhantes: algo horr\u00edvel (e criminoso) acontece e mobiliza a discuss\u00e3o p\u00fablica<\/strong> \u2014 como os ataques nas escolas em 2023, ou os atos antidemocr\u00e1ticos de 8 de janeiro em 2024 \u2014 e logo ap\u00f3s, por\u00e9m, a discuss\u00e3o estagna no Poder Legislativo.<\/strong><\/p>\n

Isto j\u00e1 levou, por exemplo, a uma a\u00e7\u00e3o do Poder Judici\u00e1rio para deliberar acerca dos impasses sobre as regras de responsabilidade[1] que valem para o ambiente digital, diante da demora do Congresso Nacional. Desde o importante v\u00eddeo do influenciador Felca sobre adultiza\u00e7\u00e3o, um novo cap\u00edtulo tomou conta do debate p\u00fablico no Brasil, a ponto de impactar o andamento e aprova\u00e7\u00e3o do ECA Digital[2].<\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/p>\n

Qual ser\u00e1, ent\u00e3o, o grande evento necess\u00e1rio para ajudar na aprova\u00e7\u00e3o de uma regula\u00e7\u00e3o para sistemas de intelig\u00eancia artificial?<\/strong> Com o esc\u00e2ndalo[3] de deepnudes geradas sem autoriza\u00e7\u00e3o com a ferramenta Grok \u2013 IA da plataforma X, antigo Twitter \u2013, em que milhares de mulheres e at\u00e9 mesmo crian\u00e7as[4] t\u00eam sido despidas de forma ilega<\/strong>l, ser\u00e1 que finalmente chegou o momento de o Congresso Nacional avan\u00e7ar em dire\u00e7\u00e3o a uma regula\u00e7\u00e3o respons\u00e1vel e protetiva de direitos?<\/strong><\/p>\n

Deepnudes geradas pelo Grok e a viola\u00e7\u00e3o em massa de direitos de imagem e privacidade<\/h2>\n

Milhares de imagens de nudez geradas por intelig\u00eancia artificial estiveram \u2013 e continuam \u2013 circulando no X sem o consentimento da pessoa retratada. O conte\u00fado sexual produzido de forma sint\u00e9tica exp\u00f4s, principalmente, meninas e mulheres \u00e0 uma viola\u00e7\u00e3o da privacidade, intimidade, gerando danos imensur\u00e1veis[5] \u00e0s v\u00edtimas.<\/strong><\/p>\n

Ficou evidente, mais uma vez, como tecnologias que operam com pouca transpar\u00eancia e responsabiliza\u00e7\u00e3o<\/strong> s\u00e3o terrenos f\u00e9rteis para a automatiza\u00e7\u00e3o das nossas disfun\u00e7\u00f5es sociais como a viol\u00eancia, discursos discriminat\u00f3rios e propaga\u00e7\u00e3o de \u00f3dio nas redes. Internacionalmente, pa\u00edses como a Fran\u00e7a, It\u00e1lia e o Reino Unido[6] instauraram investiga\u00e7\u00f5es para apurar a conduta da empresa. No Brasil, a sociedade civil tem se mobilizado para que haja responsabiliza\u00e7\u00e3o e que, finalmente, possamos avan\u00e7ar num debate sobre responsabilidade e limites de tecnologias como a IA generativa.<\/strong><\/p>\n

Outra resposta foram as recomenda\u00e7\u00f5es expedidas pela ANPD, MPF e Senacom[7] \u2013 dentre elas que seja implementado imediatamente mecanismos que pro\u00edbam a gera\u00e7\u00e3o de novas imagens, excluir as contas envolvidas nessas viola\u00e7\u00f5es, elaborar um relat\u00f3rio de impacto \u00e0 prote\u00e7\u00e3o de dados pessoais, entre outras medidas.<\/p>\n

O papel da (des)regula\u00e7\u00e3o da IA nesse e em outros danos<\/h2>\n

O cen\u00e1rio acima se torna ainda mais grave em um contexto sem qualquer lei para o uso e desenvolvimento de sistemas de IA.<\/strong> A vers\u00e3o atual[8] do PL 2338\/2023 possui previs\u00f5es espec\u00edficas para conte\u00fado sint\u00e9tico nos arts. 19 e 20 e medidas de governan\u00e7a para IAs generativas no art. 29 e seguintes.<\/p>\n

H\u00e1 obriga\u00e7\u00f5es para que o desenvolvedor inclua identificador nos conte\u00fados gerados pelas ferramentas, de modo a auxiliar na verifica\u00e7\u00e3o de autenticidade, proveni\u00eancia, modifica\u00e7\u00f5es ou transmiss\u00e3o e, consequentemente, na responsabiliza\u00e7\u00e3o caso haja a produ\u00e7\u00e3o de conte\u00fado indevido.<\/p>\n

Com a evolu\u00e7\u00e3o cada vez mais r\u00e1pida de modelos generativos, cuja performance deixa cada vez mais dif\u00edcil distinguir o que \u00e9 um conte\u00fado verdadeiro e o que \u00e9 gerado por IA<\/strong>, torna-se fundamental a aprova\u00e7\u00e3o de salvaguardas m\u00ednimas para assegurar a integridade da informa\u00e7\u00e3o em ambiente digital e proteger a democracia brasileira.<\/strong><\/p>\n

No art. 29, a determina\u00e7\u00e3o de realiza\u00e7\u00e3o de avalia\u00e7\u00e3o preliminar desponta como uma obriga\u00e7\u00e3o relevante para aferi\u00e7\u00e3o dos riscos da tecnologia e aplica\u00e7\u00e3o das medidas de governan\u00e7a adequadas ao seu perfil.<\/p>\n

Apesar de serem previstos deveres para IAs generativas que contenham riscos sist\u00eamicos, ou seja, que, de acordo com as defini\u00e7\u00f5es do pr\u00f3prio texto da proposta, apresentem \u201cpotenciais efeitos adversos negativos (\u2026) com impacto significativo sobre direitos fundamentais individuais e sociais\u201d, o texto carece de normas gerais para este tipo de modelo. Uma vez que o principal m\u00e9todo de treinamento de sistemas generativos ainda consiste em uma raspagem abrangente de conte\u00fados encontrados na internet, sem a devida avalia\u00e7\u00e3o e curadoria dos dados coletados, \u00e9 preciso que haja a determina\u00e7\u00e3o de identifica\u00e7\u00e3o e ado\u00e7\u00e3o de medidas de mitiga\u00e7\u00e3o para vieses discriminat\u00f3rios de forma expressa<\/strong>.<\/p>\n

Sobretudo no contexto brasileiro, em que discrimina\u00e7\u00f5es como o racismo possuem car\u00e1ter estrutural, as IAs generativas que se destinam \u00e0 nossa realidade devem conter par\u00e2metros r\u00edgidos para evitar a discrimina\u00e7\u00e3o algor\u00edtmica e a potencializa\u00e7\u00e3o da viola\u00e7\u00e3o de direitos fundamentais<\/strong> de grupos historicamente marginalizados. No que tange \u00e0 produ\u00e7\u00e3o de deepnudes<\/em>, ou de conte\u00fado sint\u00e9tico de terceiros, \u00e9 imperiosa a necessidade de exig\u00eancia de formas de comprova\u00e7\u00e3o do consentimento expl\u00edcito da pessoa a ser retratada,<\/strong> como meio de proteger a privacidade, os dados pessoais e os direitos de imagem dos indiv\u00edduos.<\/p>\n

Ainda aguardamos por algo pior para regular a IA?<\/h2>\n

De fato, o PL ainda pode e deve melhorar<\/strong>, mas a velocidade da sua tramita\u00e7\u00e3o, al\u00e9m da dificuldade da sociedade civil de se inserir nos debates da Comiss\u00e3o Especial de IA[9] da C\u00e2mara dos Deputados, tem servido como o principal escudo para que casos como o do Grok e outros permane\u00e7am acontecendo indefinidamente.<\/strong><\/p>\n

Mulheres, crian\u00e7as, adolescentes, pessoas negras, pessoas trans e outros grupos vulner\u00e1veis s\u00e3o os que mais ficam expostos neste cen\u00e1rio, mas a sociedade perde como um todo quando a tecnologia avan\u00e7a sem qualquer compromisso em proteger as pessoas.<\/strong><\/p>\n

Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/p>\n

Ent\u00e3o, o que falta para a regular a IA no Brasil?<\/strong> Ser\u00e1 que precisamos de algo mais ultrajante e vulgar do que a exposi\u00e7\u00e3o de fotos de mulheres e crian\u00e7as nuas, sem consentimento, para que o PL 2338 seja tomado como prioridade pelos diferentes setores da sociedade para 2026? Ser\u00e1 necess\u00e1rio testar a democracia brasileira novamente, em um novo per\u00edodo eleitoral, sem qualquer regra a assegurar \u00e9tica e responsabilidade em modelos de intelig\u00eancia artificial?<\/p>\n

[1] FERNANDES, Leonardo. Est\u00e1 decidido: STF define que plataformas devem ser responsabilizadas por conte\u00fados de usu\u00e1rios. Brasil de Fato, <\/strong>26 jun. 2025. Dispon\u00edvel em: https:\/\/www.brasildefato.com.br\/2025\/06\/26\/esta-decidido-stf-define-que-plataformas-devem-ser-responsabilizadas-por-conteudos-de-usuarios\/<\/a><\/p>\n

[2] ISMERIM, Fl\u00e1vio. \u201cECA Digital\u201d: entenda o que muda com o PL da Adultiza\u00e7\u00e3o. CNN Brasil, <\/strong>27 ago. 2025. Dispon\u00edvel em: https:\/\/www.cnnbrasil.com.br\/tecnologia\/eca-digital-entenda-o-que-muda-com-o-pl-da-adultizacao\/<\/a><\/p>\n

[3] MORAES, L\u00edgia. IA criminosa: o que est\u00e1 por tr\u00e1s do esc\u00e2ndalo das imagens sexualizadas do Grok, de Musk. Veja, <\/strong>16 jan. 2026. Dispon\u00edvel em: https:\/\/veja.abril.com.br\/tecnologia\/ia-criminosa-o-que-esta-por-tras-do-escandalo-das-imagens-sexualizadas-do-grok-de-musk\/<\/a><\/p>\n

[4] BOECHAT, Nara. O que IA de Musk afirma sobre cria\u00e7\u00e3o de imagens sexualizadas de crian\u00e7as. Veja, <\/strong>2 jan. 2026. Dispon\u00edvel em: https:\/\/veja.abril.com.br\/coluna\/veja-gente\/o-que-ia-de-musk-afirma-sobre-criacao-de-imagens-sexualizadas-de-criancas\/<\/a><\/p>\n

[5] IBELLI, Luana. Montagens de IA com fotos mulheres nuas criam traumas reais e preju\u00edzos \u00e0 vida social e profissional. Brasil de Fato, <\/strong>14 jan. 2026. Dispon\u00edvel em: https:\/\/www.brasildefato.com.br\/podcast\/brasil-de-fato-entrevista\/2026\/01\/14\/montagens-de-ia-com-fotos-mulheres-nuas-criam-traumas-reais-e-prejuizos-a-vida-social-e-profissional\/<\/a><\/p>\n

[6] MUKHERJEE, Supantha; SANDLE, Paul. Elon Musk anuncia medidas para restringir \u201cnudes digitais\u201d do Grok; entenda. CNN Brasil, <\/strong>15 jan. 2026. Dispon\u00edvel em: https:\/\/www.cnnbrasil.com.br\/tecnologia\/elon-musk-anuncia-medidas-para-restringir-nudes-digitais-do-grok-entenda\/<\/a><\/p>\n

[7] AG\u00caNCIA NACIONAL DE PROTE\u00c7\u00c3O DE DADOS. ANPD, MPF e Senacon recomendam que X impe\u00e7a gera\u00e7\u00e3o e circula\u00e7\u00e3o de conte\u00fados sexualizados indevidos por meio do Grok. Dispon\u00edvel em: https:\/\/www.gov.br\/anpd\/pt-br\/assuntos\/noticias\/anpd-mpf-e-senacon-recomendam-que-x-impeca-geracao-e-circulacao-de-conteudos-sexualizados-indevidos-por-meio-do-grok<\/a><\/p>\n

[8] A vers\u00e3o atual do Projeto de Lei 2.338\/2023 mencionada no texto \u00e9 a aprovada pelo Senado Federal e encaminhada para a C\u00e2mara dos Deputados, para discuss\u00e3o no \u00e2mbito da Comiss\u00e3o Especial em IA. Dispon\u00edvel em: https:\/\/www.camara.leg.br\/proposicoesWeb\/prop_mostrarintegra?codteor=2868197&filename=PL%202338\/2023<\/a><\/p>\n

[9] Comiss\u00e3o Especial sobre Intelig\u00eancia Artificial (PL 2338\/23) da C\u00e2mara dos Deputados. P\u00e1gina oficial em: https:\/\/www2.camara.leg.br\/atividade-legislativa\/comissoes\/comissoes-temporarias\/especiais\/57a-legislatura\/comissao-especial-sobre-inteligencia-artificial-pl-2338-23<\/a><\/p>","protected":false},"excerpt":{"rendered":"

Nos \u00faltimos anos, o debate brasileiro sobre regula\u00e7\u00e3o de plataformas e tecnologias como a intelig\u00eancia artificial tem sido marcado por ciclos muito semelhantes: algo horr\u00edvel (e criminoso) acontece e mobiliza a discuss\u00e3o p\u00fablica \u2014 como os ataques nas escolas em 2023, ou os atos antidemocr\u00e1ticos de 8 de janeiro em 2024 \u2014 e logo ap\u00f3s, […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/20220"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=20220"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/20220\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=20220"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=20220"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=20220"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}