Coreia do Sul declara guerra aos “médicos de IA” e deepfakes

Acabou a festa para o Dr. ChatGPT e as celebridades clonadas na Ásia. A Coreia do Sul anunciou que, a partir do próximo ano, anunciantes serão obrigados a rotular qualquer conteúdo criado por inteligência artificial.

Por que importa: A desinformação gerada por IA deixou de ser apenas um problema político para virar um problema de saúde pública e financeiro.

• A medida tenta frear uma onda de golpes que usa deepfakes para vender de tudo: de pílulas de emagrecimento duvidosas a sites de apostas ilegais.
• O alvo principal são idosos, que têm mais dificuldade em distinguir um médico real de um avatar gerado por prompt.

O cenário: O governo sul-coreano, liderado pelo primeiro-ministro Kim Min-seok, cansou de tentar enxugar gelo.

• Regra: Quem cria, edita ou posta fotos/vídeos de IA deve rotulá-los. Plataformas (como YouTube e Facebook) são proibidas de remover esse aviso.
• Punição: Multas pesadas. Quem distribuir informação falsa intencionalmente poderá pagar até cinco vezes o valor do dano causado.
• Prazo: A revisão das leis deve ocorrer no início de 2026, com implementação gradual.

Anúncios com IA estão “rompendo a ordem do mercado”. — Lee Dong-hoon, diretor de política econômica

Os números: A escala do problema é assustadora. O Ministério de Segurança Alimentar e Farmacêutica identificou mais de 96.700 anúncios ilegais de produtos de saúde em 2024.

• Isso é um salto considerável em relação aos 59.000 detectados em 2023.
• Muitos desses anúncios usam “médicos virtuais” para dar credibilidade a suplementos, ou clonam vozes de famosos para endossar produtos.

A contradição: Enquanto aperta o cerco contra os deepfakes, a Coreia do Sul corre para não perder a liderança no desenvolvimento da própria tecnologia.

• O governo prometeu aumentar gastos em P&D para chips de IA e expandir hubs de fabricação de semicondutores.
• Samsung e SK Hynix já controlam mais de 65% do mercado global de chips de memória.

A Real: É o clássico jogo de “gato e rato” versão Cyberpunk. Reguladores admitiram que usarão a própria IA para monitorar e derrubar os anúncios falsos em até 24 horas. A exigência do selo é válida, mas sejamos honestos: golpistas que criam blackmail rings sexuais (outro problema grave citado no país) ou vendem remédios falsos dificilmente vão obedecer a uma regra de etiqueta digital. A responsabilidade real vai cair no colo das plataformas, que terão que filtrar o lixo antes que ele chegue ao feed da sua avó.