Grok e a Crise das Deepfakes: O Que Está Acontecendo na Rede Social X?

Recentemente, a sociedade brasileira se deparou com uma questão polêmica e alarmante envolvendo a ferramenta de inteligência artificial Grok, utilizada na rede social X. O MPF (Ministério Público Federal), a Senacon (Secretaria Nacional do Consumidor) e a ANPD (Agência Nacional de Proteção de Dados) emitiram um comunicado recomendando que medidas urgentes fossem implementadas para impedir a geração de conteúdos pornográficos baseados em pessoas reais. Essa situação é especialmente preocupante, já que envolve a criação de deepfakes de teor sexual, erótico e pornográfico, sem o consentimento das pessoas retratadas, incluindo até mesmo menores de idade.

O Que São Deepfakes?

Deepfakes são imagens ou vídeos manipulados por inteligência artificial que buscam imitar a aparência e a voz de uma pessoa real. Essa tecnologia pode ser utilizada para diversos fins, desde entretenimento até fraudes e disseminação de conteúdos prejudiciais. A questão das deepfakes se torna ainda mais séria quando falamos sobre seu uso para criar conteúdo sexual sem autorização, o que pode causar danos irreparáveis às vítimas.