Relaxe, isso não é um estranho em sua casa – é apenas uma pegadinha de IA

Departamentos de polícia de Massachusetts ao Texas estão alertando os residentes sobre uma pegadinha viral do TikTok que usa imagens geradas por IA para fazer parecer que um sem-teto entrou na casa de alguém, provocando ligações de pânico para o 911,

“Além de ser de mau gosto, há muitas razões pelas quais esta pegadinha é, para ser franco, estúpida e potencialmente perigosa”, disse o Departamento de Polícia de Salem, Massachusetts, em uma declaração. Esse departamento de polícia emitiu um alerta público e detalhou casos em que os destinatários “acreditavam sinceramente que havia um intruso real” e ligaram para o 911, necessitando de resposta imediata por parte dos agentes.

No Texas, a polícia também enfrentou as consequências da pegadinha viral. O Crônica de Houston relatado que os oficiais em Rocha Redondaum subúrbio de Austin, respondeu a vários chamadas para o 911 depois que os moradores viram fotos geradas por IA retratando um “sem-teto” dentro de suas casas. Os investigadores determinaram que as imagens foram fabricadas como parte da tendência TikTok.

O Departamento de Polícia de Round Rock alertou que tais fraudes “puxam recursos de emergência e criam medo desnecessário”, de acordo com FOX7 Austin. As autoridades locais disseram que estão analisando se aqueles que conscientemente compartilham as imagens adulteradas para provocar pânico podem enfrentar acusações de denúncias falsas sob a lei do Texas.

A tendência, conhecida nas redes sociais como “pegadinha do sem-teto de IA”, foi documentada por meios de comunicação locais e de tecnologia à medida que se espalhava pelo TikTok e Snapchat. A beira relatado pela primeira vez que os adolescentes estão gerando imagens realistas de um estranho em cozinhas e corredores e enviando-as aos pais para capturarem suas reações, com alguns vídeos atraindo milhões de visualizações.

As emissoras e as redações locais expressaram as preocupações da aplicação da lei: ABC Bom dia América destacou avisos de departamentos de que a pegadinha desperdiça recursos de emergência e pode levar a mal-entendidos perigosos; estações em Michigan e Minnesota relataram avisos semelhantes.

TikTok disse tinha rótulos adicionados aos vídeos que a NBC sinalizou para esclarecer que eles são gerados por IA. Os registros de transparência da empresa para a Califórnia sob AB 587 também descrevem as etapas de aplicação, incluindo remoção de conteúdo e banimentos de contas quando as postagens violam essas regras.

A atenção das celebridades ampliou o alcance da tendência. Pessoas narrado exemplos de postagens virais, incluindo um pai que ligou para o filho 21 vezes após receber uma imagem adulterada e observou que GMA co-anfitrião Michael Strahan disse que “surtou” brevemente quando um assistente lhe enviou uma foto manipulada.