Apple fecha o cerco a apps de IA que geram nudez falsa
A Apple (AAPL) inscreveu nas diretrizes para desenvolvedores uma vedação explícita a aplicativos que recorrem a inteligência artificial para fabricar conteúdo ofensivo e àqueles que se fantasiam de ferramentas comuns para atravessar a análise da App Store e, já aprovados, exibir recursos de nudez artificial — imagens de pessoas despidas montadas a partir de fotos comuns. A revisão foi divulgada no fim de semana e vem acompanhada do balanço de fiscalização da empresa: mais de 150.000 aplicativos foram impedidos de chegar aos usuários no último ano, e 193.000 contas de desenvolvedores foram removidas por fraude e abuso.
O que passou a ser proibido
A companhia reescreveu os trechos dedicados a inteligência artificial e a conteúdo de terceiros. A exigência agora é de barreiras preventivas suficientes para conter material censurável: filtragem do que é impróprio, canal de denúncia aberto ao usuário e recurso para bloquear perfis abusivos.
Funções escondidas ou não documentadas continuam fora da loja. O alvo declarado é a manobra de anunciar uma finalidade durante a revisão e só liberar a capacidade danosa — como a geração de nudez falsa — depois do aval, tática que o setor chama de bait-and-switch. A Apple informou que retirará do ar programas que acrescentem atributos inexistentes na versão submetida à análise.
A seção jurídica também foi ajustada, para deixar evidente a exclusão de aplicativos ligados a tráfico de pessoas e a exploração infantil.
A pressão vinha de fora
Em julho, a cidade de São Francisco mandou Apple e Google limparem suas lojas e apagarem os aplicativos de nudez artificial. O procurador municipal David Chiu acusou as duas empresas de lucrar com esses programas por meio das taxas de loja. Em abril, relatório do Tech Transparency Project apontou que as duas plataformas abrigavam vários desses apps, alguns deles classificados como adequados a menores de idade.
O que os números revelam
| Frente de controle | Registro |
|---|---|
| Apps barrados na revisão (último ano) | mais de 150.000 |
| Contas de desenvolvedores removidas (último ano) | 193.000 |
| Ordem de retirada em São Francisco | julho |
| Relatório sobre nudez artificial nas lojas | abril |
A leitura para quem investe começa pelo modelo de negócio: a loja é a porta de entrada da receita de serviços da Apple, que cobra comissão sobre transações e assinaturas feitas dentro dos aplicativos. É exatamente essa taxa que está no centro da acusação feita em São Francisco. Regras mais duras reduzem a exposição a sanções e a danos de imagem, mas encarecem a revisão e aumentam o atrito com desenvolvedores — o elo que sustenta o ecossistema.
Há também o efeito de precedente. Ao transformar moderação em obrigação contratual, a Apple cria uma régua que tende a ser cobrada de outras plataformas que ganham dinheiro com conteúdo produzido por terceiros. Para o investidor, o recado é que a moderação saiu do terreno da reputação e entrou na conta do risco regulatório das grandes empresas de tecnologia.