O Google está incentivando desenvolvedores terceirizados de aplicativos Android a incorporar recursos de inteligência synthetic generativa (GenAI) de maneira responsável.
A nova orientação do gigante das buscas e da publicidade é um esforço para combater conteúdos problemáticos, incluindo conteúdo sexual e discurso de ódio, criados por meio de tais ferramentas.
Para esse fim, os aplicativos que geram conteúdo usando IA devem garantir que não criam Conteúdo Restrito, ter um mecanismo para os usuários denunciarem ou sinalizarem informações ofensivas e comercializá-los de uma maneira que represente com precisão os recursos do aplicativo. Recomenda-se também aos desenvolvedores de aplicativos que testem rigorosamente seus modelos de IA para garantir que respeitem a segurança e a privacidade do usuário.
“Certifique-se de testar seus aplicativos em vários cenários de usuário e protegê-los contra solicitações que possam manipular seu recurso de IA generativo para criar conteúdo prejudicial ou ofensivo”, disse Prabhat Sharma, diretor de confiança e segurança do Google Play, Android e Chrome.
O desenvolvimento ocorre no momento em que uma investigação recente da 404 Media encontrou vários aplicativos na Apple App Retailer e na Google Play Retailer que anunciavam a capacidade de criar imagens de nudez não consensuais.
O uso de dados públicos pela Meta para IA desperta preocupações
A rápida adoção de tecnologias de IA nos últimos anos também levou a preocupações mais amplas de privacidade e segurança relacionadas com os dados de formação e a segurança dos modelos, proporcionando aos intervenientes mal-intencionados uma forma de extrair informações sensíveis e adulterar os modelos subjacentes para obter resultados inesperados.
Além do mais, a decisão da Meta de usar informações públicas disponíveis em seus produtos e serviços para ajudar a melhorar suas ofertas de IA e ter a “melhor tecnologia de recomendação do mundo” levou a empresa austríaca de privacidade noyb a registrar uma reclamação em 11 países europeus, alegando violação das leis de privacidade do GDPR. na região.
“Essas informações incluem coisas como postagens públicas ou fotos públicas e suas legendas”, anunciou a empresa no ultimate do mês passado. “No futuro, também poderemos usar as informações que as pessoas compartilham ao interagir com nossos recursos generativos de IA, como Meta AI, ou com uma empresa, para desenvolver e melhorar nossos produtos de IA.”
Especificamente, a noyb acusou a Meta de transferir a carga para os usuários (ou seja, fazer com que eles optem pela exclusão em vez da aceitação) e por não fornecer informações adequadas sobre como a empresa planeja usar os dados do cliente.
A Meta, por sua vez, observou que “contará com a base jurídica de 'interesses legítimos' para processar certos dados próprios e de terceiros na região europeia e no Reino Unido” para melhorar a IA e construir melhores experiências. Os usuários da UE têm até 26 de junho para cancelar o processamento, o que podem fazer enviando uma solicitação.
Embora o gigante da mídia social tenha feito questão de esclarecer que a abordagem está alinhada com a forma como outras empresas de tecnologia estão desenvolvendo e melhorando suas experiências de IA na Europa, a autoridade norueguesa de proteção de dados, Datatilsynet, disse que é “duvidosa” sobre a legalidade do processo.
“Em nossa opinião, o mais pure teria sido pedir consentimento aos usuários antes que suas postagens e fotos fossem usadas dessa forma”, afirmou a agência em comunicado.
“O Tribunal de Justiça Europeu já deixou claro que a Meta não tem nenhum ‘interesse legítimo’ em anular o direito dos usuários à proteção de dados quando se trata de publicidade”, disse Max Schrems, da noyb. “No entanto, a empresa está tentando usar os mesmos argumentos para o treinamento de ‘tecnologia de IA’ indefinida”.
O recall da Microsoft enfrenta mais escrutínio
A mais recente confusão regulatória da Meta também chega em um momento em que o próprio recurso baseado em IA da Microsoft, chamado Recall, recebeu uma reação rápida devido aos riscos de privacidade e segurança que podem surgir como resultado da captura de capturas de tela das atividades dos usuários em seus PCs com Home windows a cada cinco segundos e da transformação. -los em um arquivo pesquisável.
O pesquisador de segurança Kevin Beaumont, em uma nova análise, descobriu que é possível que um ator mal-intencionado implante um ladrão de informações e exfiltre o banco de dados que armazena as informações analisadas nas capturas de tela. O único pré-requisito para conseguir isso é que o acesso aos dados requer privilégios de administrador na máquina do usuário.
“O Recall permite que os agentes de ameaças automatizem a coleta de tudo o que você já viu em segundos”, disse Beaumont. “(A Microsoft) deveria relembrar o Recall e retrabalhá-lo para ser o recurso que merece ser, entregue em uma knowledge posterior.”
Outros pesquisadores demonstraram de forma semelhante ferramentas como o TotalRecall, que tornam o Recall pronto para abusos e extraem informações altamente confidenciais do banco de dados. “O Home windows Recall armazena tudo localmente em um banco de dados SQLite não criptografado, e as capturas de tela são simplesmente salvas em uma pasta no seu PC”, disse Alexander Hagenah, que desenvolveu o TotalRecall.
A partir de 6 de junho de 2024, o TotalRecall foi atualizado para não exigir mais direitos de administrador usando um dos dois métodos descritos pelo pesquisador de segurança James Forshaw para contornar o requisito de privilégio de administrador para acessar os dados do Recall.
“Ele só é protegido por ser (lista de controle de acesso) transferido para SYSTEM e, portanto, qualquer escalonamento de privilégios (ou limite não relacionado à segurança *tosse*) é suficiente para vazar as informações”, disse Forshaw.
A primeira técnica envolve personificar um programa chamado AIXHost.exe adquirindo seu token ou, melhor ainda, aproveitando os privilégios do usuário atual para modificar as listas de controle de acesso e obter acesso ao banco de dados completo.
Dito isso, vale ressaltar que o Recall está atualmente em versão prévia e a Microsoft ainda pode fazer alterações no aplicativo antes que ele fique amplamente disponível para todos os usuários ainda este mês. Espera-se que seja habilitado por padrão para PCs Copilot+ compatíveis.
