O rápido avanço da inteligência synthetic (IA) trouxe benefícios significativos e mudanças transformadoras em vários setores. No entanto, também introduziu novos riscos e desafios, especialmente quando se trata de fraude e segurança. Os deepfakes, um produto da IA generativa, estão a tornar-se cada vez mais sofisticados e representam uma ameaça substancial à integridade dos sistemas de segurança baseados em voz.
As conclusões do Relatório de Inteligência e Segurança de Voz de 2024 da Pindrop destacam o impacto dos deepfakes em vários setores, os avanços tecnológicos que impulsionam essas ameaças e as soluções inovadoras que estão sendo desenvolvidas para combatê-las.
A ascensão dos Deepfakes: uma espada de dois gumes
Deepfakes utilizam algoritmos avançados de aprendizado de máquina para criar conteúdo sintético de áudio e vídeo altamente realista. Embora essas tecnologias tenham aplicações interessantes em entretenimento e mídia, elas também apresentam sérios desafios de segurança. De acordo com o relatório da Pindrop, os consumidores norte-americanos estão mais preocupados com o risco de deepfakes e clones de voz no sector bancário e financeiro, com 67,5% a expressarem preocupação significativa.
Impacto nas instituições financeiras
As instituições financeiras são particularmente vulneráveis a ataques deepfake. Os fraudadores usam vozes geradas por IA para se passar por indivíduos, obter acesso não autorizado a contas e manipular transações financeiras. O relatório revela que houve um número recorde de comprometimentos de dados em 2023, totalizando 3.205 incidentes – um aumento de 78% em relação ao ano anterior. O custo médio de uma violação de dados nos Estados Unidos ascende agora a 9,5 milhões de dólares, com os contact facilities a suportarem o peso das consequências da segurança.
Um caso notável envolveu o uso de uma voz deepfake para enganar uma empresa sediada em Hong Kong para que transferisse 25 milhões de dólares, destacando o potencial devastador destas tecnologias quando utilizadas de forma maliciosa.
Ameaças mais amplas à mídia e à política
Além dos serviços financeiros, os deepfakes também representam riscos significativos para a mídia e as instituições políticas. A capacidade de criar conteúdos de áudio e vídeo falsos e convincentes pode ser usada para espalhar desinformação, manipular a opinião pública e minar a confiança nos processos democráticos. O relatório observa que 54,9% dos consumidores estão preocupados com a ameaça dos deepfakes às instituições políticas, enquanto 54,5% preocupam-se com o seu impacto nos meios de comunicação social.
Em 2023, a tecnologia deepfake foi implicada em vários incidentes de grande repercussão, incluindo um ataque robocall que utilizou a voz sintética do presidente Biden. Tais incidentes sublinham a urgência do desenvolvimento de mecanismos robustos de detecção e prevenção.
Avanços tecnológicos impulsionando deepfakes
A proliferação de ferramentas generativas de IA, como ChatGPT da OpenAI, Bard do Google e Bing AI da Microsoft, reduziu significativamente as barreiras à criação de deepfakes. Hoje, mais de 350 sistemas generativos de IA são usados para diversas aplicações, incluindo Eleven Labs, Descript, Podcastle, PlayHT e Speechify. O modelo VALL-E da Microsoft, por exemplo, pode clonar uma voz a partir de um clipe de áudio de apenas três segundos.
Esses avanços tecnológicos tornaram os deepfakes mais baratos e fáceis de produzir, aumentando sua acessibilidade tanto para usuários benignos quanto para atores mal-intencionados. Até 2025, o Gartner prevê que 80% das ofertas de IA conversacional incorporarão IA generativa, acima dos 20% em 2023.
Combatendo Deepfakes: Inovações de Pindrop
Para enfrentar a crescente ameaça dos deepfakes, a Pindrop introduziu várias soluções de ponta. Uma das mais notáveis é a garantia Pulse Deepfake, uma garantia inédita que reembolsa os clientes elegíveis se o conjunto de produtos da Pindrop não detectar um deepfake ou outra fraude de voz sintética. Esta iniciativa visa proporcionar tranquilidade aos clientes e, ao mesmo tempo, ampliar os recursos de detecção de fraudes.
Soluções tecnológicas para aumentar a segurança
O relatório da Pindrop destaca a eficácia de sua tecnologia de detecção de vivacidade, que analisa chamadas telefônicas ao vivo em busca de recursos espectrotemporais que indicam se a voz na chamada é “ao vivo” ou sintética. Em testes internos, a solução de detecção de vivacidade da Pindrop foi considerada 12% mais precisa do que os sistemas de reconhecimento de voz e 64% mais precisa do que os humanos na identificação de vozes sintéticas.
Além disso, o Pindrop emprega prevenção e autenticação de fraude multifatorial integrada, aproveitando voz, dispositivo, comportamento, metadados da operadora e sinais de atividade para aumentar a segurança. Esta abordagem multifacetada eleva significativamente a fasquia para os fraudadores, tornando cada vez mais difícil o seu sucesso.
Tendências Futuras e Preparação
Olhando para o futuro, o relatório prevê que a fraude deepfake continuará a aumentar, representando um risco de 5 mil milhões de dólares apenas para os contact facilities nos EUA. A crescente sofisticação dos sistemas de conversão de texto em voz, combinada com a tecnologia de fala sintética de baixo custo, apresenta desafios constantes.
Para ficar à frente dessas ameaças, a Pindrop recomenda técnicas de detecção precoce de riscos, como detecção de falsificação de identificador de chamadas e detecção contínua de fraudes, para monitorar e mitigar atividades fraudulentas em tempo actual. Ao implementar estas medidas de segurança avançadas, as organizações podem proteger-se melhor contra o cenário em evolução da fraude impulsionada pela IA.
Conclusão
O surgimento de deepfakes e de IA generativa representa um desafio significativo no campo da fraude e da segurança. O Relatório de Inteligência e Segurança de Voz de 2024 da Pindrop ressalta a necessidade urgente de soluções inovadoras para combater essas ameaças. Com avanços na detecção de vivacidade, autenticação multifatorial e estratégias abrangentes de prevenção de fraudes, a Pindrop está na vanguarda dos esforços para garantir o futuro das interações baseadas em voz. À medida que o panorama tecnológico continua a evoluir, também o devem fazer as nossas abordagens para garantir a segurança e a confiança na period digital.
