Nos quase dois anos desde o lançamento do ChatGPT, a inteligência synthetic generativa passou por todo um ciclo de hype tecnológico, desde expectativas elevadas que mudam a sociedade até alimentar uma recente correção do mercado de ações. Mas especificamente no setor de segurança cibernética, o entusiasmo em torno da IA generativa (genAI) ainda é justificado; poderá levar mais tempo do que os investidores e analistas previram para mudar completamente o sector.
O sinal mais claro e mais recente da mudança no entusiasmo ocorreu na Conferência Black Hat USA, no início de agosto, na qual a IA generativa desempenhou um papel muito pequeno no lançamento de produtos, nas demonstrações e na criação de buzz em geral. Em comparação com a Conferência RSA apenas quatro meses antes, com os mesmos fornecedores, o foco da Black Hat na IA foi insignificante, o que levaria razoavelmente observadores neutros a acreditar que a indústria está a evoluir ou que a IA se tornou uma mercadoria. Mas não é bem assim.
Aqui está o que quero dizer. O benefício transformador da aplicação de IA generativa na indústria de segurança cibernética provavelmente não virá de chatbots genéricos ou de camadas rápidas de IA sobre modelos de processamento de dados. Esses são os alicerces para casos de uso mais avançados e eficientes, mas, no momento, não são especializados para o setor de segurança e, como resultado, não estão gerando uma nova onda de resultados de segurança ideais para os clientes. Em vez disso, a verdadeira transformação que a IA proporcionará à indústria de segurança ocorrerá quando os modelos de IA forem personalizados e ajustados para casos de utilização de segurança.
Os atuais casos de uso geral de IA em segurança empregam em grande parte engenharia imediata e geração aumentada de recuperação, que é uma estrutura de IA que essencialmente permite que grandes modelos de linguagem (LLMs) aproveitem recursos de dados adicionais fora de seus dados de treinamento, combinando as melhores partes da IA generativa e recuperação de banco de dados. A utilidade deles varia muito dependendo do caso de uso e de quão bem o processamento de dados existente de um fornecedor oferece suporte ao caso de uso; ei, não são “mágicos”. Isto é verdade para outras aplicações que requerem dados proprietários e conhecimentos que não prevalecem na Web, como diagnósticos médicos e trabalhos jurídicos. Parece provável que as empresas ajustem os pipelines de processamento de dados e os sistemas de acesso a dados para otimizar os casos de uso generativos de IA. Além disso, as empresas de IA generativa estão a encorajar o desenvolvimento de modelos especialmente ajustados, embora ainda não se saiba até que ponto isto funcionará bem para utilizações onde a qualidade e o detalhe são essenciais.
No entanto, existem alguns motivos pelos quais essa especialização levará algum tempo para entrar em vigor no setor de segurança. Um dos principais motivos é que a personalização desses modelos requer muitas pessoas envolvidas durante o treinamento, que são especialistas no assunto em segurança cibernética e IA, dois setores que lutam para contratar talentos suficientes. A indústria da cibersegurança carece de cerca de quatro milhões de profissionais em todo o mundo, de acordo com o Fórum Económico Mundial, e a Reuters estima que haverá uma lacuna de contratação de 50% para cargos relacionados com IA num futuro próximo.
Sem uma abundância de especialistas disponíveis, o trabalho preciso necessário para adaptar os modelos de IA para funcionarem num contexto de segurança será retardado. O custo para realizar a ciência de dados necessária para treinar esses modelos também limita o número de organizações que possuem recursos para realizar pesquisas em modelagem de IA personalizada. São necessários milhões de dólares para adquirir o poder de processamento exigido pelos modelos de IA de ponta, e esse dinheiro deve vir de algum lugar. Mesmo quando uma organização tem os recursos e a equipe para alimentar a pesquisa sobre personalização de IA, o progresso actual não acontece da noite para o dia. Levará algum tempo para descobrir a melhor forma de aumentar os modelos de IA para beneficiar os profissionais e analistas de segurança e, como acontece com qualquer nova ferramenta, haverá uma curva de aprendizado quando processadores de linguagem pure específicos de segurança, chatbots e outras integrações assistidas por IA forem introduzidos .
A IA generativa ainda está preparada para mudar o mundo da segurança cibernética para um novo paradigma, onde as capacidades ofensivas de IA que os adversários e os actores de ameaças aproveitam competirão com os modelos de IA dos fornecedores de segurança construídos para detectar e monitorizar ameaças. A investigação e o desenvolvimento necessários para alimentar essa mudança vão demorar um pouco mais do que a comunidade tecnológica em geral previu.
A postagem Sobre IA, paciência é uma virtude apareceu pela primeira vez em Unite.AI.
