O Google desenvolveu uma nova estrutura chamada Hora da soneca do projeto que diz permitir que um modelo de linguagem grande (LLM) understand pesquisas de vulnerabilidades com o objetivo de melhorar as abordagens de descoberta automatizada.
“A arquitetura Naptime está centrada na interação entre um agente de IA e uma base de código alvo”, disseram os pesquisadores do Google Venture Zero, Sergei Glazunov e Mark Model. “O agente recebe um conjunto de ferramentas especializadas projetadas para imitar o fluxo de trabalho de um pesquisador de segurança humana”.
A iniciativa tem esse nome porque permite que os humanos “tirem cochilos regulares”, ao mesmo tempo que auxilia na pesquisa de vulnerabilidades e na automatização da análise de variantes.
A abordagem, em sua essência, busca aproveitar os avanços na compreensão do código e na capacidade de raciocínio geral dos LLMs, permitindo-lhes replicar o comportamento humano quando se trata de identificar e demonstrar vulnerabilidades de segurança.
Ele abrange vários componentes, como uma ferramenta Code Browser que permite ao agente de IA navegar pela base de código de destino, uma ferramenta Python para executar scripts Python em um ambiente de área restrita para difusão, uma ferramenta Debugger para observar o comportamento do programa com diferentes entradas e um Reporter. ferramenta para monitorar o progresso de uma tarefa.
O Google disse que o Naptime também é independente de modelo e de back-end, sem mencionar que é melhor na sinalização de buffer overflow e falhas avançadas de corrupção de memória, de acordo com benchmarks CYBERSECEVAL 2. CYBERSECEVAL 2, lançado no início de abril por pesquisadores da Meta, é um conjunto de avaliação para quantificar riscos de segurança do LLM.
Nos testes realizados pela gigante das buscas para reproduzir e explorar as falhas, as duas categorias de vulnerabilidade alcançaram novas pontuações máximas de 1,00 e 0,76, acima dos 0,05 e 0,24, respectivamente, do OpenAI GPT-4 Turbo.
“O Naptime permite que um LLM understand pesquisas de vulnerabilidade que imitam de perto a abordagem iterativa e baseada em hipóteses dos especialistas em segurança humana”, disseram os pesquisadores. “Essa arquitetura não apenas melhora a capacidade do agente de identificar e analisar vulnerabilidades, mas também garante que os resultados sejam precisos e reproduzíveis”.
