“A paz é a virtude da civilização. A guerra é seu crime. No entanto, é frequentemente na fornalha da guerra que as ferramentas mais afiadas da paz são forjadas.” – Victor Hugo.
Em 1971, uma mensagem inquietante começou a aparecer em vários computadores que compunham a ARPANET, a precursora do que hoje conhecemos como Web. A mensagem, que dizia “Eu sou o Creeper: pegue-me se puder.” period a saída de um programa chamado Creeper, que foi desenvolvido pelo famoso programador Bob Thomas enquanto ele trabalhava na BBN Applied sciences. Embora as intenções de Thomas não fossem maliciosas, o programa Creeper representa o advento do que hoje chamamos de vírus de computador.
O surgimento do Creeper na ARPANET preparou o cenário para o surgimento do primeiro software program antivírus. Embora não confirmado, acredita-se que Ray Thomlinson, famoso por inventar o e-mail, desenvolveu o Reaper, um programa projetado para remover o Creeper de máquinas infectadas. O desenvolvimento desta ferramenta usada para perseguir defensivamente e remover um programa malicioso de um computador é frequentemente referido como o início do campo da segurança cibernética. Ele destaca um reconhecimento precoce do poder potencial de um ataque cibernético e da necessidade de medidas defensivas.
A revelação da necessidade de segurança cibernética não deveria ser uma surpresa, já que o reino cibernético nada mais é do que uma abstração do mundo pure. Da mesma forma que crescemos de lutar com paus e pedras para espadas e lanças para agora bombas e aeronaves, assim também progrediu a guerra pelo reino cibernético. No começo, tudo começou com um vírus Creeper rudimentar que period uma representação atrevida do que poderia ser um prenúncio da desgraça digital. A descoberta de sistemas eletrônicos armados exigiu a invenção de soluções antivírus como o Reaper, e conforme os ataques se tornaram mais complexos, o mesmo aconteceu com as soluções defensivas. Avançando para a period dos ataques baseados em rede, os campos de batalha digitais começaram a tomar forma. Firewalls surgiram para substituir grandes muros da cidade, balanceadores de carga agem como generais direcionando recursos para garantir que um ponto singular não seja sobrecarregado, e sistemas de Detecção e Prevenção de Intrusão substituem sentinelas em torres de vigia. Isso não quer dizer que todos os sistemas são perfeitos; há sempre o medo existencial de que um rootkit benevolente favorecido globalmente, que chamamos de solução EDR, possa conter uma desreferência de ponteiro nulo que agirá como um cavalo de Troia capaz de bloquear dezenas de milhões de dispositivos Home windows.
Deixando de lado situações catastróficas, e todas elas acidentais, ainda resta a questão do que vem a seguir. Entra em cena a IA ofensiva, a arma cibernética mais perigosa até o momento. Em 2023, Foster Nethercott publicou um whitepaper no SANS Know-how Institute detalhando como os agentes de ameaças poderiam abusar do ChatGPT com capacidade técnica mínima para criar um novo malware capaz de escapar dos controles de segurança tradicionais. Vários outros artigos também examinaram o uso de IA generativa para criar worms avançados, como Morris II, e malware polimórfico, como Black Mamba.
A solução aparentemente paradoxal para essas ameaças crescentes é o desenvolvimento e a pesquisa adicionais em IA ofensiva mais sofisticada. O ditado de Platão, “A necessidade é a mãe da invenção”, é uma caracterização adequada da segurança cibernética hoje, onde novas ameaças impulsionadas por IA impulsionam a inovação de controles de segurança mais avançados. Embora o desenvolvimento de ferramentas e técnicas de IA ofensivas mais sofisticadas esteja longe de ser moralmente louvável, ele continua a emergir como uma necessidade inescapável. Para nos defendermos efetivamente contra essas ameaças, precisamos entendê-las, o que exige seu desenvolvimento e estudo adicionais.
A justificativa para essa abordagem está enraizada em uma verdade simples. Você não pode se defender contra uma ameaça que não entende, e sem o desenvolvimento e a pesquisa sobre essas novas ameaças, não podemos esperar entendê-las. A infeliz realidade é que os maus atores já estão alavancando a IA ofensiva para inovar e implantar novas ameaças. Tentar refutar isso seria equivocado e ingênuo. Por causa disso, o futuro da segurança cibernética está no desenvolvimento posterior da IA ofensiva.
Se você quiser aprender mais sobre IA ofensiva e ganhar experiência prática na implementação em testes de penetração, convido você a participar do meu próximo workshop na SANS Community Safety 2024: IA ofensiva para engenharia social e desenvolvimento de deep fakes em 7 de setembro em Las Vegas. Este workshop será uma ótima introdução ao meu novo curso, SEC535: IA ofensiva – Ferramentas e técnicas de ataque, a ser lançado no início de 2025. O evento como um todo também será uma excelente oportunidade para conhecer vários especialistas líderes em IA e aprender como ela está moldando o futuro da segurança cibernética. Você pode obter detalhes do evento e a lista completa de atividades bônus aqui.
Observação: Este artigo foi escrito por Foster Nethercott, um veterano do Corpo de Fuzileiros Navais dos Estados Unidos e do Afeganistão com quase uma década de experiência em segurança cibernética. Foster é dono da empresa de consultoria de segurança Fortisec e é autor do SANS Know-how Institute, atualmente desenvolvendo o novo curso SEC 535 Offensive Synthetic Intelligence.
