A Microsoft lançou recentemente um cláusula de pesquisa intitulado: Faíscas de Perceptibilidade Universal Sintético: Primeiros experimentos com GPT-4. Conforme descrito pela Microsoft:
Oriente papel relata nossa investigação de uma versão inicial do GPT-4, quando ainda estava em desenvolvimento ativo pela OpenAI. Afirmamos que (esta versão inicial do) GPT-4 faz segmento de um novo grupo de LLMs (junto com ChatGPT e PaLM do Google, por exemplo) que exibem lucidez mais universal do que os modelos de IA anteriores.
Neste cláusula, há evidências conclusivas que demonstram que o GPT-4 vai muito além da memorização e que possui uma compreensão profunda e maleável de conceitos, habilidades e domínios. Na verdade, sua capacidade de generalizar excede em muito a de qualquer ser humano vivo hoje.
Embora já tenhamos discutido os benefícios da AGI, devemos somar rapidamente o consenso universal sobre o que é um sistema AGI. Em núcleo, uma AGI é um tipo de IA avançada que pode ser generalizada em vários domínios e não tem escopo restrito. Exemplos de IA restrita incluem um veículo autônomo, um chatbot, um bot de xadrez ou qualquer outra IA projetada para um único propósito.
Em conferência, um AGI seria capaz de interpolar com flexibilidade entre qualquer um dos itens supra ou qualquer outro campo de especialização. É uma IA que aproveitaria algoritmos nascentes, uma vez que aprendizagem por transferência e aprendizagem evolutiva, ao mesmo tempo que exploraria algoritmos legados, uma vez que aprendizagem por reforço profundo.
A descrição supra do AGI corresponde à minha experiência pessoal com o uso do GPT-4, muito uma vez que às evidências compartilhadas no cláusula de pesquisa divulgado pela Microsoft.
Uma das instruções descritas no cláusula é que o GPT-4 escreva uma prova da infinidade dos primos na forma de um poema.
Se analisarmos os requisitos para a geração de tal poema, percebemos que ele requer raciocínio matemático, sentença poética e geração de linguagem proveniente. Oriente é um repto que excederia a capacidade média da maioria dos humanos.
O cláusula queria entender se o GPT-4 estava simplesmente produzindo teor fundamentado na memorização universal versus compreensão do contexto e capacidade de raciocínio. Quando solicitado a recriar um poema no estilo de Shakespeare, ele conseguiu fazê-lo. Isto requer um nível multifacetado de compreensão que excede em muito a capacidade da população em universal e inclui a teoria da mente e o génio matemático.
Uma vez que calcular a lucidez GPT-4?
A questão portanto é uma vez que podemos medir a lucidez de um LLM? E o GPT-4 está exibindo comportamentos de verdadeiro aprendizagem ou mera memorização?
A forma atual de testar um sistema de IA consiste em julgar o sistema num conjunto de conjuntos de dados de referência padrão e prometer que são independentes dos dados de formação e que abrangem uma série de tarefas e domínios. Oriente tipo de teste é quase impossível devido à quantidade quase ilimitada de dados nos quais o GPT-4 foi treinado.
O cláusula portanto se aprofunda no território da geração de tarefas e questões novas e difíceis que demonstram de forma persuasivo que o GPT-4 vai muito além da memorização e que possui uma compreensão profunda e maleável de conceitos, habilidades e domínios.
Quando se trata de lucidez, o GPT-4 pode gerar contos, roteiros e calcular as fórmulas mais complicadas.
O GPT-4 também é capaz de codificar em um nível muito supino, tanto em termos de escrita de código a partir de instruções quanto de compreensão do código existente. GPT-4 pode mourejar com uma ampla gama de tarefas de codificação, desde
desafios de codificação para aplicações do mundo real, desde montagem de grave nível até estruturas de supino nível, desde estruturas de dados simples até programas complexos, uma vez que jogos. O GPT-4 também pode raciocinar sobre a realização de código, simular os efeitos das instruções e explicar os resultados em linguagem proveniente. GPT-4 pode até executar pseudocódigo,
O GPT-4 pode oferecer respostas racionais a quase todas as solicitações fornecidas. Na verdade, a sua lucidez é quase invencível na sua dificuldade.
Limitações do GPT-4
O cláusula continua descrevendo uma vez que eles investigaram as respostas e comportamentos do GPT-4, para verificar sua consistência, congruência e correção, e para deslindar suas limitações e preconceitos.
A limitação mais óbvia é a tendência a ter alucinações. Cá está um exemplo de alucinação dada no cláusula em que o GPT-4 estava esperançoso em sua resposta, que era completamente falsa.
Parece que mesmo o GPT-4 entende esta limitação atual com alucinações, pois esta foi a resposta que deu quando perguntei o que é uma alucinação do GPT:
Uma alucinação GPT refere-se a um fenômeno em que um padrão de transformador generativo pré-treinado (GPT), uma vez que aquele com o qual você está interagindo atualmente, produz uma resposta que não é baseada em informações factuais ou não é congruente com o contexto fornecido. Essas alucinações ocorrem quando o padrão gera um texto que pode parecer plausível, mas na verdade é incorreto, enganoso ou sem sentido.
Em outras palavras, quando você treina uma IA LLM nos dados mundiais, uma vez que evita que um sistema aprenda dados incorretos? Um grande padrão de linguagem aprendendo e regurgitando desinformação e teorias da conspiração podem, na verdade, ser uma das maiores armadilhas e ameaças que a humanidade enfrenta com a adoção em larga graduação de LLMs. Na verdade, esta poderia ser uma das maiores ameaças da AGI, uma prenúncio que surpreendentemente passa despercebida quando se discute os perigos da AGI.
Provas de Perceptibilidade GPT-4
O cláusula ilustra que não importava que tipo de prompts complexos fossem direcionados a ele, o GPT-4 superaria as expectativas. Conforme afirmado no cláusula:
Seu domínio incomparável da linguagem proveniente. Ele pode não somente gerar texto fluente e congruente, mas também compreendê-lo e manipulá-lo de diversas maneiras, uma vez que somar, trasladar ou responder a um conjunto extremamente vasto de perguntas. Ou por outra, por tradução entendemos não somente entre diferentes línguas naturais, mas também traduções em tom e estilo, muito uma vez que em domínios uma vez que medicina, recta, contabilidade, programação de computadores, música e muito mais.
Avaliações técnicas simuladas foram dadas ao GPT-4; neste contexto, facilmente passou a valer que se fosse um humano do outro lado, ele seria contratado instantaneamente uma vez que engenheiro de software. Um teste prévio semelhante de conhecimento do GPT-4 no Multistate Bar Exam mostrou uma precisão supra de 70%. Isto significa que no porvir poderemos automatizar muitas das tarefas que atualmente são atribuídas aos advogados. Na verdade, existem algumas startups que agora estão trabalhando para produzir advogados robôs usando GPT-4.
Produzindo Novo Conhecimento
Um dos argumentos do cláusula é que a única coisa que resta ao GPT-4 para provar verdadeiros níveis de compreensão é produzir novos conhecimentos, uma vez que provar novos teoremas matemáticos, um feito que atualmente permanece fora do alcance dos LLMs.
Portanto, novamente, levante é o Santo Graal de uma AGI. Embora existam perigos em um AGI ser controlado em mãos erradas, os benefícios de um AGI ser capaz de investigar rapidamente todos os dados históricos para deslindar novos teoremas, curas e tratamentos são quase infinitos.
Uma AGI poderia ser o gavinha que faltava para encontrar curas para doenças genéticas raras que agora carecem de financiamento da indústria privada, para tratar o cancro de uma vez por todas e para maximizar a eficiência da pujança renovável para expelir a nossa subordinação de pujança insustentável. Na verdade, isso poderia resolver qualquer problema consequencial que alimentasse o sistema AGI. Isso é o que Sam Altman e a equipe da OpenAI entendem: um AGI é realmente a última invenção necessária para resolver a maioria dos problemas e beneficiar a humanidade.
É simples que isso não resolve o problema do botão nuclear: quem controla a AGI e quais são as suas intenções. Independentemente disso, levante cláusula faz um trabalho fenomenal argumentando que o GPT-4 é um salto em direção à realização do sonho que os pesquisadores de IA têm desde 1956, quando o workshop de verão inicial do Projeto de Pesquisa de Verão de Dartmouth sobre Perceptibilidade Sintético foi lançado pela primeira vez.
Embora seja discutível se o GPT-4 é um AGI, pode-se facilmente discutir que, pela primeira vez na história da humanidade, é um sistema de IA que pode passar no Teste de Turing.
