Navegando juntos pela estrada para a inteligência synthetic geral (AGI): uma abordagem equilibrada

À medida que a inteligência synthetic geral (AGI) avança rapidamente, a conversa está mudando do debate filosófico para um de relevância prática, com imensa oportunidade de transformar negócios globais e o potencial humano.

A série de eventos AGI Icons da Turing reúne inovadores de IA para discutir avanços práticos e responsáveis ​​de soluções AGI. Em 24 de julho, a Turing sediou nosso segundo evento AGI Icons no SHACK15, o centro exclusivo de São Francisco para empreendedores e inovadores de tecnologia. Moderado por Anita Ramaswamy, colunista financeira do The Info, sentei-me com o CEO da Quora, Adam D'Angelo, para discutir o caminho para a AGI e compartilhar insights sobre cronogramas de desenvolvimento, aplicações do mundo actual e princípios para implantação responsável.

O caminho da IA ​​para a AGI

A “estrela do norte” que impulsiona a pesquisa de IA é a busca pela “inteligência” de nível humano. O que separa a AGI da IA ​​padrão é sua progressão além da funcionalidade estreita em direção a uma maior generalidade (amplitude) e desempenho (profundidade), excedendo até mesmo as capacidades humanas.

Este é “o caminho para a AGI”, onde a IA progride para sistemas mais autônomos, raciocínio superior, capacidades aprimoradas e funcionalidade melhorada. Essas progressões são divididas em cinco níveis taxonômicos:

• Nível 0: Sem IA – Ferramentas simples como calculadoras
• Nível 1: AGI emergente – LLMs atuais como ChatGPT
• Nível 2: AGI competente – sistemas de IA que combinam adultos qualificados em tarefas específicas
• Nível 3: AGI especialista – sistemas de IA no 90º percentil de adultos qualificados
• Nível 4: Virtuoso AGI – Sistemas de IA no 99º percentil
• Nível 5: AGI super-humana – sistemas de IA que superam todos os humanos

Durante nossa discussão, Adam definiu o conceito de AGI como “software program que pode fazer tudo o que um humano pode fazer”. Ele prevê um futuro onde a IA se aprimora, eventualmente assumindo tarefas humanas complexas tratadas por pesquisadores de aprendizado de máquina.

Levando isso um passo adiante, comparei minhas visões sobre AGI às de um “cérebro synthetic” capaz de diversas tarefas como “tradução automática, consultas complexas e codificação”. Essa é a distinção entre AGI e IA mais preditiva e formas estreitas de ML que vieram antes dela. Parece um comportamento emergente.

Cronogramas de desenvolvimento realistas no caminho para a AGI

Assim como em uma viagem de carro, a pergunta mais comum sobre a AGI é: “Já chegamos?” A resposta curta é não, mas à medida que a pesquisa em IA acelera, a pergunta certa a ser feita é: “Como podemos equilibrar a AGI ambição com expectativas realistas?”

Adam destacou que o aumento da automação da AGI mudará os papéis humanos em vez de eliminá-los, levando a um crescimento econômico mais rápido e produtividade mais eficiente. “À medida que essa tecnologia se torna mais poderosa, chegaremos a um ponto em que 90% do que as pessoas estão fazendo hoje é automatizado, mas todos terão mudado para outras coisas.”

Atualmente, grande parte da economia mundial é limitada pelo número de pessoas disponíveis para trabalhar. Uma vez que atingimos o AGI, podemos fazer a economia crescer a uma taxa muito mais rápida do que é possível hoje.

Não podemos dar um cronograma definitivo para quando a verdadeira AGI será realizada, mas Adam e eu citamos vários exemplos de avanços de IA abrindo caminho para futuras progressões de AGI. Por exemplo, os experimentos de Turing com ferramentas de desenvolvedor de IA mostraram um aumento de 33% na produtividade do desenvolvedor, sugerindo um potencial ainda maior.

Aplicações e efeitos no mundo actual

Uma das aplicações mais promissoras da AGI está no campo do desenvolvimento de software program. Massive language fashions (LLMs), um precursor da AGI, já estão sendo usados ​​para aprimorar o desenvolvimento de software program e melhorar a qualidade do código. Vejo essa period da IA ​​mais próxima da biologia do que da física, onde todos os tipos de trabalho de conhecimento melhorarão. Haverá muito mais produtividade desbloqueada da e para a humanidade.

Minha perspectiva vem da experiência, onde testemunhei um aumento de 10 vezes na produtividade pessoal ao usar LLMs e ferramentas de desenvolvimento de IA. Também estamos usando IA na Turing para avaliar talentos técnicos e combinar os engenheiros de software program certos e especialistas de domínio de nível de PhD aos empregos certos.

O que estou vendo no espaço de treinamento LLM, por exemplo, é que os instrutores alavancam esses modelos para aumentar a produtividade do desenvolvedor e acelerar os cronogramas do projeto. Ao automatizar tarefas de codificação de rotina e fornecer sugestões de código inteligentes, os LLMs liberam os desenvolvedores para se concentrarem em aspectos mais estratégicos e criativos de seu trabalho.

Adam concluiu: “LLMs não escreverão todo o código, mas entender os fundamentos do software program continua sendo essential. Calculadoras não eliminaram a necessidade de aprender aritmética.” Ele acrescentou: “Desenvolvedores se tornam mais valiosos ao usar esses modelos. A presença de LLMs é positiva para empregos de desenvolvedores e haverá muitos ganhos para os desenvolvedores.”

Estamos entrando em uma period de ouro do desenvolvimento de software program, onde um engenheiro de software program pode ser 10 vezes mais produtivo, criar mais e beneficiar o mundo.

Desafios técnicos e de governança

Apesar do potencial promissor da AGI, desafios devem ser enfrentados. Processos de avaliação robustos e estruturas regulatórias são necessários para equilibrar a inovação da AGI com a segurança pública.

Adam enfatizou a necessidade de testes completos e sandboxing para limitar os piores cenários. “Você quer ter algum tipo de processo de avaliação robusto… e fazer com que a distribuição que você está testando seja o mais próxima possível do uso no mundo actual.”

E eu concordo. O gargalo para o progresso da AGI agora é a inteligência humana, em vez do poder de computação ou dados. A experience humana é essential para o ajuste fino e a personalização de modelos de IA, e é por isso que Turing se concentra em buscar e combinar profissionais de tecnologia de primeira linha para equilibrar modelos com inteligência humana.

Precisamos enfrentar os desafios da AGI de frente, concentrando-nos nas capacidades em vez dos processos, na generalidade, no desempenho e no potencial.

Perspectivas sobre os desafios: melhorando as interações entre humanos e IAGI

Algumas das melhores práticas para lidar com os desafios da AGI incluem:

• Concentre-se nas capacidades ou “o que a AGI pode fazer” em vez de processos ou “como ela faz”.
• Equilibre generalidade e desempenho como componentes essenciais da AGI.
• Concentre-se em tarefas cognitivas/metacognitivas e habilidades de aprendizagem em vez de tarefas/resultados físicos.
• Meça a AGI pelo seu potencial e capacidades.
• Concentre-se na validade ecológica alinhando referências com tarefas do mundo actual que as pessoas valorizam.
• Lembre-se de que o caminho para a AGI não é um ponto ultimate único, é um processo iterativo.

Somando-se a essas melhores práticas, Adam e eu enfatizamos a importância de melhorar as interações humano-AGI. Adam enfatizou o valor de aprender como e quando usar esses modelos, vendo-os como poderosas ferramentas de aprendizado que podem ensinar rapidamente qualquer subdomínio da programação, ao mesmo tempo em que enfatizava a importância de entender os fundamentos.

Da mesma forma, sugiro que tornar cada humano um usuário avançado de LLMs poderia aumentar significativamente a produtividade e a compreensão em vários campos. Os LLMs podem tornar informações complexas acessíveis a todos, aumentando a produtividade em vários campos. Mas isso requer uma abordagem iterativa e em fases: começando com copilotos de IA auxiliando humanos, depois passando para agentes com supervisão humana e, eventualmente, alcançando agentes totalmente autônomos em tarefas bem avaliadas.

Com isso, a diferenciação pós-treinamento é crítica, envolvendo ajuste fino supervisionado (SFT) e alavancando a inteligência humana para construir modelos personalizados. As empresas que podem obter e combinar instrutores, engenheiros e outros irão acelerar seus recursos de ajuste fino e engenharia personalizada. Colaborar com empresas líderes como OpenAI e Anthropic também é essencial para aplicar esses modelos em diversos setores.

Princípios do Desenvolvimento Responsável da AGI

“O desenvolvimento da AGI deve ser responsável e ético, garantindo segurança e transparência, ao mesmo tempo em que promove a inovação.” – Adam D'Angelo

O desenvolvimento responsável da AGI exige a adesão a vários princípios fundamentais:

• Segurança: garantir que os sistemas AGI sejam confiáveis ​​e resistentes ao uso indevido, especialmente à medida que os modelos são dimensionados para acomodar novas entradas de dados ou algoritmos.
• Transparência: Ser realista sobre as capacidades, limitações e “como funciona” da AGI.
• Considerações éticas: abordando a justiça, o preconceito e como a AGI impactará o emprego e outros fatores socioeconômicos.
• Regulamentação: Trabalhar com governos e outras organizações para desenvolver estruturas que equilibrem o progresso com a segurança pública.
• Benchmarking: Os benchmarks futuros devem quantificar o comportamento e as capacidades da IAG em relação a considerações éticas e níveis de taxonomia.

Conclusão: concentre-se no caminho para a AGI, não em um único ponto ultimate

O caminho para a AGI é complexo, mas cada parada ao longo do caminho é importante para a jornada. Ao entender as melhorias iterativas da AGI — junto com suas implicações — pessoas e empresas serão capazes de adotar responsavelmente essa tecnologia em evolução. Esse é o ponto essential do desenvolvimento responsável da AGI, onde a interatividade do mundo actual informa como navegamos nessa nova fronteira.