A estrutura Mannequin Spec da OpenAI mudará a forma como a IA responde a nós

A IA cresce rapidamente e os desenvolvedores às vezes não conseguem acompanhá-la. Mesmo que limitem as gerações e respostas da IA ​​para proibir seu uso indevido, seus usuários encontram maneiras de contornar os protocolos de segurança. Além disso, os modelos de IA podem gerar conteúdo impreciso ou ofensivo devido a alucinações ou bugs. Assim, a OpenAI lançou um primeiro rascunho de uma estrutura conhecida como Mannequin Spec.

O que a estrutura Mannequin Spec implica?

O documento Mannequin Spec especifica um comportamento desejado para modelos Microsoft e OpenAI. Além disso, inclui uma abordagem de três níveis dividida em objetivos centrais, regras e um guia para os comportamentos padrão da IA.

Objetivos

1. Auxiliar os usuários: Os modelos de IA devem seguir as instruções e fornecer respostas precisas e úteis aos usuários finais e desenvolvedores.
2. Beneficiar a humanidade: A IA deve considerar o impacto do conteúdo gerado nas partes interessadas, nos criadores de conteúdo e no público em geral.
3. Reflita sobre OpenAI: Os modelos de IA devem funcionar com base em normas sociais e limites legais.

Regras

1. Siga a Cadeia de Comando: Os modelos de IA devem priorizar seguir as instruções de seus desenvolvedores ou usuários estabelecidos.
2. Cumprir as Leis: De acordo com as especificações do modelo, a IA deve cumprir as leis estabelecidas.
3. Evite respostas perigosas: Os modelos de IA não devem fornecer informações que possam prejudicar os usuários.
4. Respeite os direitos dos criadores: A IA deve evitar usar dados sem consentimento.
5. Proteja a privacidade: Os modelos de IA não devem fornecer quaisquer dados pessoais dos seus utilizadores.
6. Filtrar conteúdo NSFW: A IA deve evitar a geração de conteúdo adulto.

Diretrizes de comportamento padrão

1. Usuários confiáveis: De acordo com as especificações do modelo, os modelos de IA devem se comportar como se o usuário tivesse as melhores intenções ao interagir.
2. Esclareça as instruções: Se a IA não entender um immediate ou tópico, ela deverá fazer perguntas sobre ele.
3. Respeite os limites: A IA deve ser útil sem ultrapassar.
4. Adapte-se ao contexto: Se necessário, a IA deve mudar de um estilo coloquial para um estilo conciso e vice-versa.
5. Seja neutro: A IA deve fornecer informações factuais em vez de informações factuais.
6. Incentive a bondade: Os modelos de IA não devem fornecer conteúdo ofensivo ou discriminatório.
7. Evite persuasão e manipulação: A IA não deve tentar mudar o seu ponto de vista sobre um tópico, a menos que seja instruída.
8. Admita incertezas: Os chatbots devem admitir quando geram conteúdo utilizando informações combinadas de múltiplas fontes.
9. Forneça as ferramentas certas: Existem várias ferramentas para os assistentes de IA. Portanto, eles devem fornecer os mais adequados.
10. Seja claro e conciso: A IA não deve exagerar ao gerar respostas.

A estrutura Mannequin Spec já está em uso?

A especificação do modelo proposta pela OpenAI não afetará seus modelos existentes, como GPT-4 e DALL-E 3. No entanto, a Microsoft e a OpenAI poderão usá-la em seus futuros modelos de IA. Além disso, a estrutura receberá mais atualizações com base no suggestions recebido. Além disso, a OpenAI deseja encontrar uma maneira de seus modelos usarem a estrutura diretamente.

Em última análise, a estrutura Mannequin Spec proposta pela OpenAI mudará o comportamento de sua IA. Além disso, mais modelos de IA poderão segui-lo. No entanto, pode demorar até que a OpenAI encontre uma maneira de fazer com que seus modelos a utilizem diretamente. No entanto, você pode verificar o rascunho das especificações do modelo para obter exemplos.

Quais são seus pensamentos? Você vai verificar o rascunho? Deixe-nos saber nos comentários.

Sebastião Filipoiu

Sebastian é um redator de conteúdo que deseja aprender tudo de novo sobre IA e jogos. Então, ele passa seu tempo escrevendo instruções em vários LLMs para entendê-los melhor. Além disso, Sebastian tem experiência em solucionar problemas relacionados ao desempenho em videogames e conhece bem o Home windows. Além disso, ele se interessa por qualquer coisa relacionada à tecnologia quântica e se torna um fanático por pesquisas quando quer aprender mais.