Um Redditor descobriu avisos integrados do Apple Intelligence no macOS beta, nos quais a Apple diz ao recurso Sensible Reply para não ter alucinações.
O Sensible Reply ajuda você a responder e-mails e mensagens verificando as perguntas feitas, solicitando respostas e, em seguida, formulando uma resposta…
Resposta inteligente
Veja como a Apple descreve o recurso:
Use uma Resposta Inteligente no Mail para redigir rapidamente uma resposta de e-mail com todos os detalhes corretos. O Apple Intelligence pode identificar perguntas que lhe foram feitas em um e-mail e oferecer seleções relevantes para incluir em sua resposta. Com alguns toques, você está pronto para enviar uma resposta com perguntas-chave respondidas.
Prompts de inteligência da Apple integrados
Os sistemas de IA generativa são informados sobre o que fazer por meio de textos conhecidos como prompts. Alguns desses prompts são fornecidos pelos usuários, enquanto outros são escritos pelo desenvolvedor e incorporados ao modelo. Por exemplo, a maioria dos modelos tem instruções incorporadas, ou pré-prompts, dizendo a eles para não sugerir nada que possa prejudicar as pessoas.
O Redditor devanxd2000 descobriu um conjunto de arquivos JSON no macOS 15.1 beta que parecem ser instruções pré-prompt da Apple para o recurso Resposta Inteligente.
Você é um assistente de e-mail útil que pode ajudar a identificar perguntas relevantes de um determinado e-mail e um pequeno trecho de resposta.
Dado um e-mail e o snippet de resposta, faça perguntas relevantes que são explicitamente feitas no e-mail. A resposta para essas perguntas será selecionada pelo destinatário, o que ajudará a reduzir a alucinação ao redigir a resposta.
Por favor, produza as principais perguntas junto com o conjunto de possíveis respostas/opções para cada uma dessas perguntas. Não faça perguntas que sejam respondidas pelo snippet de resposta. As perguntas devem ser curtas, não mais do que 8 palavras. Dê sua saída em um formato json com uma lista de dicionários contendo perguntas e respostas como chaves. Se nenhuma pergunta for feita no e-mail, então produza uma lista vazia. Produza somente conteúdo json válido e nada mais.
“Não tenha alucinações”
A Beira encontrou instruções específicas, dizendo à IA para não ter alucinações:
Não tenha alucinações. Não invente informações factuais.
Opinião do 9to5Mac
As instruções para não alucinar parecem… otimistas! A razão pela qual os sistemas de IA generativa alucinam (isto é, inventam informações falsas) é que eles não têm uma compreensão actual do conteúdo e, portanto, nenhuma maneira confiável de saber se sua saída é verdadeira ou falsa.
A Apple entende completamente que as saídas de seus sistemas de IA passarão por um escrutínio muito próximo, então talvez seja apenas um caso de “cada pequena ajuda”? Com esses avisos, pelo menos o sistema de IA entende a importância de não inventar informações, mesmo que não esteja em posição de obedecer.
Imagem: composição 9to5Mac usando uma imagem da Apple
