Rob Clark é o Presidente e Diretor de Tecnologia (CTO) da Seekr. Rob tem mais de 20 anos de experiência em engenharia de software program, gerenciamento de produtos, operações e desenvolvimento de inteligência synthetic de ponta e tecnologias de escala internet. Antes de ingressar na Seekr, ele liderou várias soluções de inteligência synthetic e pesquisa para algumas das maiores empresas de telecomunicações, publicação e comércio eletrônico do mundo.
A Seekr, uma empresa de inteligência synthetic, cria modelos de linguagem de grande porte (LLMs) confiáveis que identificam, pontuam e geram conteúdo confiável em escala.
Começando com a pesquisa na internet, a inovação contínua da Seekr produziu tecnologias patenteadas que aprimoram a segurança e o valor da internet. Seus modelos, desenvolvidos com contribuição humana especializada e explicabilidade, atendem às necessidades do cliente em avaliação de conteúdo, IA generativa e treinamento e validação LLM confiáveis.
Você pode descrever a missão principal da Seekr e como ela pretende se diferenciar no competitivo cenário da IA?
Fundamos a Seekr com base no princípio simples, mas importante, de que todos devem ter acesso a informações confiáveis, credíveis e confiáveis – não importa sua forma ou onde elas existam. Não importa se você é um consumidor on-line ou uma empresa que usa essas informações para tomar decisões importantes – sistemas de IA responsáveis permitem que todos nós entendamos as informações de forma completa e melhor, pois você precisa garantir que o que sai da IA Generativa seja preciso e confiável.
Quando a informação não é confiável, ela percorre todo o espectro, por exemplo, do sensacionalismo mais benigno ao pior caso de comportamentos inautênticos coordenados com a intenção de enganar ou influenciar em vez de informar. A abordagem da Seekr para a IA é garantir que o usuário tenha whole transparência sobre o conteúdo, incluindo procedência, linhagem e objetividade, e a capacidade de construir e alavancar uma IA que seja transparente, confiável, apresente explicabilidade e tenha todas as proteções para que consumidores e empresas possam confiar nela.
Além de fornecer Massive Language Fashions (LLMs) otimizados para o setor, a Seekr começou a construir Basis Fashions diferenciados por maior transparência e precisão com redução de erros e vieses, incluindo todas as ferramentas de validação. Isso é possível por meio da colaboração da Seekr com a Intel para usar seus aceleradores de IA Gaudi de última geração com o melhor custo-benefício possível. Optamos por não depender de modelos de fundação externos onde os dados de treinamento eram desconhecidos e mostravam erros e vieses inerentes, especialmente porque eles geralmente são treinados em dados populares em vez dos dados mais confiáveis e confiáveis. Esperamos lançá-los no remaining do ano.
Nosso produto principal é chamado SeekrFlow, uma plataforma completa de ponta a ponta que treina, valida, implementa e dimensiona IA confiável. Ela permite que as empresas alavanquem seus dados com segurança, para desenvolver rapidamente IA confiável otimizada para seu setor.
Quais são os recursos essenciais do SeekrFlow e como ele simplifica o processo de desenvolvimento e implantação de IA para empresas?
O SeekrFlow adota uma abordagem de cima para baixo, com resultados em primeiro lugar, permitindo que as empresas resolvam problemas usando IA com eficiências operacionais e novas oportunidades de receita por meio de uma plataforma coesa. Essa integração inclui acesso seguro a dados, preparação automatizada de dados, inferência de ajuste fino de modelo, guardrails, ferramentas de validação e dimensionamento, eliminando a necessidade de várias ferramentas diferentes e reduzindo a complexidade do talento técnico interno gerenciando vários aspectos do desenvolvimento de IA separadamente.
Para empresas, a personalização é essencial, pois uma abordagem de modelo único não resolve problemas comerciais exclusivos. O SeekrFlow permite que os clientes aproveitem seus dados empresariais de forma econômica e segura e se alinhem às necessidades específicas de seu setor. Isso é especialmente importante em setores regulamentados, como finanças, saúde e governo.
A abordagem de treinamento assistida por IA da Seekr reduz significativamente o custo, o tempo e a necessidade de supervisão humana associados à rotulagem e aquisição de dados, sintetizando dados de alta qualidade e específicos do domínio usando princípios específicos do domínio, como documentos de políticas, diretrizes ou dados empresariais fornecidos pelo usuário.
O compromisso da Seekr com a confiabilidade e explicabilidade está enraizado em todo o SeekrFlow. Nenhuma empresa quer implementar um modelo para produção e descobrir que ele é alucinante, fornecendo informações erradas ou um cenário de pior caso, como dar seus produtos e serviços de graça! O SeekrFlow inclui as ferramentas necessárias para validar modelos para confiabilidade, reduzir erros e permitir transparentemente que o usuário veja o que está impactando a saída de um modelo de volta aos dados de treinamento originais. Da mesma forma que engenheiros de software program e QA podem escanear, testar e validar seu código, nós fornecemos os mesmos recursos para modelos de IA.
Tudo isso é fornecido a um custo ótimo para as empresas. Nossa colaboração Intel em execução na nuvem de IA da Intel permite à Seekr o melhor preço-desempenho que repassamos aos nossos clientes.
Como o SeekrFlow aborda problemas comuns como custo, complexidade, precisão e explicabilidade na adoção de IA?
Altos preços e escassez de {hardware} de IA são duas das maiores barreiras de entrada enfrentadas pelas empresas. Graças à colaboração mencionada acima com a Intel, a Seekr stream tem acesso a grandes quantidades de {hardware} de IA de próxima geração, aproveitando a Intel's AI Cloud. Isso fornece aos clientes recursos de computação escaláveis e econômicos que podem lidar com cargas de trabalho de IA em larga escala, aproveitando os aceleradores de IA Intel Gaudi e CPUs Xeon otimizadas para IA.
É importante observar que o SeekrFlow é um provedor de nuvem e uma plataforma agnóstica e roda em chips de IA de última geração da Intel, Nvidia e outros. Nosso objetivo é abstrair a complexidade do {hardware} de IA e evitar o bloqueio de fornecedores, enquanto ainda desbloqueia todo o valor exclusivo de cada software program, ferramentas e ecossistema do chip. Isso inclui tanto a execução na nuvem quanto no native e datacenters operados.
Ao construir o SeekrFlow, vimos claramente a falta de contestabilidade que existia em outras ferramentas. A contestabilidade é primordial no Seekr, pois queremos garantir que o usuário tenha o direito de dizer que algo não é preciso e tenha uma maneira fácil de resolver isso. Com outros modelos e plataformas, geralmente é difícil ou desconhecido como corrigir erros. Correções pontuais após o fato geralmente são ineficazes, por exemplo, manipular o immediate de entrada não garante que a resposta será corrigida todas as vezes ou em todos os cenários. Damos ao usuário todas as ferramentas para transparência, explicabilidade e uma maneira simples de ensinar e corrigir o modelo em uma interface de usuário limpa. Desde a construção em cima de modelos de base confiáveis na base até ferramentas de teste e medição fáceis de usar, o SeekrFlow garante resultados precisos que podem ser compreendidos e validados. É essencial entender que as proteções de IA não são apenas algo que é bom ter ou pensar depois – em vez disso, oferecemos aos clientes ferramentas de explicabilidade e contestabilidade simples de usar desde o início da implementação.
Como a plataforma integra preparação de dados, ajuste fino, hospedagem e inferência para permitir experimentação e adaptação mais rápidas de LLMs?
O SeekrFlow integra o processo de desenvolvimento de IA de ponta a ponta, em uma plataforma. Desde o manuseio da rotulagem e formatação dos dados com sua abordagem de geração assistida por agente de IA, até o ajuste fino de um modelo base, até o serviço para inferência e monitoramento do modelo ajustado. Além disso, a ferramenta de explicabilidade do SeekrFlow permite que os modeladores de IA descubram lacunas no conhecimento do modelo, entendam por que erros e alucinações ocorrem e atuem diretamente sobre eles. Essa abordagem integrada de ponta a ponta permite experimentação rápida e iterações de modelo
Que outras tecnologias ou metodologias exclusivas a Seekr desenvolveu para garantir a precisão e a confiabilidade de seus modelos de IA?
A Seekr desenvolveu tecnologia patenteada de IA para avaliar a qualidade, confiabilidade, viés, toxicidade e veracidade do conteúdo, seja um texto, um sinal visible ou de áudio. Essa tecnologia fornece dados e conhecimento ricos que podem ser fundidos em qualquer modelo de IA, na forma de dados de treinamento, algoritmos ou guardrails de modelo. Por fim, a tecnologia da Seekr para avaliar conteúdo pode ser aproveitada para garantir a segurança, factualidade, utilidade, imparcialidade e justiça dos modelos de IA. Um exemplo disso é o SeekrAlign, que ajuda marcas e editores a aumentar o alcance e a receita com IA responsável que analisa o contexto do conteúdo por meio de nossa Pontuação de Civilidade patenteada.
A abordagem da Seekr para explicabilidade garante que as respostas do modelo de IA sejam compreensíveis e rastreáveis. À medida que os modelos de IA se envolvem em decisões de consequências, a necessidade de modeladores de IA entenderem e contestarem decisões do modelo se torna cada vez mais importante.
Como o agente de alinhamento de princípios do SeekrFlow ajuda os desenvolvedores a alinhar os modelos de IA com os valores da empresa e as regulamentações do setor?
O agente de alinhamento de princípios do SeekrFlow é um recurso essencial que ajuda desenvolvedores e empresas a reduzir o custo geral de seus sistemas baseados em RAG e alinhar eficientemente sua IA aos seus próprios princípios, valores e regulamentações do setor, sem precisar coletar e processar dados estruturados.
O agente Seekr usa algoritmos de alinhamento avançados para garantir que o comportamento dos LLMs esteja de acordo com esses padrões, intenções, regras ou valores exclusivos e predefinidos. Durante as fases de treinamento e inferência, o agente de alinhamento principal orienta os usuários por todo o processo de preparação e ajuste fino de dados, ao mesmo tempo em que integra continuamente a contribuição de especialistas e diretrizes éticas. Isso garante que nossos modelos de IA operem dentro de limites aceitáveis.
Ao fornecer ferramentas para personalizar e aplicar esses princípios, o SeekrFlow capacita as empresas a manter o controle sobre seus aplicativos de IA, garantindo que eles reflitam os valores da empresa e cumpram os requisitos legais e do setor. Essa capacidade é essencial para construir confiança com clientes e partes interessadas, pois demonstra um comprometimento com a IA responsável.
Você pode falar sobre a colaboração com a OneValley e como a tecnologia da Seekr impulsiona a plataforma Haystack AI?
OneValley é um recurso confiável para dezenas de milhares de empreendedores e pequenas e médias empresas (PMEs) em todo o mundo. Um problema comum que esses líderes enfrentam é encontrar o conselho, os produtos e os serviços certos para iniciar e expandir seus negócios. Os LLMs específicos do setor da Seekr impulsionam o mais recente produto da OneValley, o Haystack AI, que oferece aos clientes acesso a vastos bancos de dados de produtos disponíveis, seus atributos, preços, prós e contras e muito mais. O Haystack AI faz recomendações inteligentes aos usuários e responde a perguntas, tudo acessível por meio de um chatbot no aplicativo.
Quais benefícios específicos a Haystack oferece para startups e PMEs, e como a IA da Seekr aprimora esses benefícios?
Se um usuário precisa de uma resposta rápida para saber qual cartão de crédito empresarial oferece as maiores recompensas em dinheiro com as menores taxas por usuário e menor APR ou para comparar dois sistemas de CRM que ele está considerando como a solução certa, o Haystack AI com tecnologia Seekr fornece as respostas certas rapidamente.
A Haystack AI responde às perguntas dos usuários rapidamente e da maneira mais econômica. Ter que esperar e pedir para um humano responder a essas perguntas e toda a pesquisa que envolve esse tipo de processo é incontrolável para líderes empresariais extremamente ocupados. Os clientes querem respostas precisas nas quais possam confiar rapidamente, sem ter que vasculhar os resultados (e hyperlinks patrocinados!) de um mecanismo de busca na internet. Seu tempo é melhor gasto administrando seu negócio principal. Este é um ótimo exemplo de onde a Seekr AI resolve uma necessidade empresarial actual.
Como a Seekr garante que suas soluções de IA permaneçam escaláveis e econômicas para empresas de todos os tamanhos?
A resposta simples é garantir escala e baixo custo, você precisa de uma colaboração estratégica para acesso à computação em escala. Fornecer IA escalável, econômica e confiável requer o casamento do melhor software program de IA da categoria em execução em {hardware} de geração líder. Nossa colaboração com a Intel envolve um compromisso de vários anos para acesso a uma quantidade cada vez maior de {hardware} de IA, incluindo a atualização por gerações do atual Gaudi 2 para o Gaudi 3 no início de 2025 e em diante para as próximas inovações de chip. Fizemos uma aposta de que a melhor disponibilidade e preço de computação viriam do fabricante actual do silício, do qual a Intel é apenas uma das duas no mundo que produz seus próprios chips. Isso resolve quaisquer problemas em torno da escassez, especialmente à medida que nós e nossos clientes escalamos e garantimos o melhor desempenho de preço possível que beneficia o cliente.
Os clientes do Seekr que operam em seu próprio serviço hospedado pagam apenas pelo uso actual. Não cobramos por GPUs ociosas. O SeekrFlow tem um modelo de preços altamente competitivo em comparação com os contemporâneos no espaço, que suporta as menores e maiores implantações.
Obrigado pela ótima entrevista. Os leitores que desejarem saber mais devem visitar o Seekr.
