Acesso a modelos
Chutes disponibiliza modelos hospedados para inferência. A arquitetura de cada modelo determina se ele pode processar um determinado prompt ou entrada; a plataforma não torna todos os modelos intercambiáveis.
Guia em linguagem simples
Chutes é uma plataforma para acessar modelos de IA hospedados. Este guia explica o que acontece quando você envia uma solicitação, por que o modelo escolhido importa e o que a própria plataforma não decide.
Chutes oferece uma forma de executar modelos de IA e receber seus resultados; não é um único modelo com um conjunto fixo de capacidades.
Se você quiser passar da definição para uma tarefa específica, estes guias ajudam a direcionar o foco.
É útil distinguir o serviço que processa uma solicitação do modelo que gera a resposta.
Chutes disponibiliza modelos hospedados para inferência. A arquitetura de cada modelo determina se ele pode processar um determinado prompt ou entrada; a plataforma não torna todos os modelos intercambiáveis.
Uma interface de chat pode facilitar o teste de prompts e a análise das respostas. A conversa que você vê é uma interface para um modelo selecionado, não uma inteligência universal à parte.
Desenvolvedores podem enviar solicitações ao endpoint de um modelo e usar o resultado retornado em seus próprios softwares. Ainda precisam cuidar da elaboração das entradas, dos erros e da verificação dos resultados.
O fluxo básico consiste em uma solicitação, um modelo selecionado e um resultado retornado. Os detalhes variam conforme o modelo e a forma de acesso.
Comece pela tarefa: conversa, programação ou outra capacidade disponível. Confira as entradas aceitas pelo modelo selecionado, em vez de presumir que qualquer modelo aceitará a mesma solicitação.
Escreva um prompt em uma interface disponível ou envie uma solicitação por um endpoint. Instruções claras e contexto relevante dão ao modelo uma base melhor para responder.
Chutes retorna o que o modelo gerou. Trate o resultado como um rascunho ou uma previsão e verifique as afirmações antes de usá-las em uma decisão importante.
Chutes pode fornecer acesso aos resultados dos modelos, mas o acesso, por si só, não torna esses resultados confiáveis nem adequados para todos os usos.
Um modelo pode produzir uma resposta fluente que contenha erros, omita contexto ou invente detalhes.
O que fazer em vez disso
Confira as afirmações importantes em fontes confiáveis, especialmente no caso de questões de saúde, jurídicas ou financeiras.
Os tipos de entrada, os estilos de resposta e os pontos fortes dependem do modelo usado. Um modelo voltado para texto não deve ser tratado como substituto de outro desenvolvido para uma tarefa diferente.
O que fazer em vez disso
Leia a descrição do modelo e teste-o primeiro com uma entrada pequena e representativa.
Um prompt pode conter informações pessoais ou confidenciais, mesmo quando a tarefa em si parece rotineira.
O que fazer em vez disso
Remova identificadores desnecessários e consulte as informações aplicáveis sobre o tratamento de dados antes de compartilhar material sensível.
Quem está explorando a IA pode comparar como modelos adequados respondem a um prompt de teste. Já um desenvolvedor pode conectar um modelo a um aplicativo e avaliar suas respostas dentro de um fluxo de trabalho. Em ambos os casos, Chutes é o caminho para obter a saída de um modelo — não substitui a escolha do modelo certo nem a avaliação do resultado.
Chutes é uma plataforma para acessar modelos de IA hospedados e receber suas saídas. Pense nela como uma forma de enviar uma solicitação a um modelo selecionado, e não como um único modelo que realiza todas as tarefas.
Chutes é uma plataforma. O modelo selecionado para uma solicitação gera a resposta, por isso suas capacidades e limitações importam tanto quanto a interface usada para acessá-lo.
Você fornece uma entrada, e o modelo selecionado a processa para gerar uma saída que Chutes retorna. O formato e a utilidade dessa saída dependem do modelo, do prompt e de a tarefa ser compatível com suas capacidades.
As pessoas podem usá-lo para testar respostas de modelos, enquanto desenvolvedores podem usar endpoints de modelos em aplicativos. Um bom ponto de partida é escolher uma tarefa específica, selecionar um modelo adequado e conferir se a saída atende aos seus requisitos.