Use sua própria chave de API para o bot do chat ao vivo

Este artigo trata do uso da sua própria chave de API (BYOK) para o bot do chat ao vivo, o Fynn. Com o BYOK você conecta sua própria chave da OpenAI ou da Anthropic, essas conversas do bot são cobradas pelo seu provedor às tarifas dele e não contam para o seu medidor de conversas de IA do Deskwoot. O BYOK está disponível no plano Startup e superiores, e se aplica apenas ao bot do chat ao vivo.

Se você procura como funciona o medidor padrão (as conversas de IA incluídas, as tarifas de excedente e a recarga automática), esse é um tópico separado. Veja Medidor de conversas de IA, excedente e recarga automática.

O que o uso da sua própria chave cobre?

O BYOK se aplica ao Fynn apenas no chat ao vivo do seu site. Ele não muda como as ações do Copilot (sugerir resposta, resumir, traduzir, detectar idioma) são cobradas, e não se aplica a bots em outros canais. Quando o BYOK está ativado para um bot do chat ao vivo:

O Fynn chama o seu provedor com a sua chave, então você paga ao seu provedor diretamente pelos tokens.
Essas conversas do bot do chat ao vivo ficam excluídas do seu medidor de conversas de IA do Deskwoot.
Você escolhe o modelo a que a sua chave tem acesso, então você controla o custo e a capacidade.

Como eu conecto a minha chave?

Vá em Configurações > Bots e abra o bot do chat ao vivo que você quer rodar com a sua própria chave.
Escolha o seu provedor, OpenAI ou Anthropic.
Cole a sua chave de API e salve.
Confirme que a chave é válida e tem cota junto ao seu provedor e, em seguida, envie uma mensagem de teste para o widget.

Como o uso do BYOK é cobrado?

O seu provedor cobra de você por tokens às tarifas publicadas dele. Um token é a unidade básica que os modelos de IA usam para processar texto, e cada mensagem que o Fynn lê e cada resposta que ele escreve consomem alguns. O uso de tokens aumenta com perguntas e respostas mais longas, com mais histórico de conversa enviado como contexto e com modelos mais capazes (e mais caros). O Deskwoot não adiciona nenhuma margem às tarifas do seu provedor, e essas conversas ficam de fora do medidor de conversas de IA.

Mantendo os custos sob controle

Mantenha o Fynn conciso. Respostas mais curtas usam menos tokens e muitas vezes ficam mais fáceis de ler.
Configure alertas de gastos com o seu provedor. Tanto a OpenAI quanto a Anthropic permitem limitar o uso ou receber alertas de cobrança.
Reduza o contexto. Evite enviar históricos desnecessariamente longos a cada requisição.
Acompanhe o painel do seu provedor. A tela de cobrança do seu provedor é a fonte da verdade para os valores exatos.

Solução de problemas

O Fynn para de responder. Verifique se a sua chave ainda é válida e se a conta do seu provedor tem saldo ou cota restante.
Custos maiores do que o esperado. Conversas longas, um pico de tráfego ou instruções muito extensas podem aumentar o uso de tokens. Revise o painel do seu provedor.
Chave inválida. Cole novamente a chave completa, sem espaços extras, e confirme que ela está ativa na conta do seu provedor.