O problema invisível de quem usa APIs de IA para clientes
Eu pagava R$ 800 por mês de API da OpenAI para um cliente usar.
O detalhe é que ele nunca soube.
Eu simplesmente absorvia o custo.
Durante um tempo isso parecia ok. Fazia parte do projeto, eu pensava.
Até que um dia resolvi olhar com calma os números.
E aí veio a surpresa:
eu já estava há 3 meses no prejuízo.
O problema que muitos desenvolvedores enfrentam
Quando você cria soluções com APIs de IA, principalmente usando modelos pagos, surge um problema comum:
- O cliente usa a IA
- Os tokens são consumidos
- A conta chega… para o desenvolvedor
E muitas vezes:
- o consumo varia
- o cliente não entende o custo
- ou simplesmente não existe um sistema simples para repassar esse valor.
Foi exatamente isso que aconteceu comigo.
A ideia: um billing de tokens para IA
Depois de passar por isso, decidi construir uma solução específica para esse problema.
A ideia é simples:
- O cliente final paga diretamente via PIX
- O desenvolvedor define o markup
- O sistema controla o consumo de tokens de IA
Ou seja, quem usa a IA paga pelo uso — de forma transparente.
Antes de lançar, quero ouvir quem vive isso
Antes de lançar a solução, quero entender melhor como outros desenvolvedores estão lidando com esse problema.
Por isso montei uma pesquisa rápida (leva cerca de 2 minutos).
Se você usa APIs de IA e cobra (ou deveria cobrar) clientes, sua resposta vai ajudar muito a construir algo realmente útil.
Ótima iniciativa!!! E sim, muitos devs acabam por passar um valor ao cliente como mensalidade e esquecem de balizar os limites que a solução possui, logo o lucro é uma mera ilusão e acabam por ter verdadeiros sustos.
Já passei por isso tbm uma vez, mas para tentar manter o cliente, porém tornou-se insustentável e tive que esclarecer tudo com ele. Infelizmente/obviamente ele optou por não continuar com as soluções porque achou muito caro.... Aqui é quando o cliente não entende o valor e o custo da solução... papo antigo já..
Espero que dê tudo certo e sucesso meu caro. Parabéns!
Paulo César de Moura Souza Muitíssimo obrigado! A ideia é justamente essa, prevenir que devs acabam caindo no prejuízo sem nem notar que estão perdendo dinheiro por causa dos tokens.
Paulo César de Moura Souza como eu gosto de ler textão em plataforma 🥰
Eu faço a bilhetagem do consumo não apenas da LLM em questão. Mas da VPS, dos agentes, quem solicitou, quem aprovou, erros e performance de acerto. entre outras metricas. Tudo ao cliente / projeto
Motivo, temos diversas LLMs e nao apenas o GPT e nem só o Codex.
Usamos Ollama e outras que precisam ser computadas tb
Dando whatsapp - not find....