Maîtrise des coûts de ChatGPT dans les applications Notes
Quand vous intégrez ChatGPT à vos applications Notes, vous obtenez de formidables possibilités d'amélioration. Tant pour les textes générés et les recommandations que pour une intelligence capable d'embrasser de très grands volumes de données.
Sachez que le prix est basé sur la consommation. Vous payez pour les tokens que vous envoyez et recevez. Un token correspond à environ quatre caractères. Il est donc rentable de passer un peu de temps sur le prompt engineering, c'est-à-dire l'optimisation de ce qui est échangé.
À l'heure où nous écrivons, GPT-4o (omni) est le modèle le plus récent. Son avantage est d'être le plus avancé, mais aussi deux fois plus rapide que les modèles précédents, pour moitié prix. Vous pouvez en savoir plus sur GPT-4o chez OpenAI.
Calcul continu de la consommation ChatGPT
Quand nous développons l'intégration entre HCL Notes et ChatGPT, nous vous fournissons aussi un tableau de bord où vous suivez la consommation au fil du temps.
Nous le faisons à partir de la réponse que ChatGPT renvoie. Elle indique combien de tokens ont été envoyés et combien ont été retournés. Avec vos requêtes, vous pouvez aussi fixer un nombre maximal de tokens utilisables.
À partir du nombre de tokens, nous calculons ce que coûtent un appel et une réponse, pour que vous sachiez combien vous coûte l'analyse de vos données.
Nous recommandons vivement que l'intégration vérifie si de nouvelles données sont envoyées à ChatGPT, pour ne pas redemander inutilement des informations déjà obtenues. Par exemple des rapports générés sur les mêmes données qu'auparavant, où l'on s'attend au même rapport. Nous le gérons par une logique dans HCL Notes qui en garde la trace.
Limites de débit dans ChatGPT
Quand vous obtenez vos clés API, vous fixez aussi un plafond mensuel sur la plateforme d'OpenAI. Au départ, le maximum est de 120 USD, que vous pouvez abaisser si vous le souhaitez. À mesure que votre consommation augmente, vous montez dans ce qu'on appelle des tiers. Des tiers plus élevés donnent un plafond plus haut et plus de liberté pour envoyer de grands volumes de données.
Conclusion
Avec la plateforme de ChatGPT, vous pouvez fixer des limites pour que le budget ne s'emballe pas. Parallèlement, nous construisons un suivi de consommation que nous utilisons pour améliorer les prompts envoyés à ChatGPT, afin de garder le coût par appel aussi bas que possible.
Nous vous conseillons sur les usages et les options, et nous pouvons construire une preuve de concept grâce au bac à sable d'OpenAI, un espace où nous testons ce qui est renvoyé.
N'hésitez pas à contacter Christian Gravgaard au +45 70 230 249 ou par e-mail à cg@bizperformer.com pour des conseils, en anglais, sur vos options d'intégration de ChatGPT à vos applications Notes.