AI API-তে টোকেনের খরচ যেভাবে হিসাব হয়
API সেবায় সাধারণত ইনপুট ও আউটপুট টোকেনের আলাদা দাম থাকে। প্রতি ১০ লাখ টোকেনের দাম হলে প্রতিটি টোকেনের সংখ্যাকে তার দামে গুণ করে ১০ লাখ দিয়ে ভাগ করুন, তারপর দুটো যোগ করুন। রিজনিং টোকেন আউটপুট হিসেবে বিল হতে পারে; ক্যাশ করা ইনপুট ও অন্য চার্জও বিল বদলায়। বেঞ্চমার্কের খরচ নির্দিষ্ট টোকেন সংখ্যা নয়, পুরো কাজের খরচ মাপে, তাই মডেলভেদে টোকেন ব্যবহারের পার্থক্যও দেখা যায়।
কোনটি বেছে নেবেন?
একটি বেঞ্চমার্ক সব কাজের ফল জানায় না। নিজের প্রশ্ন দিয়ে সঠিক উত্তর, উত্তরের সময়, ইনপুট/আউটপুট এবং প্রকৃত বিল তুলনা করুন।
টোকেনের আনুমানিক খরচ
Apertus 70B Instruct: $3.74
- ইনপুটের দাম / ১০ লাখ টোকেন (USD)
- 0.82
- আউটপুটের দাম / ১০ লাখ টোকেন (USD)
- 2.92
এই হিসাব দেওয়া ইনপুট ও আউটপুট দরের ওপর ভিত্তি করে। ক্যাশিং, টুল, রিজনিং টোকেন, বড় কনটেক্সটের দর, কর ও হোস্টিংয়ের জন্য বিল বদলাতে পারে।
ব্যবহার নির্দেশিকা
আমরা যেভাবে মডেল তুলনা করি
দক্ষতা মাপা হয় Artificial Analysis Intelligence Index দিয়ে। বেঞ্চমার্কের খরচ হলো ওই পরীক্ষা চালানোর মোট USD খরচ, রিজনিং টোকেনসহ; এটি API-এর প্রতি টোকেনের দাম নয়। সব ভাষায় একই তথ্য ও হিসাব ব্যবহার করা হয়। সাধারণ স্কোর কোনো নির্দিষ্ট ভাষা বা কাজের দক্ষতা মাপে না।