مدلها
مدلهای موجود، قیمت، محدودیت نرخ، طول کانتکست، aliasها و پشتیبانی زبان.
همهی مدلها از طریق یک endpoint، یعنی POST /v1/systemone، ارائه میشوند و فیلد model در درخواست تعیین میکند کدام یک پاسخ دهد.
مدلهای فعلی
| Jev 1.13 | jev-1.13.0 |
|---|---|
| قیمت (به ازای Btok / Mtok) | ۴۲ دلار / ۰٫۰۴۲ دلار |
| محدودیت نرخ | ۲۵۰٬۰۰۰ توکن در ثانیه / ۱٬۲۰۰ درخواست در دقیقه |
| طول کانتکست | ۶۴k توکن برای هر درخواست؛ ۳۲k توکن برای state بهعلاوهی طولانیترین پرسش |
| ورودی | فقط متن: رشته، شیء JSON یا آرایهای از متن. بدون تصویر، صوت یا ویدئو. |
- قیمت: به ازای هر توکن ورودی محاسبه میشود؛ توکنهای خروجی رایگاناند. Btok یک میلیارد و Mtok یک میلیون توکن است.
- محدودیت نرخ: درخواستی که از هر کدام بگذرد
429 Too Many Requestsمیگیرد. SDKها بهطور پیشفرض با backoff دوباره تلاش میکنند و به هدرretry-afterاحترام میگذارند. - طول کانتکست: Jev
stateرا یک بار میخواند و هر پرسش را موازی در برابرش ارزیابی میکند. بودجهی ۶۴k کل state و همهی پرسشها را پوشش میدهد؛ بودجهی ۳۲k برای state بهعلاوهی طولانیترین پرسش است. - ورودی: ورودیهای غیرمتنی را پیش از ارسال به متن یا فیلدهای ساختاریافته تبدیل کنید.
محدودیتهای نرخ بهصورت پویا تنظیم میشوند. به گفتهی TypeSafe بهدلیل حجم بسیار بالای تقاضا، این محدودیتها ممکن است بدون اطلاع قبلی تغییر کنند. محدودیتهای بالاتر در پلنهای سفارشی و سازمانی در دسترس است.
Aliasها
| Alias | اشاره به | معنا |
|---|---|---|
jev-latest | jev-1.13.0 | جدیدترین نسخهی پایدار و رسمی. پیشفرض SDKها و نامی که مثالهای مستندات استفاده میکنند. |
jev-preview | jev-1.13.0 | جدیدترین نسخه، چه رسمی چه نه. وقتی بیلد preview موجود باشد جلوتر از jev-latest حرکت میکند. در حال حاضر بیلد preview وجود ندارد. |
یک alias با انتشار نسخهی جدید جابهجا میشود، پس پاسخهای پشت آن میتوانند بدون تغییری از سمت شما عوض شوند. فیلد model در پاسخ، شناسهی نسخهای را که پاسخ داده گزارش میکند تا بتوانید لاگش کنید. اگر آستانههای اطمینان را روی نسخهی مشخصی تنظیم کردهاید، بهجای alias شناسهی آن نسخه را سنجاق کنید.
سفارشیسازی Jev
Jev با دادهی مشتری fine-tune یا LoRA نمیشود؛ با RLCD آموزش دیده و وزنهای یکسان به همهی حسابها خدمت میکنند. پاسخها را از طریق خود درخواست به دامنهتان شکل میدهید:
- محتوای اختصاصی، رکوردها و مواد مرجع را در فیلد
stateبگذارید. - قواعد دامنه و موارد مرزی را در
instructionsوcriteriaهر پرسش کدگذاری کنید. - قضاوتهای کلی را به پرسشهای اتمی بشکنید و خروجیها را در کد ترکیب کنید، یا احتمالهای Jev را ویژگی یک مدل کلاسیک پاییندستی قرار دهید.
پشتیبانی زبان
Jev متن زبان طبیعی میپذیرد. انگلیسی زبان اصلی آموزش است و دقت فعلاً در آن بهترین است. زبانهای دیگر، از جمله خطهای CJK، پردازش میشوند اما نه به یک اندازه خوب؛ پیش از اتکا به Jev برای کار غیرانگلیسی روی محتوای خودتان آزمایش کنید و هنگام مسیریابی به اطمینان توجه ویژه داشته باشید.
مدیریت داده
Jev روی درخواستها و پاسخهای مشتریان آموزش داده نمیشود. برای قرارداد پردازش داده، سیاست حریم خصوصی و جزئیات نگهداری صفر داده (ZDR) برای مشتریان سازمانی، صفحهی Legal را ببینید.
فهرست مدلها
GET /v1/models نامهایی را که حساب شما میتواند در فیلد model بفرستد، همراه با توضیح و تاریخ انتشار برمیگرداند. در حال حاضر aliasها را فهرست میکند؛ شناسههای نسخهدار مثل jev-1.13.0 چه در فهرست باشند چه نه پذیرفته میشوند.