Sao10K: Llama 3.1 Euryale 70B v2.2 - a чат модели, Sao10K тарабынан курулган. Ал бир суроо үчүн контексттин 131K токендерин гана кабыл алат. Сырткы моделдер аркылуу багытталган — ~765 токендери ар бир билдирүү үчүн (50% маркировка жогорудагы баадан).

Sao10K: Llama 3.1 Euryale 70B v2.2 жакшы иштейт жалпы сүйлөшүү, жазуу жардамы, ой жүгүртүү, код жардамы жана анализ менен. Анын стилин көрүү үчүн жогорудагы мисалдарды карап көрүңүз.

765 жетондорунун саны орточо бир билдирүүгө. $1 750 000 жетон сатып алат, андыктан акы төлөнүүчү моделдердин чаты бир центке да турат. Акысыз каттоо эсеби 10 000 катталуу жетонун жана күнүнө бир топтоону алат.

Бул тапшырмадан көз каранды. /chat/compare/ сизге Sao10K: Llama 3.1 Euryale 70B v2.2 жана башка моделдерге бирдей суроо жөнөтүүгө мүмкүндүк берет — салыштыруу чечим кабыл алуунун эң тез жолу.

Да. Вывод сиздин — Free.ai сиздин чыгарган эч нерсеге укук талап кылбайт.

131,072 токендери.

Токен-токен боюнча ~1 секунданын ичинде жооп берет. Жалпы жооп убактысы узундук жана моделдин өлчөмүнөн көз каранды — кичине моделдер тез жооп беришет, ал эми чоң моделдер ылдамдыгын тереңдикке алмаштырат.

Да. Входившие в систему пользователи видят все чаты в /account/?tab=history. Вы также можете поделиться копией любого разговора с помощью кнопки «Поделить».

Free.ai сиздин сүйлөшүүлөрүңүз боюнча моделдерди даярдабайт. Өзүнө-өзү хосттолгон моделдер биздин GPU'ларда калат. Премиум моделдер маршруту үчүн түпкү провайдерге багытталган.

Да. POST /v1/chat/ менен model="sao10k/l3.1-euryale-70b" жана билдирүү масивине. SSE поток колдойт. Толук шилтеме: /api/.

Sao10K: Llama 3.1 Euryale 70B v2.2 - бул сырткы провайдер тарабынан кызмат көрсөтүлгөн премиум модели, ошондуктан өзүн-өзү хостинг мүмкүн эмес. Free.ai аны токендик баада көрсөтөт.

Бесплатные учетные записи получают 10 000 подписных токенов плюс ежедневный пул. Когда это закончится, дополните счет от $1 (750K токенов) — подписка не требуется.