API Шлюз для Больших Языковых Моделей

Для получения доступа к API необходимо приобрести токены.

• У нас полностью своя инфраструктура с видеокартами уровня RTX3090 и 7900XTX, мы не перепродаём чужие токены, и не переадресуем запросы в openai
• Простая оплата. Чтобы купить токены, Вам не нужно регистрировать мультивалютную банковскую карту в Казахстане, не нужно покупать криптовалюту, не нужно искать посредников. Покупайте за рубли!
• Не нужен прокси. Наш сервис находится в России, поэтому доступ ничем не ограничен.
• Баланс не сгорает. Нет сроков, используйте токены, когда Вам это будет нужно.
• Считаем только токены ответа. Сторонние сервисы считают и размер запроса, мы не такие!

• Хоть где, главное указать наш Endpoint и API-Key
• Вот несколько примеров, где можно использовать токены:
  ChatGPT SEO (автоматически генерировать описания товаров и метатеги для продвижения магазина!)
  Online ЧАТ (простой и легкий ИИ-консультант в нижней правой части страницы к которому все привыкли и иногда используют)
• Напомним, выше просто 2 примера, а токены подойдут и для других модулей.

Всё зависит от объёма текста. Например, на одно поле метатега title или description в среднем тратится 30 - 60 токенов. Описание товара - 400 - 600 токенов. Таким образом, если заполнять все поля товара (5 полей + описание), миллиона токенов хватит примерно на 1300 - 1500 товаров.

Укажите домен при покупке. Следующая покупка с указанием того же домена пополнит баланс. При этом использовать токены можно на любом домене.

При покупке вы получите письмо, в котором будет ссылка на страницу со статистикой запросов, графиком, и балансом.

Это разметка markdown, все нейросети её используют. Нужно в контексте запроса попросить её не использовать.
Например для описания товаров добавить - "Используй html тэги, вместо разметки markdown".
Для метатегов - "Не используй тэги, пояснения, и разметку markdown"

Конечно! Достаточно добавить провайдера в config.json плагина
Для этого в models нужно добавить следующий раздел:

{
  "title": "EasyTokens",
  "model": "qwen2.5-14b",
  "apiBase": "ENDPOINT",
  "provider": "openai",
  "apiKey": "API-KEY",
  "completionOptions": {
	"stream": false
  }
}