Lilac 6.1/10 +1
Плюсы
- OpenAI-совместимый API — миграция без переписывания кода
- Владельцы GPU монетизируют простой без передачи оборудования третьим лицам
- Контекстные окна до 1 млн токенов с кэшированием повторяющегося контекста
- Автоматическое вытеснение сторонних задач при возврате собственной нагрузки владельца кластера
Минусы
- Нет бесплатного тарифа — даже для знакомства с платформой требуется платная подписка
- Задачи на idle-ресурсах могут быть прерваны при возврате нагрузки владельца кластера
- SOC 2 ещё в процессе сертификации, что может быть препятствием для корпоративных клиентов
- Для поставщиков GPU требуется Kubernetes — порог входа выше, чем у простых marketplace-решений