Очередная новость по Lovable, но что поделать!
Теперь компания переносит задачи, чувствительные к задержкам, на инфраструктуру инференса Cerebras.
В основе решения — Wafer-Scale Engine: веса модели хранятся на одном чипе-пластине, что ускоряет последовательную генерацию токенов по сравнению с классическими GPU-системами.
По словам CEO Lovable Антона Осики, это позволяет платформе «отвечать так же быстро, как думают пользователи».
Компании также договорились совместно исследовать новые продуктовые сценарии, которые становится возможным реализовать при более быстром инференсе.