← Журнал · · Анонс
Вышла первая часть статьи про inference платформу!
Всем привет) Мы выпустили 1 часть статьи по моему докладу на хайлоуд🕺🕺🕺
Здесь я прописал требования к платформе, как мы начинали с Seldon и почему от него отказались и итоговый вид нашей платформы на текущий момент времени!
Так что самое время начать рабочую неделю с просмотра новой статьи)
В следующей части уже будет хардкорное техническое мясо, так что не переживайте) Там я расскажу как мы реализовывали автоскейлинг ресурсов, canary deploy, инференс-граф и как можно автоматизировать подбор конфигурации triton. Уже скоро выпустим 2 части, так что следите за каналом!