← Журнал · · Анонс
Вторая часть статьи про Inference платформу!
Ну что, ребята, в последнюю пятницу этого года я завершаю цикл публикаций статей на хабр второй частью про инференс платформу.
В статье я рассказал как мы реализовывали автоскейлинг ресурсов, canary deploy, инференс-граф и как можно автоматизировать подбор конфигурации triton.
Самое лучшее время, чтобы заварить себе чашечку горячей жидкости и почитать про инференс платформы)
В следующем году также ждите новые статьи от меня! Уже планирую подробнее расписать про свой репозиторий с triton туториалами, про model navigator и analyzer.