← Журнал · · Анонс
Анонс выступления на DevOps митапе Островка!
Привет!
В этот четверг 27 марта в 18 30 буду в Москве выступать с докладом про Автоскейлинг Инференса в K8S на DevOps митапе Островка!
В этот раз тематика митапа варьруется от серьезных сеньерских докладов до стендапов про девопс, так что интересно будет большой аудитории.
В своем рассказе я покажу, как происходит автоскейлинг triton у нас в инференс платформе. Я уже рассказывал об этом на highload, но в этот раз решил расширить тему на отдельное выступление - добавил scale to zero, scale from zero, как мы боримся с узкими горлышками автоскейлинга через кеширование образов и ускорение пуллинга.
Доклад будет интересен не только млщикам, но и девопс специалистам, так как автоскейлинг инференса в целом не сильно отличается от автоскейлинга веб сервисов.
Приходите очно или присоединяйтесь онлайн! Митап бесплатный, регистрация доступна по этой ссылке