Кейсы

ML- и inference-платформы, курс по MLOps и консультации. В каждом кейсе: что было, что сделали и что стало, с цифрами там, где их можно показать.

крупный сервис объявленийML-платформа

ML-платформа на Kubeflow для 1000+ пользователей

15%→~60%

утилизация GPU: от DevBox у каждого к одной платформе

~1000 MAU~70 тыс. ранов/месKubeflow · Kueue · Istio

крупный сервис объявленийинференс

дни→минуты

от модели в registry до прода, вместо веб-сервиса в PaaS с бизнес-логикой

>10 тыс. RPSгеораспределённый кластерprefill/decode

облачный провайдерML-платформа

8 ч→24 мин

развернуть платформу клиенту

банкNDA

Helm → прод

платформа на серверах банка и модель оттока с автообучением и выкаткой

Яндекс Практикумобразование

10 модулей

программный эксперт всех модулей: отвечал за наполнение программы

getMentorконсультации

Антон не просто разбирается - он практикующий профессионал, и его ответы основаны на непосредственной практике.
George