← Журнал · · Анонс
Как приручить LLM: подбор инфраструктуры для инференса без головной боли
Да, именно так называется мой доклад на ML митап в Selectel, который я расскажу вам уже в следующую среду 23 апреля!
А вот небольшой спойлер в какой франшизе будет проходить рассказ) Догадались?)
Что думаете про Tensor RT LLM? - Пишите в комментах. Что думаю я - вы поймете по картинке)