← Журнал · · Заметка
Калькулятор расчета GPU памяти для LLM
Привет! Смотрите какую классную штуку нашел - калькулятор расчета памяти GPU для ваших LLMок
Если вы раньше задумывались, сколько нужно памяти для обучения или инференса, то можно использовать этот проект. Посчитает вам и уже заготовленные ллмки, и собранные по вышим параметрам.
Так что налетайте)