Автор за вечер решил практический вопрос: какой квант ставить на карту и нужна ли RTX5090 домой. Спойлер: для 9B моделей достаточно Q5 или Q6, и покупка топовой карты не планируется.
Прогнали 18 конфигураций — три модели Ornith-1.5 и Qwen3.8, пять-шесть квантов на каждую, один набор из 22 реальных задач. По результатам теста RTX5090 для домашнего селф-хоста не требуется.