В обсуждении инференса на Хабре сравнивают RTX PRO 6000 и новый Mac Studio: по почти всем параметрам видеокарта обгоняет Apple, и пропускная способность памяти — единственная зона, где Mac выглядит конкурентоспособно. Автор тем не менее считает Mac Studio однозначным вариантом для собственного использования, хотя тезис «больше памяти — быстрее» в контексте prefill и decode не выдерживает проверки.
Материал связан с релизом Apple M5 Ultra и вопросом, как режимы prefill и decode влияют на реальную скорость локального инференса. Для тех, кто выбирает железо для домашней или личной LLM-станции, важно не путать объём памяти с итоговой производительностью на своих сценариях.
Практический смысл — перед покупкой сопоставить свои задачи с тем, где Apple действительно выигрывает, а где RTX PRO 6000 остаётся сильнее. Следить за разбором prefill/decode в полном тексте: именно там автор раскладывает, почему память не гарантирует скорость.