Помните те славные времена криптобума, когда NVIDIA заботливо «душила» производительность игровых видеокарт, чтобы впарить майнерам специальные обрезанные чипы CMP? Сюрприз! Оказывается, всё это время ваша видеокарта могла работать почти в два раза быстрее в задачах ИИ, просто куртка Дженсена Хуанга скрывала от вас эту магию.
Но тут на сцену выходит некий герой с GitHub под ником Zagitta и выкладывает опенсорсную утилиту-анлокер. Без всяких перепрошивок vBIOS, паяльников и танцев с бубном - скрипт просто возвращает картам RTX 30-й (а заодно и 40-й) серии ту вычислительную производительность BF16/FP16, которую они и так должны были выдавать изначально.
Как работает этот аттракцион невиданной щедрости? Всё предельно просто, если вы сидите на Linux (пользователям Windows пока предлагают просто попускать слюни от зависти). Крошечный модуль ядра успевает загрузиться до того, как официальный драйвер NVIDIA возьмет карту в свои ежовые рукавицы, и говорит железу: «Эй, а давай ты будешь работать как дорогущая профессиональная карточка?». И карточка соглашается! Скорость обработки инструкций чудесным образом удваивается.
Немного сухих, но болезненных для корпорации цифр:
RTX 3090 Ti: производительность в BF16 улетает с искусственно зажатых 87.5 TFLOPS до 157 TFLOPS.
RTX 3080 (10 ГБ): прыжок с 65 до 113 TFLOPS при том же заводском теплопакете в 320 Вт.
В мире локальных ИИ-моделей это означает, что старенькая RTX 30-й серии внезапно начинает генерировать «префиллы» (длинные контексты) на 36% быстрее. А если еще и софт немного оптимизировать, то энтузиасты выжимают из 24-гигабайтной RTX 3090 безумные 381 токен в секунду (рост в 4.6 раза!).
А теперь к плохим новостям (для геймеров, естественно) Казалось бы, надо радоваться за энтузиастов? Как бы не так. ИИ-броята со всего интернета уже почуяли запах халявной вычислительной мощи. В результате цены на вторичном рынке улетели куда-то в стратосферу.
Вы надеялись выгодно прикупить б/у RTX 3090 за адекватные $1000? Забудьте, теперь барыги просят за нее больше $2000. Ценник на RTX 3090 Ti пробивает отметку в $2650, а за "народную" RTX 3080 на eBay уже требуют от $900 до $1100.
Так что, дорогие любители игр, если вы планировали дешево обновить ПК на вторичке - расходитесь. Ваше доступное игровое железо только что превратилось в элитные ИИ-ускорители. Очередная блестящая победа технологий над здравым смыслом ценообразования!
