Видеокарта NVIDIA RTX 4000 Ada Generation [900-5G190-2270-000]

Развернуть все

Достоинства

Купил две на замену RTX 3090, чтоб гонять Gemma 4 31B в Zed IDE как ассистента для программирования, чтоб за меня код писал по моим архитектурным хотелкам.

Из плюсов - 100к контекста на Unsloth UD Q5_K_XL. Не нужно больше после пяти запросов делать лоботомию "New agent from summary", особенно когда дело касается рефакторинга кода игрового проекта например.

Недостатки

Из минусов - Медленно, но приемлемо. В LM Studio врубил Tensor Parallelism и получается всего 16 токенов в секунду, по сравнению с 33 токена в секунду на RTX 3090 с моделью Unsloth UD IQ4_XS.

Комментарий

Загрузка по Cuda на двух Ada Generation 85%-90%, на RTX 3090 90%. То есть это не ботлнек шины.
Dual GPU для LLMок это дешевле чем RTX 5090, но увы жертвуется скорость. А если и так и так медленно - можно и на двух обычных 16-гиговых видюхах пострадать.
К самой карте претензий нет, но есть к целесообразности цена/выхлоп.

Если что можете найти мой гитхаб, там всё расписано что и как поднято

Достоинства

Все

Недостатки

Нет

Комментарий

Крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая очень крутая видюха а ЕЩË и цена не кусается даже бомж эту видюху купит.

Достоинства

отличная

Недостатки

нету

Комментарий

все ок

Достоинства

имба

Недостатки

нету

Комментарий

крутейшая видюха

Достоинства

Все ок

Недостатки

Нету

Комментарий

Отлично

Пользователь не оставил комментарий к своему отзыву.