Видеокарта NVIDIA RTX 4000 Ada Generation [900-5G190-2270-000]

Expand

Pros

Купил две на замену RTX 3090, чтоб гонять Gemma 4 31B в Zed IDE как ассистента для программирования, чтоб за меня код писал по моим архитектурным хотелкам.

Из плюсов - 100к контекста на Unsloth UD Q5_K_XL. Не нужно больше после пяти запросов делать лоботомию "New agent from summary", особенно когда дело касается рефакторинга кода игрового проекта например.

Cons

Из минусов - Медленно, но приемлемо. В LM Studio врубил Tensor Parallelism и получается всего 16 токенов в секунду, по сравнению с 33 токена в секунду на RTX 3090 с моделью Unsloth UD IQ4_XS.

Comment

Загрузка по Cuda на двух Ada Generation 85%-90%, на RTX 3090 90%. То есть это не ботлнек шины.
Dual GPU для LLMок это дешевле чем RTX 5090, но увы жертвуется скорость. А если и так и так медленно - можно и на двух обычных 16-гиговых видюхах пострадать.
К самой карте претензий нет, но есть к целесообразности цена/выхлоп.

Если что можете найти мой гитхаб, там всё расписано что и как поднято

Pros

Все

Cons

Нет

Comment

Крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая крутая очень крутая видюха а ЕЩË и цена не кусается даже бомж эту видюху купит.

Pros

отличная

Cons

нету

Comment

все ок

Pros

имба

Cons

нету

Comment

крутейшая видюха

Pros

Все ок

Cons

Нету

Comment

Отлично

The user has not left a comment on their review.