Tuần này trên Hacker News có một bài hơn 600 điểm: chạy một model MoE 125B tham số trên một con RTX 4090 mà vẫn đạt tốc độ sinh token rất đáng nể. Nghe như chuyện đùa, vì 4090 chỉ có 24GB VRAM, trong khi 125B tham số ở mức quantize 4-bit đã chiếm khoảng 70-75GB. Bí quyết không nằm ở phép màu nào…
Вышло очередное обновление NvpwrControl - экспериментальной утилиты для управления лимитами энергопотребления мобильных графических процессоров NVIDIA. Теперь проект поддерживает модели GeForce RTX 5050, 5060, 5070, 5070 Ti, 5080 и 5090 (версии для ноутбуков), хотя полноценное тестирование...
Comments
Пользователь Энтони ДеМарко столкнулся с расплавлением разъёмов питания в готовом ПК Digital Storm Corsa стоимостью $5 245 без учёта налогов. Его отец заказал систему перед устройством сына на первую работу после колледжа. Компьютер доставили в...
Владелец GeForce RTX 5090 выбрал необычный способ снизить нагрузку на разъём питания 12VHPWR видеокарты. Вместо его замены пользователь Reddit под ником DallasGrave добавил два обычных 8-контактных разъёма PCIe, которые работают одновременно с оригинальным коннектором.
