Назад к дайджесту
Reddit

Модель Connect Four весом 1.6 МБ в формате 3:4 работает в браузере через WebGPU

Исследователи из Precisit представили квантованную модель-скорер на 7.4 млн параметров, использующую тернарный формат весов Sherry's 3:4 (1.375 бита на вес). Модель размером всего 1.59 МБ способна играть в Connect Four без поиска, обрабатывая ход за 1.1 мс в браузере на WebGPU. Ключевой вывод: прямое обучение в этом формате необходимо, так как постобработка конвертированной модели резко снижает её качество.

score 40r/LocalLLaMA