Fish Audio Drama 3 на AMD: обходное решение для 16 ГБ видеопамяти

Автор реализовал запуск модели генерации речи Fish Audio Drama 3 на видеокарте AMD Radeon с 16 ГБ VRAM, используя оптимизацию с активацией только части экспертов MoE. Модель работает через кэширование активных FP8-экспертов в GPU и хранение остальных в системной RAM, что позволяет запускать 35B-модель без необходимости в 48 ГБ видеопамяти. Решение включает веб-интерфейс с функциями клонирования голоса и поддержки многоголосых сценариев.