Агент на LLM из 270 млн параметров работает на смартфоне: LoRA по схеме инструментов и учёт состояния обеспечили надёжность (open source, 1.2 ГБ ОЗУ)

Разработчики представили голосового агента, работающего полностью на Android-смартфоне с использованием компактной модели FunctionGemma 270M. Надёжность обеспечивается за счёт LoRA-адаптера, дообученного на схеме инструментов, и фильтрации доступных действий по текущему состоянию устройства. Решение потребляет всего 1.2 ГБ ОЗУ и обрабатывает запросы за 0.9 секунды без использования fallback-логики.