Reddit
Сервис дистилляции Gemini
Google планирует запустить сервис для дистилляции моделей, ориентированный на архитектуру Gemini. Технология позволит разработчикам создавать оптимизированные версии больших языковых моделей, передавая знания от оригиналов к компактным аналогам. Это снижает затраты на инференс и упрощает развёртывание ИИ-решений.
score 40r/LocalLLaMA