День, когда мы сможем запускать ИИ уровня Sonnet на обычном ПК, будет невероятным

Автор поста рассуждает о перспективах локального запуска больших языковых моделей уровня Claude Sonnet на потребительских компьютерах с decent GPU. Обсуждаются потенциальные преимущества автономности и контроля над данными, а также оцениваются сроки достижения этой технологии и возможные технические ограничения.