Назад к дайджесту
Reddit

Запуск модели фильтрации конфиденциальности OpenAI на устройстве через ExecuTorch

Разработчик экспериментирует с запуском модели фильтрации конфиденциальности OpenAI на мобильных устройствах с помощью фреймворка ExecuTorch. Решение занимает около 600 МБ памяти и позволяет выявлять PII и чувствительные данные локально, избегая отправки текста в облако. Это практический кейс внедрения Edge AI для обеспечения приватности.

score 54r/LocalLLaMA