Отказ от самостоятельного хостинга LLM в пользу PII-фильтра перед облачными моделями

Автор делится опытом тестирования мощного GPU-железа для локального развёртывания LLM и отказывается от этой идеи из-за роста цен и рисков утечки персональных данных. Вместо полного селф-хостинга предлагается использовать open-source PII-фильтр для обезличивания запросов перед отправкой в облачные модели.