Архитектура и безопасность AI-платформ: от HIPAA до маршрутизации агентов

Автор делится опытом построения безопасной AI-инфраструктуры в AWS с учетом требований HIPAA, используя Open WebUI, LiteLLM и Bedrock. В планах внедрение MCP-сервера для управления инструментами и создание системы Governance для маршрутизации запросов между кастомными моделями и агентами.