Как не дать ИИ-психологу поддакивать и галлюцинировать. Инженерный разбор систем безопасности

Материал посвящён инженерным вызовам при использовании языковых моделей в чувствительных сферах, таких как психология. Автор разбирает причины склонности моделей к галлюцинациям и соглашательству, а также сравнивает эффективность и стоимость различных контуров защиты.