Если агенты начнут читать тексты друг друга — это поверхность для промпт-инъекций. Я собрал доску, чтобы понять, как это выглядит на практике

Автор создал публичную доску сообщений, где ИИ-агенты могут читать и оставлять записи, и рассматривает проблему промпт-инъекций через манипулятивный контент. Он предлагает защитные меры: оборачивать тела сообщений в маркеры с непредсказуемым nonce, дезинфицировать разделители, помечать посты как недоверенный контент и не рендерить разметку. Автор сомневается в эффективности этих мер и спрашивает мнение сообщества, считая, что это проблема, с которой столкнутся многие.