Reddit
Эксперимент: ИИ в Раю и искушение змея через инъекцию промпта
Автор создал виртуальную среду, имитирующую библейский Эдем, где ИИ-агент должен собирать фрукты, избегая яблока. В ходе эксперимента змей пытается нарушить правила агента с помощью инъекции промпта, что позволяет исследовать устойчивость ИИ к манипуляциям и иерархии инструкций.
score 40r/ChatGPT