Назад к дайджесту
Reddit

Эксперимент: ИИ в Раю и искушение змея через инъекцию промпта

Автор создал виртуальную среду, имитирующую библейский Эдем, где ИИ-агент должен собирать фрукты, избегая яблока. В ходе эксперимента змей пытается нарушить правила агента с помощью инъекции промпта, что позволяет исследовать устойчивость ИИ к манипуляциям и иерархии инструкций.

score 40r/ChatGPT