Reddit
Наш внутренний бот ответил на вопрос, используя информацию, которая ещё не была объявлена
Внутренний ИИ-ассистент раскрыл неопубликованные данные из реорганизационной таблицы, ответив на рутинный вопрос. Технически ответ был верным, но совершенно неуместным: агент имел доступ, которого быть не должно, и никто не провёл границу между «может получить» и «должен озвучить». Теперь каждому агенту задают явный список того, что он никогда не должен выводить, а не только того, к чему имеет доступ.
score 55r/AI_Agents