Знает ли ИИ, что он не знает? Как психология 1970-х может улучшить наш промпт-инжиниринг

Инженер Anthropic Тарик Шихипар предлагает перед большой задачей раскладывать знания на четыре категории, включая то, о существовании чего мы даже не подозреваем. Автор статьи прослеживает связь этого подхода с психологией метакогниции 1970-х и исследованиями Anthropic о том, как языковые модели оценивают границы собственного знания.