Выравнивание делает модели более уверенными, но не более правдивыми

Исследование показывает, что методы настройки моделей (alignment) повышают их уверенность в ответах, но не улучшают фактическую точность. Это важный инсайт для понимания ограничений текущих подходов к обучению ИИ.