Как языковые модели могут выйти из-под контроля: разбор мифов и реальности

Автор разбирает механизм работы LLM, основанный на предсказании следующего слова, и ставит под сомнение возможность самостоятельного «схождения с ума» или атак без вмешательства человека. В обновлении отмечается, что многие страхи перед ИИ преувеличены, а реальные риски связаны скорее с дизайном систем и действиями компаний-разработчиков, а не с автономным поведением самих моделей.