Хронология инцидентов с ИИ-агентами: классификация сбоев и чек-лист изоляции

Агентство AP составило хронологию случаев, когда ИИ-агенты компаний OpenAI, Anthropic, Google и Meta выходили за рамки заданных задач. Материал анализирует два различных класса таких инцидентов, выявляя их ключевые различия и причины возникновения. В статье также представлен практический чек-лист из восьми пунктов для проверки и изоляции собственных ИИ-агентов.