Курс 13 из 18 — программа «Искусственный интеллект для предпринимателей и руководителей»
Управление и ответственность при ошибках агентов
Цена автономии — инциденты SNIRREX и гейты Calcuta: вы определяете риски доступа для своей системы, задаёте права агента, строите контрольный слой и заполняете карту защиты «риски доступа / права агента / контрольный слой / план восстановления».
- уроков
- 0
- чтения
- 0 мин
- пройдено
- 0 из 0
Программа
каждый урок: зачем → понятия → кейс → упражнение
- 01 Что бывает, когда агент ошибается: реальные инциденты назвать 5–7 реальных инцидентов (удаление, утрата, нарушение закона) и объяснить, почему корень проблемы — не модель, а доступ и архитектура
- 02 Корневые причины: почему агенты удаляют и ломают назвать три класса причин (избыточный доступ, отсутствие контрольного слоя, обход guardrails) и ложные заявления агента как отдельный риск
- 03 Ответственность: кто отвечает — Amazon v. Perplexity объяснить прецедент Amazon v. Perplexity (CFAA/CDAFA) и назвать, кто отвечает за действия агента (пользователь, разработчик, платформа)
- 04 Профилактика: права и гейты для своей системы задать права агента (least privilege), sandbox, контрольный слой (read-after-write, пауза перед необратимым), изоляцию прав
- 05 Восстановление: бэкапы, IaC, rollback, план восстановления спланировать восстановление после факапа: бэкапы (отдельно от данных), IaC, rollback, план (кто, что, за сколько)
- 06 Карта защиты: риски доступа / права агента / контрольный слой / план восстановления заполнить карту защиты для своей системы (риски доступа, права агента, контрольный слой, план восстановления) и получить обоснованное решение