Курс 13 из 18 — программа «Искусственный интеллект для предпринимателей и руководителей»

Управление и ответственность при ошибках агентов

Цена автономии — инциденты SNIRREX и гейты Calcuta: вы определяете риски доступа для своей системы, задаёте права агента, строите контрольный слой и заполняете карту защиты «риски доступа / права агента / контрольный слой / план восстановления».

уроков
0
чтения
0 мин
пройдено
0 из 0
Программа

каждый урок: зачем → понятия → кейс → упражнение

  1. 01 Что бывает, когда агент ошибается: реальные инциденты назвать 5–7 реальных инцидентов (удаление, утрата, нарушение закона) и объяснить, почему корень проблемы — не модель, а доступ и архитектура 6 мин
  2. 02 Корневые причины: почему агенты удаляют и ломают назвать три класса причин (избыточный доступ, отсутствие контрольного слоя, обход guardrails) и ложные заявления агента как отдельный риск 5 мин
  3. 03 Ответственность: кто отвечает — Amazon v. Perplexity объяснить прецедент Amazon v. Perplexity (CFAA/CDAFA) и назвать, кто отвечает за действия агента (пользователь, разработчик, платформа) 9 мин
  4. 04 Профилактика: права и гейты для своей системы задать права агента (least privilege), sandbox, контрольный слой (read-after-write, пауза перед необратимым), изоляцию прав 7 мин
  5. 05 Восстановление: бэкапы, IaC, rollback, план восстановления спланировать восстановление после факапа: бэкапы (отдельно от данных), IaC, rollback, план (кто, что, за сколько) 7 мин
  6. 06 Карта защиты: риски доступа / права агента / контрольный слой / план восстановления заполнить карту защиты для своей системы (риски доступа, права агента, контрольный слой, план восстановления) и получить обоснованное решение 7 мин
Дальше в программе — курс 14 из 18 Кибербезопасность для руководителя 4 уроков · 24 мин →