Нормальные аварии, Чарльз Перроу - Заметки

Нормальные аварии (Normal Accidents)

📖 View Original Handwritten Notes (English Source)

Главы 1-2 Глава 3.1 Глава 3.2

Download (Ch. 1-2)

Download (Ch. 3.1)

Download (Ch. 3.2)

Области отказов (Failure areas):

• Проектирование (Design)
• Оборудование (Equipment)
• Процедуры (Procedures)
• Операторы (Operators)
• Снабжение и материалы (Supplies and material)
• Окружающая среда (Environment)

Источники отказов (Failure origins):

1. Системы с жёсткой связью (Tightly coupled systems)
2. Системы со сложным взаимодействием (Complexly interactive systems)

“Видеть — не обязательно значит верить;
иногда мы должны поверить, чтобы увидеть”

Система (2 стороны)

График надёжности

• Событие A: Обрушение средневекового собора
  Высокий уровень обучения (на то время) → применено
• Событие B: Авария на атомной электростанции
  Низкий уровень обучения (сравнительный) → трудно применить
• ИИ: возможно, мы можем использовать ИИ для лучшего контроля и надзора за критически важными объектами, что поможет преодолеть плато?

Эксплуатационный опыт (Operating experience)

• Фактический темп расширения / масштабирования: 3.5%! → на самом деле масштабирование происходит в 60 раз агрессивнее (при этом опыта работы с новой технологией в 60 раз меньше)

Проблемы с соблюдением процессов:

• сокрытие информации (cover-ups)
• запугивание персонала (intimidations)
• фальсификация данных (falsifications)
• халатность и небрежность (neglect)
• ошибки и просчеты (mistakes)
• преднамеренный обман (deception)
• некачественное обучение (mistraining)

Определение аварий и инцидентов

Инцидент или Авария? (Incident vs. Accident?)

• Определение: Авария — это отказ в системе или подсистеме, который повреждает более одного узла* и тем самым нарушает текущую или будущую производительность (выпуск) системы. * Спорно. Если работа системы нарушена, масштаб первопричины (имхо) не имеет значения. Второе предложение превалирует над первым.
• Относительность: Одно и то же событие может считаться аварией в одной системе и не считаться таковой в суперсистеме (слои абстракции / масштаба).
• Нарушает (disrupts): Требует прямых немедленных действий.
• Человек(люди): Не отдельный класс, а просто подсистема. Поэтому вред людям (Уровень 3) = авария.

Эшелонированная защита под вопросом?

Жертвы (Victims):

Уровень вовлеченности в систему (От наивысшего к наинизшему)

• Риск и оплата труда: Нет/обратная корреляция между риском и оплатой в различных отраслях.
• Пользователи системы против непричастных свидетелей (неявно): Первые в какой-то степени «выбирают» участие => соглашаются разделить (часть) риска. Но пользователи, в отличие от операторов, не имеют влияния на работу системы.
• Жертвы четвертой категории: Постоянное пренебрежение интересами жертв четвертой категории, настоящее против будущего.

Взаимодействия: Линейные / Сложные

• Средства инженерной безопасности (ESD): Не могут защитить от неочевидных взаимодействий.
• Мониторинг и корректирующие действия: Скрытые взаимодействия, средства мониторинга (слишком мало против слишком много) => потенциал для «неправильного» корректирующего действия, ведущего к новым сбоям.