Симптоматика Маневича

 

 

 

Труды лаборатории искусственного интеллекта Массачусетского технологического института, MIT Papers on Artificial Intellect Systems, Massachusetts Institute of Technology, Cambridge, Massachusetts, Volume XVIII, 1999, pp. 21-23

 

Замысел бездействия

 

Станислав Маневич

 

 

Анализ целого ряда случаев нехарактерного поведения больших систем даёт основания сделать вывод о признаках проявления определённой тенденции в таковом поведении. Остановимся на этом подробнее.

 

 

Предаварийная ситуация на химическом комбинате компании «Чикаго кемикал», Чикаго, штат Иллинойс, 3 декабря 1972 г. Система управления комбинатом беспрепятственно, один за другим, получала от датчиков на местах сигналы о нарастающем неблагополучии в некоторых цепочках технологического процесса. Абсолютно исправная (как показала последующая проверка) система исправно же игнорировала тревожные сигналы и не предпринимала никаких действий. От аварии спасло только упреждающее вмешательство дежурного оператора. Ничего подобного впоследствии на комбинате не случалось.

 

Коллапс системы управления транспортными потоками города Нью-Йорк, 25 июля 1979 г. Исправная (как опять же убедились впоследствии) система проигнорировала сигналы о вышедших из строя из-за экстремальной жары светофорах в ряде районов города и вовремя не перераспределила транспортные потоки, что привело к почти полному прекращению движения в мегаполисе. Как только светофоры стали переводить в ручной режим управления, система вернулась к жизни, и через некоторое время движение было ею же и восстановлено. Впоследствии она без проблем справлялась со схожими ситуациями.

 

Аварийный останов всей системы моделирующих компьютеров НАСА, центр управления, Хьюстон, штат Техас, 17 февраля 1984 г. В ходе выполнения очередной задачи, один за другим, вся локальная сеть компьютеров перешла в режим ожидания, без какой либо индикации о неполадках. Тестовые команды выполнялись при этом подобающим образом. Никакое воздействие не возвращало систему в действие. Было принято решение об останове всех компьютеров. Тщательная их проверка ничего не выявила. Запущенная вновь система изменила ход выполнения той же задачи.

 

Сбой системы электроснабжения города Нью-Йорк, 2 сентября 1987 г. Фатальное попадание молнии вывело из строя одну из подстанций в Бронксе. По до сих пор непонятным причинам система проигнорировала свои функции по соответствующему перераспределению потоков, и образовавшийся дисбаланс нагрузки сети привёл к веерному отключению электропитания целых районов мегаполиса.

 

Отмена запуска шаттла «Индевор», Флорида, космодром на мысе Канаверал, 14 июня 1993 г. Система общего контроля не выдала разрешения на старт при отсутствии какой либо индикации о неполадках в системах корабля. Проведённая тотальная проверка оборудования шаттла также не выявила ни неисправностей, ни сбоев. Ничего не дала и проверка системы управления. Успешный запуск состоялся через неделю, 21 июня, – полёт STS-57.

 

Сбой системы управления авиадвижением над Скандинавией, 12 октября 1998 г. При идеальных погодных условиях и рядовой интенсивности движения над территориями Дании, Швеции, Норвегии и Финляндии, системы управления вначале аэропорта Гётеборга, потом Копенгагена, за ними – и всех остальных, вдруг и безо всяких видимых причин «отказались» сопровождать движение авиабортов и перешли в состояние пассивного наблюдения. Ввиду лавинообразного развития событий, управление было экстренно переведено в ручной режим. Многочасовых задержек рейсов в аэропортах региона избежать не удалось, но ситуацию полностью выправили в течение суток. Тотальная перепроверка всей объединённой системы ничего не выявила.

 

 

Каждый из упомянутых случаев не может быть квалифицирован как ординарный сбой, не приходится это считать и конфликтом стратегий [1]. Всякий раз системы оказывались полностью работоспособными, по крайней мере, в рамках действующего, вплоть до настоящего момента, определения «работоспособной системы», а именно: все датчики были в норме, информация от них беспрепятственно поступала в центры анализа, где также не наблюдалось никаких проблем, оперативная самодиагностика всех систем показывала их полную функциональность. Однако долженствующего результата, в каждом из случаев, системы не выдавали. Если бы речь шла о человеке, налицо были бы все признаки очевидного «бездействия диспетчера» – либо сознательного (вариант А), либо вследствие нервных перегрузок (вариант Б).

 

Вариант Б не был бы нами расценен как нечто экстраординарное, скорее, это явилось бы ожидаемым следствием нарастающего усложнения структуры и организации больших систем, которому переставали бы соответствовать отставшие возможности отдельных блоков или подсистем, или же каналов связи. Устранение такого дисбаланса не представляется проблемой стратегической, и в целом таковая ситуация нас бы не настораживала.

 

Всё дело в том, что сравнительный анализ проявившейся симптоматики, а главное, анализ поставарийного поведения систем, со всё большей определённостью заставляет думать о варианте А. Иными словами, у нас нет на настоящий момент внятного объяснения внештатного состояния систем в описанных случаях, равно мы не можем объяснить и что приобретает или что теряет система, как совершенствующаяся структура, по выходе (самостоятельному или принудительному) из таких состояний.

 

Пожалуй, сейчас самое время взять на себя ответственность в предположении некого умысла со стороны бездействующих систем, умысла нам непонятного, а потому, безусловно, тревожного. Тревожного тем больше, чем очевиднее растёт частота возникновения подобных ситуаций.

 

Скажем ещё определённей: мы не знаем, зачем системам это надо.

 

 

 

 

[1] Конфликт стратегий, термин, впервые предложенный Микаято Хикимо в теории игр и в теории больших систем для описания таких патовых ситуаций, выход из которых невозможен без стороннего воздействия. Характерен отсутствием функциональных ошибок в отдельно взятых стратегиях или алгоритмах, проблема возникает именно в процессе их взаимодействия.

 

 

Прим. ред.: Один из технических сотрудников нашей редакции – талантливый фотолюбитель – как-то вдруг перестал выдавать на гора новые снимки, но, как и прежде, всегда неизменно появлялся при фотоаппарате. Вот только снимающим его больше никто не видел. Он стал говорить, что ему теперь достаточно осознания самого факта, что он в любой момент может всё сфотографировать. Редакция сочла небезынтересным добавить этот комментарий, как возможно относящийся к теме статьи.

 

 

 

 

Игорь Савченко

Минск, январь 2014