Известия РАН. Теория и системы управления, 2021, № 6, стр. 122-135

ПОДДЕРЖКА УПРАВЛЕНИЯ ЖИВУЧЕСТЬЮ СИСТЕМ ЭНЕРГЕТИКИ НА ОСНОВЕ КОМБИНАТОРНОГО ПОДХОДА

И. В. Бычков a, С. А. Горский a, А. В. Еделев b*, Р. О. Костромин a, И. А. Сидоров a, А. Г. Феоктистов a, Е. С. Фереферов a, Р. К. Федоров a

a Институт динамики систем и теории управления им. В.М. Матросова СО РАН
Иркутск, Россия

b Институт систем энергетики им. Л.А. Мелентьева СО РАН
Иркутск, Россия

* E-mail: flower@isem.irk.ru

Поступила в редакцию 21.08.2020
После доработки 15.06.2021
Принята к публикации 26.07.2021

Полный текст (PDF)

Аннотация

Рассматривается новый подход к созданию предметно-ориентированной разнородной распределенной вычислительной среды. Она используется для поддержки принятия решений по актуальным проблемам повышения живучести систем энергетики. Подход основан на применении высокопроизводительных вычислений, мультиагентного планирования вычислений и назначения ресурсов, средств обработки слабоструктурированной информации и визуализации предметных данных с помощью электронных карт. Оценка альтернатив принятия решений осуществляется с помощью комбинаторного моделирования и многокритериальной оптимизации. Инструментарий Orlando Tools используется в качестве основы интегрированного программного обеспечения среды. Он реализует гибкое модульное построение масштабируемых научных приложений (распределенных пакетов прикладных программ). Преимущества применения среды продемонстрированы на примере решения практических задач.

Введение. Система энергетики (СЭ) является сложной человеко-машинной системой, предназначенной для добычи (производства, получения), переработки (преобразования), передачи (транспортирования), хранения и распределения энергоресурсов и снабжения ими потребителей [1]. Подверженность СЭ крупным возмущениям определяется ее территориальной сложностью и распределенностью, а также конструктивными особенностями ее оборудования. В качестве крупных возмущений рассматриваются природные катаклизмы (наводнения, землетрясения, ураганы и т.п.), техногенные катастрофы, вызванные отказом компонент или подсистем СЭ, и преднамеренные нарушения ее работоспособности (террористические акты, кибератаки и т.п.) [2].

Объектом исследования в данной статье выступает живучесть СЭ, как способность системы противодействовать крупным возмущениям и быстро восстанавливаться в случае их возникновения. На данную способность большое влияние оказывают физические особенности процессов, протекающих в СЭ. Например, в системах тепло-, газо-, нефте- и нефтепродуктоснабжения они намного более инерционны, чем в электроэнергетических системах. Также живучесть зависит от такой черты современных СЭ, как сильная взаимосвязанность их составляющих и самих систем между собой. Сбои, возникающие в результате крупного возмущения в одной части СЭ, могут вызывать аварии в других частях и по взаимосвязям передаться в другие системы [3]. Каскадное развитие аварий проявляется в электроэнергетических системах в нарушениях параллельной работы электростанций, а в системах тепло-, газо-, нефте- и нефтепродуктоснабжения – при гидравлическом ударе [1]. Возможность каскадного развития аварий в СЭ в значительной степени, помимо инерционности процессов и взаимосвязей, зависит от особенностей и принципов организации управления системой.

Управление живучестью СЭ строится на упреждающем планировании комплекса мероприятий по подготовке системы к противодействию возмущениям и адаптации к ним с последующим восстановлением ее производительности (рис. 1). Как правило, такая подготовка заключается в диверсификации источников энергоресурсов и способов их доставки, обеспечении необходимой избыточности производственных и транспортных мощностей, а также запасов энергоресурсов. Адаптация и восстановление системы осуществляется путем ее динамической реконфигурации, использования резервных мощностей и временного компенсирования требуемых объемов энергоресурсов. Хотя перечисленные мероприятия и повышают производительность системы, часто она не может быстро вернуться к тому уровню, что был до возмущения. Это в основном определяется тяжестью последствий возмущения и продолжительностью операций по восстановлению элементов СЭ.

Рис. 1.

Общая схема управления живучестью СЭ

В статье рассматривается проблема поддержки управления живучестью СЭ, причем большая часть внимания уделяется поддержке анализа живучести СЭ, результаты которого являются основой для планирования повышения живучести СЭ. Анализ живучести СЭ состоит из моделирования крупных возмущений и количественной оценки масштаба и величины их последствий. В целом, моделирование возмущений направлено на выявление недостатков в конструкции и механизмах управления системой, которые могут способствовать распространению крупного возмущения по ней самой и также по взаимосвязанным системам. В литературе предложено множество разнообразных показателей для количественной оценки последствий возмущений [4]. Они должны в достаточной мере отражать производительность системы и временной аспект, поскольку производительность реальной СЭ после возникновения крупного возмущения значительно меняется с течением времени (рис. 1).

Специфическая особенность анализа живучести СЭ – необходимость в вычислительном эксперименте, суть которого заключается в комбинаторном формировании и переборе множества сочетаний изменяющихся условий внешней среды с параметрами функционирования и развития системы. Эти сочетания представляют собой возможные сценарии крупных возмущений. В ходе перебора происходит оценка последствий возмущений и из сценариев выбираются наиболее представительные, т.е. имеющие наибольшие по величине или масштабу последствия. По отношению к последним затем выбираются инвариантные мероприятия по повышению живучести СЭ [1].

Так как общее число сценариев может быть чрезвычайно велико, то проведение многовариантных расчетов для оценки последствий возмущений представляет собой одну из задач, которая должна решаться в рамках поддержки управления живучестью СЭ. К другим нерешенным практическим задачам этой области относятся [5]: отсутствие комплексных подходов, позволяющих объединять различные методы анализа живучести СЭ; обеспечение многокритериальной оценки планируемых мероприятий по повышению живучести СЭ; обработка слабоструктурированной предметной информации и больших массивов результатов расчетов. С другой стороны, управление живучестью СЭ является многоэтапным процессом. Широкий спектр специалистов (математиков, прикладных и системных программистов, администраторов приложений, экспертов предметной области) задействуются на разных этапах. Таким образом, поддержка управления живучестью СЭ на основе комбинаторного моделирования обоснованно нуждается в инструментальном окружении, осуществляющем интеграцию необходимого программного и математического обеспечения, а также доступ к требуемым ресурсам, включая высокопроизводительные вычисления.

В связи с этим представлена новая предметно-ориентированная вычислительная среда для поддержки управления живучестью СЭ национального уровня. Обоснован выбор подхода к моделированию взаимосвязанной работы таких систем. Предложена схема комплексной оценки их живучести на основе комбинаторного подхода и поддержки принятия решений при планировании повышения живучести СЭ. Сформулирована постановка задачи многокритериальной оценки эффективности плана мероприятий по повышению живучести СЭ. Рассмотрены средства построения среды, преимущества применения которой показаны на примере поддержки управления живучестью Единой системы газоснабжения России, конкретнее при решении задачи определения ее наиболее важных элементов.

1. Подходы к моделированию СЭ. Как было сказано выше, возмущения могут распространяться между СЭ по взаимосвязям между ними. Наиболее часто используется следующая классификация [6] взаимосвязей: физические, представляющие поток ресурса от одного элемента к другому; коммуникационные для передачи данных состояния и управления; пространственные связи для представления зависимости между элементами, находящимися в одной местности; логические, куда входят связи, не относящиеся к вышеперечисленным категориям.

Сравнительный анализ известных подходов к моделированию критических инфраструктур, которые могут применяться в рамках управления живучестью СЭ, показывает, что подходы представляют исследуемые объекты в виде сети и используют принцип “система систем” для моделирования их совокупности [7]. Эти подходы условно делятся на две большие группы по территориальной иерархии. Первая группа ориентирована на международный и национальный уровни. Вторая группа фокусируется на региональном уровне и ниже. Далее рассмотрены четыре специфические группы таких подходов.

1.1. Сетевые топологические подходы. Применение теории сложных сетей лежит в основе топологических методов исследования критических инфраструктур [8, 9]. При анализе больших территориально-распределенных систем, таких, как СЭ, эта теория зачастую применяется для изучения их поведения при преднамеренных воздействиях или случайных отказах, в том числе в случае каскадного характера развития возмущений [10].

Основным преимуществом топологических методов является возможность использования разнообразных показателей для количественной оценки важности элементов сети и структурной уязвимости самой сети, например влияния удаления элементов сети на ее работоспособность [11]. Описание подобных показателей может быть выполнено с помощью унифицированного формализованного метода [12]. Важность элементов сети определяется на основе их топологических свойств (например, средней длины пути, центральности дуг и вершин, размера наибольшего связанного компонента и эффективности сети) для огрубленных моделей или с дополнительным учетом характеристик (например, сопротивления линий электропередач и труб в сетях электроснабжения и теплоснабжения соответственно), определяемых спецификой предметной области [13]. Наличие дополнительных характеристик позволяет проводить более детальные исследования.

1.2. Сетевые потоковые подходы. Известен широкий спектр подходов к исследованию взаимосвязанных инфраструктур на основе линейных потоковых моделей для анализа воздействия возмущений. В их числе – отечественные модели энергетического комплекса страны [14, 15] и модель энергетики США [16]. Эти модели предназначены для анализа возможных последствий крупных возмущений и оценки эффективности мероприятий по повышению живучести СЭ. Они также применимы для исследования взаимосвязей СЭ преимущественно физического и лишь отчасти пространственного типов.

Основным преимуществом линейных потоковых моделей является то, что описание потоков в разнородных системах осуществляется на базе единой математической формулировки. В то же время такие модели не подходят для анализа влияния локальных отказов элементов (и связанных с ними перегрузок) на производительность взаимосвязанных систем, поскольку они не отражают физические законы движения потоков ресурсов в полной мере. Как следствие, они могут быть неприменимы для изучения каскадного распространения возмущений [17].

1.3. Гибридные автоматы. Подход к описанию топологии и поведения инфраструктуры на разных уровнях абстракции с задействованием открытых гибридных автоматов представлен в [18]. Его особенностью является применение композиционного построения иерархических моделей, обеспечивающего более широкие возможности по описанию их поведения по сравнению с представителями рассмотренной выше второй группы. В рамках данного подхода сначала разрабатываются модели инфраструктур меньшего масштаба. Затем они служат основой для создания моделей более высокого уровня. Отдельные модели могут быть как непрерывными, так и дискретными. Этот подход может использоваться для моделирования возмущений каскадного характера. Он поддерживает описание всех типов взаимосвязей, приведенных выше.

1.4. Интеграционные подходы. Характерной чертой таких подходов к исследованию критических инфраструктур является возможность одновременной оценки технических, социальных, экономических и прочих последствий воздействия возмущения на систему.

В [19, 20] предложен общий подход к моделированию взаимосвязанных инфраструктур. Модель каждой из них включает две части: структурную и функциональную. Структурная часть представляет топологию системы в виде графа, который в общем случае может быть ориентированным. Функциональная часть описывает распределение потока по системе и ее реакцию на воздействие возмущений.

Структурные модели отдельных систем объединяются в общую структурную модель на основе предопределенных взаимосвязей между ними. Выделяется три категории взаимосвязей: функциональные, пространственные и их сочетание. Функциональные связи агрегируют физические, кибернетические и логические связи.

Внешние воздействия представлены в виде структурных и функциональных возмущений. Структурные возмущения реализуются путем экранирования элементов инфраструктуры в ее модели. Функциональные возмущения задаются путем изменения параметров функционирования (производительности, требуемых объемов поставки и потребления ресурсов, их стоимости и других характеристик) элементов.

Рассмотренный выше подход позволяет объединить в себе необходимые возможности сетевых подходов и адаптировать существующие структурные и функциональные модели в рамках единой взаимосвязанной инфраструктуры.

Другой интегрированный подход базируется на применении среды, которая упрощает построение и создание приложений для крупномасштабного моделирования, анализа и оптимизации взаимосвязанных СЭ [21]. Среда объединяет пакеты оптимизации и имитационного моделирования. Эти пакеты используют общую граф-ориентированную абстракцию СЭ. Такая абстракция позволяет строить модели иерархических сетей и отражать связи между сетями на разных уровнях. Однако даже на однородных ресурсах масштабируемость вычислений с помощью прикладного программного обеспечения (ПО), реализованного в рамках данного подхода, начинает снижаться при увеличении общего числа используемых вычислительных элементов до восьми процессоров.

В отдельных случаях для организации имитационного моделирования взаимосвязанных СЭ применяется инструментарий, поддерживающий открытый стандарт High Level Architecture (HLA) [22]. Это высокоуровневая архитектура общего назначения для имитационного моделирования распределенных систем. В рамках такого моделирования каждая система представлена своей собственной моделью и размещена в отдельном узле вычислительной среды. При этом процесс моделирования, базирующийся на стандарте HLA, может быть недостаточно эффективным [23]. Это связано с большими накладными расходами на синхронизацию модельного времени при высокой интенсивности событий и существенным влиянием шага его изменения на точность результатов моделирования относительно процесса распространения возмущения по системам.

2. Выбор базового подхода. Результаты сравнительного анализа ряда известных подходов из рассмотренных выше групп отражены в табл. 1 (знак ‘+’ означает поддержку того или иного критерия, знак ‘–’ говорит об ее отсутствии). В качестве критериев ${{c}_{1}} - {{c}_{5}}$ сравнения подходов выступают следующие характеристики, обеспечение которых требуется для эффективного исследования критических инфраструктур: учет каскадного характера развития возмущений (c1); категория физических (Ф), коммуникационных (К), пространственных (П) и логических (Л) межсистемных связей (c2); национальный (Н), а также региональный и ниже (Р) уровни территориальной иерархии (c3); интеграция разных моделей (c4); использование высокопроизводительных вычислений (c5).

Таблица 1.

Результаты сравнительного анализа

Группа Ссылка на подход Критерий
${{c}_{1}}$ ${{c}_{2}}$ ${{c}_{3}}$ ${{c}_{4}}$ ${{c}_{5}}$ ${{c}_{6}}$ ${{c}_{7}}$ ${{c}_{8}}$ ${{c}_{9}}$ ${{c}_{{10}}}$ ${{c}_{{11}}}$
1 [8] + Ф, К Р, Н + Высокое Высокая Высокая Низкое Низкая Низкая
2 [24] Ф, П Р, Н
[25] Ф, П Р, Н + Высокое Высокая Высокая Низкое Низкая Низкая
3 [18] + Ф, К, П, Л Р
[26] + Ф, К, П, Л Р
4 [19, 20] + Ф, К, П, Л Р, Н + + Высокое Высокая Высокая Низкое Низкая Низкая
[21] + Ф, К, П, Л Р, Н + + Среднее >> Средняя >> >> >>
[23] + Ф, К, П, Л Р, Н + + >> >> Низкая >> >> >>

В настоящее время проведение крупномасштабных экспериментов базируется на интеграции ресурсов центров коллективного пользования (ЦКП), облачных платформ и грид-систем. В табл. 1 показаны качественные оценки ускорения вычислений (c6), их надежности (c7) и эффективности использования ресурсов (c8) в процессе выполнения экспериментов с помощью ПО, реализованного в рамках рассмотренных подходов, на основе параллельных и распределенных вычислений в однородной среде. Соответствующие оценки ${{c}_{9}} - {{c}_{{11}}}$ представлены для разнородных ресурсов.

Результаты сравнительного анализа показывают, что интеграционные подходы наиболее полно удовлетворяют перечисленным выше необходимым критериям исследования критических инфраструктур. Среди них выделяется общий подход к моделированию взаимосвязанных систем [19, 20], обеспечивающий как полезные свойства сетевых подходов, так и возможность адаптации существующих отдельных моделей в процессе их объединения. Он позволяет формулировать общую постановку задачи как для отдельно взятых, так и для интегрированных систем. Данный подход выбран в качестве базового для моделирования СЭ. Однако результаты его прежнего практического применения, как и других рассмотренных подходов, подтверждают факт существенного снижения эффективности использования ресурсов, ускорения вычислений и их надежности при переходе от однородной вычислительной системы к разнородной среде [25].

В связи с этим концепции, представленные в [19, 20], развиты с целью их адаптации к выполнению на разнородных ресурсах. Их реализация выполнена в виде распределенного пакета прикладных программ (РППП) с помощью инструментария Orlando Tools [27]. Этот инструментарий является основой интегрированного программного окружения для создания предметно-ориентированной вычислительной среды поддержки принятия решений по управлению живучестью СЭ. В Orlando Tools разработаны новые специализированные средства диспетчеризации вычислений, которые позволяют успешно решать вышеупомянутые проблемы, связанные с проведением исследований в разнородной среде.

3. Поддержка принятия решений. Разнообразные вычислительные компоненты (сервер, кластер, грид-система, облачная платформа) с различными возможностями могут требоваться при планировании мероприятий по повышению живучести СЭ в зависимости от методов анализа живучести СЭ на основе комбинаторного подхода, размерностей параметров моделей отдельных систем или их совокупности, образующих энергетический комплекс. Комбинаторный подход обеспечивает генерацию и полный перебор множества сценариев возмущений, что позволяет уйти от влияния фактора субъективности при отборе таких сценариев экспертом.

При использовании комбинаторного подхода число генерируемых сценариев ограничивается выбранным уровнем представления территориально-производственной структуры СЭ, а также заданным в рамках эксперимента набором типов мероприятий по повышению живучести, каждое из которых может быть применено только к некоторому подмножеству элементов СЭ [1].

Интеграция вышеперечисленных компонентов в единую предметно-ориентированную гетерогенную распределенную среду обеспечивает возможность выбора ее необходимой программно-аппаратной конфигурации. Кроме того, такое интегрирование повышает эффективность экспериментов, характеризующихся различной степенью вычислительной сложности решаемых задач.

В статье представлен прототип такой среды. Общая схема поддержки принятия решений экспертами показана на рис. 2. РППП для различных классов задач, связанных с исследованием живучести СЭ, включая их прикладное и системное программное обеспечение, разрабатывается, модифицируется и интегрируется разработчиками пакетов с использованием Orlando Tools. Информация о предметных областях пакетов (моделях энергетических систем, их входные и выходные параметры, наборы внешних возмущений и управляющих воздействий, алгоритмы принятия решений и их реализации – модули) хранятся в базе знаний.

Рис. 2.

Схема поддержки принятия решений: $@$ геоинформационные сервисы, $@$ Orlando Tools, $@$ средства GeoARM, $@$ РППП

Сервисы Orlando Tools поддерживают автоматизацию построения схем решения задач на основе их процедурных и непроцедурных формулировок. Они также осуществляют выполнение созданных схем экспертами в среде.

В дополнение к Orlando Tools используются вспомогательные приложения для реализации операций, необходимых в процессе поддержки принятия решений. Для непрерывной интеграции, доставки и развертывания системного и прикладного ПО на узлах среды применяются как средства Orlando Tools, так и внешние приложения (например, GitLab) [27]. В частности, для настройки узлов задействуется известный инструментарий конфигурирования вычислительных устройств Ansible. При этом средства Orlando Tools обеспечивают информационную поддержку и автоматизацию всех процессов непрерывной интеграции, доставки и развертывания ПО с помощью этих приложений.

Предметно-ориентированная информация, необходимая экспертам для решения задач, содержится в различных часто меняющихся источниках. В связи с этим приложение GeoARM [28] применяется совместно с Orlando Tools для извлечения сведений из слабо структурированных источников и ее преобразования в целевые форматы данных РППП. Структурированные данные и результаты вычислений хранятся в расчетных базах данных.

В блоке поддержки принятия решений реализован многокритериальный анализ результатов вычислений (последствий крупных возмущений). Кроме того, формирование электронных карт и визуализация полученных результатов расчетов предоставляются экспертам с помощью геоинформационных сервисов. В поддержке управления живучестью СЭ эти сервисы выполняют следующие функции [29]:

графическое представление схемы СЭ в виде сети с вершинами, соответствующими реальным объектам энергетики, и дугами, отражающими передачу энергоресурсов между вершинами;

визуализация необходимой информации с использованием различных тематических слоев сети;

интерпретация исходных данных и результатов расчетов.

Все вышеперечисленные операции объединены в технологическую цепочку поддержки принятия решений в рамках прототипа среды (рис. 2).

Лица, принимающие решения, работают с автоматизированным рабочим местом (АРМ) эксперта, которое поддерживает взаимодействие с другими информационно-вычислительными компонентами. В ходе экспериментов специалисты могут формировать различные управляющие воздействия в моделях СЭ в автоматическом или ручном режимах. АРМ использует средства GeoARM.

Сервер Orlando Tools поддерживает выполнение пакетов на разных конфигурациях разнородных ресурсов. С целью рационального назначения ресурсов среды в процессе диспетчеризации вычислений используются специальная мультиагентная система [30]. Агенты представляют владельцев ресурсов и их конечных пользователей. Они обеспечивают согласование предпочтений владельцев ресурсов и критериев решения задач пользователей, применяя рыночные методы регулирования спроса и предложения ресурсов.

4. Постановка задачи. Моделирование поведения энергетического комплекса, состоящего из взаимосвязанных СЭ, при воздействии крупного возмущения ${{v}_{t}}$ в определенный момент времени t основывается на решении задачи [14]

(4.1)
$c{{x}_{t}} + p\left( {{{r}_{t}} - {{y}_{t}}} \right) + h{{u}_{t}} \to {\text{min,}}$
(4.2)
${{A}_{t}}{{x}_{t}} + {{Q}_{t}}{{u}_{t}} - y \geqslant 0,$
(4.3)
${{d}_{t}} - {{x}_{t}} \geqslant 0,$
(4.4)
${{r}_{t}} - {{y}_{t}} \geqslant 0,$
(4.5)
${{z}_{t}} - {{u}_{t}} \geqslant 0,$
где ${{x}_{t}}$ – искомый вектор, элементы которого характеризуют интенсивность применения технологических способов функционирования элементов СЭ (добычи, переработки, преобразования и транспорта энергоресурсов); ${{y}_{t}}$ – искомый вектор, элементы которого характеризуют объемы потребления отдельных видов энергоресурсов; ${{u}_{t}}$ – искомый вектор, представляющий интенсивность проведения мероприятий по повышению живучести; ${{A}_{t}}$ – матрица, описывающая технологии производства и передачи энергоресурсов, значения элементов ${{a}_{{ij}}}\left( {{{{v}}_{t}}} \right)$ которой зависят от возмущения ${{{v}}_{t}}$; ${{d}_{t}}$ – вектор, определяющий технически возможные интенсивности применения отдельных технологических и производственных способов, значения элементов ${{d}_{i}}({{{v}}_{t}})$ которого зависят от возмущения ${{{v}}_{t}}$; ${{r}_{t}}$ – вектор, элементы которого демонстрируют потребности потребителей в отдельных видах энергоресурсов;$~{{Q}_{t}}$ – матрица, отражающая локализацию проведения мероприятий по повышению живучести; zt – вектор, задающий пределы интенсивности проведения мероприятий по повышению живучести; c – вектор, элементы которого определяют удельные затраты по каждому технологическому способу функционирования элементов СЭ; p – вектор удельных ущербов, возникающих вследствие недопоставки отдельных видов энергоресурсов потребителям; h – вектор, задающий удельные затраты на подготовку и проведение мероприятий по повышению живучести.

Целевая функция (4.1) является сверткой трех критериев. Первый критерий отражает издержки, связанные с функционированием энергетического комплекса. Второй критерий оценивает ущерб от дефицита энергоресурсов из-за возмущения ${{{v}}_{t}}$. Затраты на подготовку и проведение мероприятий по повышению живучести характеризуются третьим критерием.

Сценарий возмущения ${{{v}}_{t}}$ реализуется элементами матрицы ${{A}_{t}}$ и вектора ${{d}_{t}}$ в уравнениях (4.2) и (4.3) соответственно. Элементы ${{A}_{t}}$ и ${{d}_{t}}$ характеризуют степень деформации различных частей СЭ вследствие воздействия возмущения в момент времени t.

Уровень необходимого снабжения потребителей отдельными видами энергоресурсов задается уравнением (4.4). Технические ограничения на проведение мероприятий по повышению живучести определяется в (4.5).

5. Вычислительный эксперимент. Использование предложенной среды демонстрируется на примере поддержки управления живучестью Единой системы газоснабжения России, представляющей собой единый производственный комплекс, который территориально охватывает eвропейскую часть страны, Урал и Западную Сибирь. Агрегированная расчетная схема данной СЭ включает в себя 382 вершины (28 источников, 64 потребителя, 24 подземных хранилища и 266 компрессорных станций). Также в расчетную схему входит 486 дуг, отождествляющих магистральные газопроводы и отводы на распределительные сети.

Был разработан РППП, с помощью которого анализ живучести СЭ на основе комбинаторного подхода может проводиться двумя способами:

моделирование серии возмущений с постепенно увеличивающейся степенью воздействия и соответственно возрастающей величиной последствий для системы для определения пороговых значений последствий, превышение которых будет вызывать распад рассматриваемой СЭ на несвязанные части;

исследование одиночных или групповых отказов элементов СЭ для выявления наборов критических элементов, отключение которых вызывает наиболее тяжелые последствия для СЭ в целом.

В качестве показателя для количественной оценки последствий возмущений выбрана относительная суммарная недопоставка энергоресурсов потребителям по Единой системе газоснабжения в целом. Чем этот показатель выше, тем серьезней и масштабней последствия оцениваемого возмущения.

Во втором способе анализа живучести отключаемые элементы СЭ объединяются в так называемые множества отказов. Множество отказов характеризуется кратностью или количеством элементов, повреждение которых наступает одновременно. Кратность k множества отказов выбирается исследователем в зависимости от общего числа элементов сети СЭ, состоящей из $n$ вершин и $m$ дуг. Число $l$ возможных множеств отказов, равное $(n + m)!{\text{/}}((n + m - k)!k!)$, быстро растет по мере увеличения $k$. Поэтому в рамках известных исследований значение k не превышает, как правило, 3 или 4. Для обоснования практической достаточности этих значений следует отметить, что начиная с них наблюдается хорошая степень корреляции между оценками важности элементов, полученных при разных $k$ [31].

На базе РППП доступно несколько альтернативных методик формирования и выбора наборов критических элементов [3234]. Например, в [32] приводится наиболее простой пример поддержки управления живучестью Единой системы газоснабжения России, где с помощью РППП моделировалось отключение всех мест пересечений магистральных газопроводов, потом места пересечений сортировались по описанному выше показателю и создавался список критически важных объектов. Для каждого объекта из списка средствами РППП решалась задача (4.1)–(4.5) и составлялся перечень мероприятий, позволяющих минимизировать дефицит газа у потребителей путем расшивки “узких мест”, образовавшихся при нарушении работы конкретного пересечения. Объединение перечней мероприятий позволило сформировать перечень инвариантных мероприятий по повышению живучести, реализация которых позволит снизить негативные последствия от нарушения работы большего числа пересечений из списка критически важных объектов.

В [33] упор делается на поиск групп критических элементов с так называемым синергетическим эффектом. Синергетический эффект означает, что негативные последствия совместного отказа всей группы выше, чем суммарный ущерб от повреждений отдельных элементов, входящих в группу. Другими словами, синергетический эффект наступает тогда, когда возмущение в виде отказа группы из двух элементов имеет серьезные последствия, в то время как отдельный отказ каждого из элементов сам по себе не приносит СЭ какого-либо существенного ущерба.

Одной из последних реализованных была методика [34], которая по сравнению с [32] имеет большее количество этапов. Из схемы Единой системы газоснабжения России в качестве элементов множеств отказов былa отобранa 291 вершинa всех типов, исключая потребителей, а также 415 дуг.

С помощью РППП в [34] решались следующие три задачи в рамках поддержки управления живучестью Единой системы газоснабжения России.

Задача 1. Определение наиболее важных элементов относительно сети в целом. Найдено 63 наиболее важных элемента, выход из строя которых приводит к суммарному дефициту газа по системе в размере 15% и более для $k = \overline {1,3} $.

Задача 2. Определение наиболее важных парных сочетаний элементов относительно сети в целом. Получено 207690 парных сочетаний элементов, не пересекающихся с наиболее важными элементами, найденными в задаче 1. Выявлено 2865 пар элементов, выход из строя которых приводит к суммарному дефициту газа по системе в размере 5% и более. Определены мероприятия по повышению живучести газотранспортной системы, в результате которых число таких пар сокращается до 2500. В итоге отобраны 20 наиболее важных пар элементов, выход из строя которых приводит к суммарному дефициту газа по системе в размере 10% и более.

Задача 3. Определение наиболее важных элементов относительно потребителей. Получено 1789000 парных сочетаний элементов. Из них выделено 18528 наиболее важных сочетаний элементов, выход из строя которых приводит к дефициту газа хотя бы у одного потребителя в размере 10% и более.

На основе отобранных наиболее важных элементов далее будут определяться долговременные мероприятия по развитию Единой системы газоснабжения России для повышения ее живучести в отличие от кратковременных оперативных мероприятий в [32].

В начале работы с РППП эксперт составляет список отключаемых элементов, задает требуемое значение $k$ и совместно с исходными данными для задачи (4.1)–(4.5) передает их как значения входных параметров схемы s2, обеспечивающей перебор множеств отказов разной кратности (рис. 3). Схема s2 в свою очередь вызывает схему ${{s}_{1}}$ для перебора множеств отказов определенной кратности (рис. 4).

Рис. 3.

Схема s1

Рис. 4.

Схема s2

На рис. 3 приведен скриншот схемы ${{s}_{2}}$ из графического редактора РППП. Параметры и операции схемы представлены соответственно овалами и прямоугольниками с закругленными краями. Операция IgniteStart схемы s2 осуществляет настройку и инициализацию распределенной базы данных для высокопроизводительных вычислений Apache Ignite. Операция falure_sets_simulation порождается поток заданий по выполнению экземпляров схемы s1 с разными значениями k (параметр falure_set_size_0_s на рис. 3).

Схема s1 на рис. 4 генерирует множество отказов элементов определенной кратности, моделирует групповой отказ элементов каждого множества отказов в расчетной схеме и оценивает последствия такого отказа.

В частности, операция failure_sets_gen формирует набор возмущений указанного размера и разделяет его на подмножества. Операция vars_block_calc подсчитывает число переменных в конкретной модели (4.1)–(4.5). Экземпляры операции failure_sets_sol параллельно производят оценку  каждого  множества  отказов. На одном узле вычислительной среды выполняется множество экземпляров операции failure_sets_sol. Операция failure_set_size определяет следующее значение кратности множества отказов элементов.

После моделирования возмущений эксперт подбирает один или несколько показателей для количественной оценки последствий возмущений и рассчитывает с помощью средств Apache Ignite их значения для всех сгенерированных множеств отказа. С помощью АРМ эксперт просматривает значения показателей и отбирает по ним наиболее представительные множества отказов для дальнейшего детального анализа (рис. 5). В примере, приведенном на рис. 5, отобраны множества отказов (записи, выделенные красным цветом), в результате отключения элементов которых возникает суммарный дефицит газа больше или равный 10% от общего объема газа, предоставляемого в целом в рамках Единой системы газоснабжения России.

Рис. 5.

Интерфейс АРМ

Схема s3 (рис. 6) генерирует электронные карты для отобранных множеств отказов (операция maps_gen) и публикует их на геоинформационном портале (операция send_maps_to_rest). Примеры электронных карт, отражающих различные состояния СЭ в процессе анализа последствий возмущений, приведены на рис. 7.

Рис. 6.

Схема s3

Рис. 7.

Примеры электронных карт

Вычислительные эксперименты выполнялись в гетерогенной распределенной среде, включающей три сегмента (табл. 2). С целью иллюстрации эффективности вычислений на разнородных ресурсах в табл. 2 приведено время решения задачи 1 для $k = \overline {1,3} $. Когда $k = 1$, применение высокопроизводительных узлов сегментов 2 и 3 является нецелесообразным из-за небольшой размерности задачи. Накладные расходы на запуск немногочисленных экземпляров модулей на этих узлах не дают существенного преимущества. Однако с увеличением $k$ преимущество использования таких узлов становится очевидным. При k = 3 задача не может быть решена на персональном компьютере за приемлемое время. В том же случае время вычислений в сегментах 2 и 3 при одинаковых значениях $k$ составляет всего несколько часов.

Таблица 2.

Время решения задачи 1 на разнородных ресурсах

k Сегмент 1: 1 узел со следующими характеристиками процессора – 1 core Intel Core i5–650, 3.4 GHz, 8 GB RAM Сегмент 2: 12 узлов с двумя процессорами AMD Opteron 6276 (16 core, 2.3 GHz, 64 GB RAM) Сегмент 3: 12 узлов с двумя процессорами Intel Xeon CPU X5670 (18 core, 2.1 GHz, 128 GB of RAM)
1 362 168.45 163.34
2 190 479 395.83 342.50
3 ~10 000 000 (задача не решается за приемлемое время) 43244.17 21491.67

Дополнительные эксперименты (рис. 8) показывают улучшение времени конфигурирования узлов (рис. 8, а), тестирования схемы решения задач в сконфигурированных узлах (рис. 8, б) и выполнения этой схемы в процессе реальных расчетов (рис. 8, в), а также ускорения вычислений (рис. 8, г), эффективности использования ресурсов (рис. 8, д) и средней загрузки процессора (рис. 8, е) с помощью мультиагентной диспетчеризации вычислений по сравнению с известным традиционным метапланировщиком GridWay. В рамках мультиагентной системы конфигурирование узлов и тестирование схемы решения задачи в них выполняется автоматически агентами. В случае GridWay эти операции приходится осуществлять администратору среды вручную. Таким образом, улучшения продемонстрированы как на этапе подготовки экспериментов, так и на этапе их проведения.

Рис. 8.

Результаты дополнительных экспериментов

В экспериментах использовано разное число одновременно задействованных узлов сегментов 2 и 3. В процессе тестирования схем решения задач (рис. 8, б) задействовано меньшее число узлов, так как требовалось только проверить корректность выполнения модулей на узлах обоих сегментов и передачи данных между ними. Преимущества достигаются за счет учета свойcтв узлов и прогнозирования времени выполнения модулей на основе их тестирования в процессе непрерывной интеграции, доставки и развертывания ПО РППП. Очевидно, что чем выше неоднородность среды, тем ощутимее преимущества используемой мультиагентной диспетчеризации.

Заключение. Рассмотрен новый подход к организации и применению предметно-ориентированной гетерогенной распределенной вычислительной среды. В его рамках, решаются следующие наиболее важные практические проблемы, касающиеся поддержки управления живучестью СЭ национального уровня:

проведение комплексного анализа живучести СЭ на основе комбинаторного подхода и поддержка принятия решений при планировании повышения живучести СЭ;

обеспечение многокритериальной оценки планируемых мероприятий по повышению живучести СЭ;

обработка слабоструктурированной предметной информации и больших массивов результатов расчетов;

автоматизация подготовки и проведения многовариантых расчетов в разнородной среде.

В рамках среды реализована технологическая цепочка поддержки принятия решений, включающая следующие операции: извлечение сведений из слабоструктурированных источников и их конвертация в целевые форматы данных; разработка, модификация и объединения РППП для разных классов задач; их непрерывная интеграция, доставка и развертывание на узлах среды; автоматизация построения и выполнения схем решения задач; многокритериальный анализ результатов вычислений; визуализация полученных результатов с помощью геоинформационных сервисов; формирование управляющих воздействий в модели СЭ.

Диспетчеризация вычислений осуществляется с помощью мультиагентных технологий. Это позволило сократить общее время решения задач, обеспечить ускорение вычислений на разнородных ресурсах, близкое к линейному ускорению, повысить среднюю загрузку процессора и эффективность использования ресурсов по сравнению с традиционным метапланировщиком. Прототип среды успешно применен для решения практических задач управления живучестью Единой системы газоснабжения России, конкретнее при решении задачи определения ее наиболее важных элементов.

Представленный в статье подход к организации и применению предметно-ориентированной гетерогенной распределенной вычислительной среды может быть применен для оценки адаптивной способности энергетических комплексов других уровней территориальной иерархии к изменению условий внешней среды.

Список литературы

  1. Антонов Г.Н., Черкесов Г.Н., Криворуцкий Л.Д. Методы и модели исследования живучести систем энергетики. Новосибирск: Наука. СО, 1990. С. 9–17.

  2. Zio E. The Future of Risk Assessment // Reliab. Eng. Syst. Safe. 2018. V. 177. P. 176–190.

  3. Setola R., Theocharidou M. Modelling Dependencies Between Critical Infrastructures // Managing the Complexity of Critical Infrastructures / Eds R. Setola, V. Rosato, E. Kyriakides et al. Cham: Springer, 2016. P. 19–42.

  4. Hosseini S., Barker K., Ramirez-Marquez J.E. A Review of Definitions and Measures of System Resilience // Reliab. Eng. Syst. Safe. 2016. V. 145. P. 47–61.

  5. Еделев А.В., Сендеров С.М., Береснева Н.М., Сидоров И.А., Феоктистов А.Г. Распределенная вычислительная среда для анализа уязвимости критических инфраструктур в энергетике // Системы связи, управления и безопасности. 2018. № 3. С. 197–231.

  6. Rinaldi S.M., Peerenboom J.P., Kelly T.K. Identifying, Understanding, and Analyzing Critical Infrastructure Interdependencies // IEEE Contr. Syst. Mag. 2001. V. 21. № 6. P. 11–25.

  7. Ed-daoui I., Itmi M., Hami A.E., Hmina N., Mazri T. A Deterministic Approach for Systems-of-systems Resilience Quantification // Int. J. Crit. Infrastruct. 2018. V. 14. № 1. P. 80–99.

  8. Staudt C.L., Sazonovs A., Meyerhenke H. NetworKit: A Tool Suite for Large-scale Complex Network Analysis // Netw. Sci. 2016. V. 4. № 4. P. 508–530.

  9. Barabsi A.-L., Albert R. Emergence of Scaling in Random Networks // Science. 1997. V. 286. P. 509–512.

  10. Chunlei W., Lan F., Yiqi D. National Critical Infrastructure Modeling and Analysis Based on Complex System Theory // Proc. 1st Intern. Conf. on Instrumentation, Measurement, Computer, Communication and Control. Beijing: IEEE, 2011. P. 832–836.

  11. Criado R., Romance M. Structural Vulnerability and Robustness in Complex Networks: Different Approaches and Relationships Between them // Handbook of Optimization in Complex Networks / Eds M.T. Thai, P.M. Pardalos. N. Y.: Springer, 2012. P. 3–36.

  12. Criado R., Pello J., Romance M., Vela-Pérez M. (ψ, p, q)-vulnerabilities: A Unified Approach to Network Robustness // Chaos. 2009. V. 19. № 1. P. 013133.

  13. Abedi A., Gaudard L., Romerio F. Review of Major Approaches to Analyze Vulnerability in Power System // Reliab. Eng. Syst. Safe. 2019. V. 183. P. 153–172.

  14. Зоркальцев В.И. Методы прогнозирования и анализа эффективности функционирования системы топливоснабжения. М.: Наука, 1988. 144 с.

  15. Козлов М.В., Малашенко Ю.Е., Назарова И.А., Новикова Н.М. Управление топливно-энергетической системой при крупномасштабных повреждениях. I. Сетевая модель и программная реализация // Изв. РАН. ТиСУ. 2017. № 6. С. 50–73.

  16. Gil E.M., McCalley J.D. A US Energy System Model for Disruption Analysis: Evaluating the Effects of 2005 Hurricanes // IEEE Transactions on Power Systems. 2011. V. 26. № 3. P. 1040–1049.

  17. Holden R., Val D.V., Burkhard R., Nodwell S. A Network Flow Model for Interdependent Infrastructures at the Local Scale // Safety Sci. 2013. V. 53. P. 51–60.

  18. Heracleous C., Kolios P., Panayiotou C.G., Ellinas G., Polycarpou M.M. Hybrid Systems Modeling for Critical Infrastructures Interdependency Analysis // Reliab. Eng. Syst. Safe. 2017. V. 165. P. 89–101.

  19. Johansson J., Hassel H. An Approach for Modelling Interdependent Infrastructures in the Context of Vulnerability Analysis // Reliab. Eng. Syst. Safe. 2010. V. 95. № 12. P. 1335–1344.

  20. Johansson J., Hassel H. Modelling, Simulation and Vulnerability Analysis of Interdependent Technical Infrastructures // Risk and Interdependencies in Critical Infrastructures: A Guideline for Analysis / Eds P. Hokstad, I.B. Utne, J. Vatn. L.: Springer-Verlag, 2012. P. 49–66.

  21. Jalving J., Abhyankar S., Kim K., Hereld M., Zavala V.M. A Graph-based Computational Framework for Simulation and Optimisation of Coupled Infrastructure Networks // IET Gener. Transm. Dis. 2017. V. 11. № 12. P. 3163–3176.

  22. The HLA Development Kit. https://smash-lab.github.io/HLA-Development-Kit/.

  23. Kröger W., Nan C. Addressing Interdependencies in Complex Technical Networks // Networks of Networks: The Frontier of Complexity / Eds G.D. Agostini, A. Scala. Cham: Springer, 2014. P. 279–309.

  24. Almassalkhi M., Hiskens I. Optimization Framework for the Analysis of Large-scale Networks of Energy Hubs // Proc. 17th Power System Computation Conf. Stockholm: Curran Associates, 2011. P. 1124–1130.

  25. Sharma T., Glynna J., Panosd E., Deanea P., Gargiuloe M., Rogana F., Gallachoir B.O. High Performance Computing for Energy System Optimization Models: Enhancing the Energy Policy Tool Kit // Energ. Policy. 2019. V. 128. P. 66–74.

  26. Martins J., Platzer A., Leite J. Statistical Model Checking for Distributed Probabilistic-control Hybrid Automata with Smart Grid Applications // Lect. Notes Comput. Sc. 2011. V. 6991. P. 131–146.

  27. Feoktistov A., Gorsky S., Sidorov I., Bychkov I., Tchernykh A., Edelev A. Collaborative Development and Use of Scientific Applications in Orlando Tools: Integration, Delivery, and Deployment // Comm. Com. Inf. Sc. 2020. V. 1087. P. 18–32.

  28. Фереферов Е.С., Бычков И.В., Хмельнов А.Е. Технология разработки приложений баз данных на основе декларативных спецификаций // Вычислительные технологии. 2014. Т. 19. №. 5. С. 85–100.

  29. Бычков И.В., Ружников Г.М., Федоров Р.К., Шумилов А.С., Михайлов А.А., Верхозина А.В. Интернет-система ввода и редактирования пространственных данных “Фарамант” // Вестн. компьютерных и информационных технологий. 2015. № 9. С. 21–25.

  30. Бычков И.В., Опарин Г.А., Феоктистов А.Г., Сидоров И.А., Богданова В.Г., Горский С.А. Мультиагентное управление вычислительной системой на основе метамониторинга и имитационного моделирования // Автометрия. 2016. Т. 52. № 2. С. 3–9.

  31. Li J., Dueñas-Osorio L., Chen C., Shi C. AC Power Flow Importance Measures Considering Multi-element Failures // Reliab. Eng. Syst. Safe. 2017. V. 160. P. 89–97.

  32. Еделев А.В., Сендеров С.М., Сидоров И.А. Применение распределенных вычислений для выявления критически важных объектов газотранспортной сети России // Информационные и математические технологии в науке и управлении. 2016. Т. 1. С. 55–62.

  33. Воробьев С.В., Еделев А.В. Применение метода определения критических элементов в сетях технических инфраструктур для поиска критически важных объектов газотранспортной сети России // Энергетическая политика. 2018. Т. 1. С. 45–51.

  34. Senderov S.M., Vorobev S.V. Approaches to the Identification of Critical Facilities and Critical Combinations of Facilities in the Gas Industry in Terms of its Operability // Reliab. Eng. Syst. Safe. 2020. V. 203. P. 107046.

Дополнительные материалы отсутствуют.