Содержание к диссертации
Введение
1. Проблемы межмодульного распределения нагрузки в системах доставки контента 9
1.1. Математические основы распределения нагрузки в системах доставки контента 9
1.2. Системы доставки контента и энергетическая оптимизация 13
1.3. Существующие подходы к оценке производительности систем доставки контента 23
1.4. Постановка задач работы 30
2. Определение влияния эластичности потока данных при межмодульном взаимодействии c использованием СМО M/M/1 с изменяющейся во времени интенсивностью обслуживания 31
2.1. Проблема определения количественных характеристик, описывающих влияние неэластичного трафика на эластичный 31
2.2. Модель процесса межмодульного взаимодействия 34
2.2.1. Обозначения и допущения 34
2.2.2. Добавляемые и компенсирующие отправления
2.3. Анализ периода занятости: член первого порядка 38
2.4. Период занятости: член второго порядка 44
2.5. Приложения
2.5.1. Неотрицательная функция возмущений 53
2.5.2. Отрицательная функция возмущений 55
2.5.3. Быстрые окружения 57
2.6. Выводы 59
3. Алгоритмизация исследования механизмов распределения нагрузки в неоднородных информационных системах 60
3.1. Предварительные замечания 60
3.2. Механизм распределения нагрузки между серверами сети 61
3.3. Механизм работы демона серверов
3.3. Механизм работы агента серверов 70
3.4. Механизм работы агентов загрузки 74
3.5. Особенности проектирования и алгоритмизация функционирования
пакета программ распределения нагрузки (общая информация) 76
3.6. Алгоритмы и структуры данных агента информационных серверов 78
3.7. Структуры данных и алгоритмы демона серверов 82
3.8. Структуры данных и алгоритм работы агента загрузки 91
3.9. Выводы
4. Рационализация управления многосерверными информационными системами средствами балансировки нагрузки 96
4.1. Локальный и глобальный метод балансировки 96
4.2. Результаты численного эксперимента по исследованию предложенных алгоритмов 104
4.3. Классификация параметров энергоэффективности программных приложений при экспериментальном исследовании методов балансировки нагрузки многосерверных информационных систем 106
4.4. Глобальная балансировка нагрузки 117
4.5. Программная реализация мультиагентной системы мониторинга состояния системы доставки контента 121
4.6. Выводы 123
Основные результаты работы 124
Список использованных источников
- Существующие подходы к оценке производительности систем доставки контента
- Модель процесса межмодульного взаимодействия
- Механизм работы демона серверов
- Классификация параметров энергоэффективности программных приложений при экспериментальном исследовании методов балансировки нагрузки многосерверных информационных систем
Введение к работе
Актуальность темы
В рамках распределенных систем, таких как системы доставки контента (СДК), работают сотни тысяч серверов, расположенных в тысячах дата-центров по всему миру. Поскольку энергозатраты на содержание такой большой ИТ-инфраструктуры составляют значительную часть общих операционных расходов, возможна модификация СДК так, чтобы включить в них энергетическую оптимизацию в качестве основного принципа.
Представляется возможным создать методы отключения серверов СДК в периоды низкой загрузки, стремясь сбалансировать три основные цели: максимальную экономию энергии, минимизацию воздействия на воспринимаемую клиентом доступность сервиса, и ограничение частоты включения-выключения сервера для уменьшения износа и его влияния на аппаратную надежность.
В данном направлении должны быть созданы рациональные алгоритмы достижения энергосбережения как на уровне местной балансировки нагрузки в центре обработки данных, так и глобальной балансировки нагрузки между центрами обработки данных.
В рамках таких систем необходимы интерфейсы межмодульного взаимодействия, передающие данные, которые может адаптироваться к уровню загруженности транспортной сети (эластичный трафик) и небольшое количество трафика, который может оказаться неустойчивым к задержкам (неэластичный трафик). Эластичный трафик контролируется TCP-протоколом, который должен обеспечивать равномерное распределение полос пропускания между достаточно длинными потоками при прохождении ими узких каналов связи. Но неэластичный трафик состоит из небольших передач данных, которые слишком малы, чтобы адаптироваться к уровню загруженности сети. Воздействие неэластичного трафика на эластичный выглядит как некоторые небольшие возмущения доступной полосы пропускания, и такие воздействия необходимо исследовать для обеспечения рационального распределения нагрузки.
Большие СДК в настоящее время обеспечивают основу распределенной инфраструктуры. Энергетические затраты на эксплуатацию Интернет-систем уже составляют значительную часть общей стоимости владения. Сокращение потребления энергии в СДК - многоплановая проблема, требующая повышения эффективности энергопотребления центров обработки данных.
Актуальной является задача математического описания систем, потоки и обработка данных в которых обладают свойством изменяющейся интенсивности, а также математического и программного обеспечения межмодульного распределения нагрузки в системах доставки контента.
Работа выполнена в ФГБОУ ВПО «Воронежский государственный технический университет» в рамках научного направления «Вычислительные комплексы и проблемно-ориентированные системы управления».
Цель работы заключается в разработке математического и программного обеспечения межмодульного распределения нагрузки в системах доставки контента на основе систем массового обслуживания с изменяющейся интенсивностью обслуживания.
Для достижения поставленной цели в диссертационной работе сформулированы следующие задачи:
определить влияние эластичности потока данных на загрузку каналов при межмодульном взаимодействии c использованием СМО M/M/1 с изменяющейся во времени интенсивностью обслуживания;
разработать алгоритмы исследования механизмов распределения нагрузки в неоднородных информационных системах;
осуществить рационализацию управления в многосерверных информационных системах средствами балансировки нагрузки;
провести численные эксперименты по исследованию предложенных методов управления с использованием оригинального программного обеспечения.
разработать программную реализацию мультиагентной системы мониторинга состояния системы доставки контента.
Методы исследования. В качестве теоретической и методологической основы диссертационного исследования использованы методы математического моделирования, оптимизации, теории вероятностей и математической статистики, технологии объектно-ориентированного программирования.
Тематика работы соответствует следующим пунктам паспорта специальности 05.13.11: п.9 «Модели, методы, алгоритмы и программная инфраструктура для организации глобально распределенной обработки данных», п. 10 «Оценка качества, стандартизация и сопровождение программных систем».
Научная новизна. В работе получены следующие результаты, отличающиеся научной новизной:
математическая модель взаимодействия эластичных и неэластичных данных в межмодульных интерфейсах информационных систем, отличающаяся учетом воздействия небольших изменений интенсивности обслуживания в очереди M/M/1 и обеспечивающая применимость технологии аппроксимации сокращенного времени обслуживания;
алгоритм управления межмодульным интерфейсом, отличающийся учетом знака функции возмущений интенсивности обслуживания и обеспечивающий выравнивание скорости обслуживания неприоритетных данных;
алгоритм балансировки нагрузки в сетях доставки, отличающийся применением математической модели средств управления и приближающий нагрузку на компоненты сети доставки контента к равномерной;
рациональные алгоритмы достижения энергосбережения как на уровне местной балансировки нагрузки в центре обработки данных, так и глобальной балансировки нагрузки между центрами обработки данных, обрабатывающие
только поступающие нагрузки и обеспечивающие дополнительный резерв производительности серверов;
- адаптивные методы управления активностью серверов систем доставки контента, обеспечивающие повышение показателя доступности услуг за счет выделения оперативного серверного резерва при эвристическом решении многокритериальной задачи максимальной экономии энергии, минимизации воздействия на воспринимаемую клиентом доступность сервиса, и ограничения частоты включения-выключения сервера.
Практическая значимость заключается в программной реализации муль-тиагентной системы мониторинга состояния системы доставки контента, с целью оперативного формирования средств управления нагрузкой многосерверных систем. На элементы программных средств получено свидетельство о государственной регистрации.
Реализация и внедрение результатов работы. Результаты исследований используются в системе управления информационной системой университетского кампуса (Университет транспорта и коммуникации, г.Ханой, Вьетнам) для обеспечения регламентных параметров реакции системы на запросы пользователей и управление серверными кластерами.
Основные результаты работы внедрены в учебный процесс Воронежского государственного технического университета в рамках дисциплин: «Вычислительные машины, системы и сети», «Информационные сети и телекоммуникационные технологии», при выполнении курсового и дипломного проектирования.
Апробация работы. Основные положения диссертационной работы докладывались и обсуждались на следующих конференциях: XII Международной научно-практической конференции «Современные инструментальные системы, информационные технологии и инновации» (Курск, 2015), Международной научно-практической конференции «Advanced models and technologies in computer networks» (Yelm, WA, USA, 2015),: XX-th Международной открытой научной конференции «Modern informatization problems in simulation and social technolo-gies» (Yelm, WA, USA, January 2015), Международной летней научной школе «Парадигма» (Варна, Болгария, 2015), а также на конференциях профессорско-преподавательского состава Воронежского государственного технического университета (Воронеж, 2014-2015).
Публикации. По теме исследования опубликовано 15 работ, отражающих основных положения исследования, в т.ч. 4 статьи в журналах, рекомендованных ВАК РФ, свидетельство о регистрации программы в ФИПС. В работах, опубликованных в соавторстве и приведенных в конце автореферата, лично соискателю принадлежат: в [3, 7, 8] - математическая модель взаимодействия эластичных и неэластичных данных в межмодульных интерфейсах информационных систем, отличающаяся учетом воздействия небольших изменений интенсивности обслуживания в очереди M/M/1; в [14] - алгоритм управления межмодульным интерфейсом, отличающийся учетом знака функции возмущений ин-
тенсивности обслуживания; в [4, 6] - алгоритм балансировки нагрузки в сетях доставки, отличающийся применением математической модели средств управления; в [1, 2, 9] – рациональные алгоритмы достижения энергосбережения как на уровне местной балансировки нагрузки в центре обработки данных, так и глобальной балансировки нагрузки между центрами обработки данных, в [5, 10, 15] - адаптивные методы управления активностью серверов систем доставки контента, обеспечивающие повышение показателя доступности услуг за счет выделения оперативного серверного резерва при эвристическом решении многокритериальной задачи, и их программная реализация.
Структура и объем работы. Диссертационная работа состоит из введения, четырех глав с заключениями и выводами. Работа содержит 138 страниц, 5 таблиц, 26 рисунков. Список использованной литературы включает 152 наименования.
Существующие подходы к оценке производительности систем доставки контента
В рамках распределенных систем, таких как системы доставки контента (СДК), работают сотни тысяч серверов, расположенных в тысячах дата-центров по всему миру. Поскольку энергозатраты на содержание такой большой ИТ-инфраструктуры составляют значительную часть общих операционных расходов, возможна модификация СДК так, чтобы включить в них энергетическую оптимизацию в качестве основного принципа.
Представляется возможным создать методы отключения серверов СДК в периоды низкой загрузки, стремясь сбалансировать три основные цели: максимальную экономию энергии, минимизацию воздействия на воспринимаемую клиентом доступность сервиса, и ограничение частоты включения-выключения сервера для уменьшения износа и его влияния на аппаратную надежность.
В данном направлении должны существовать или быть созданы оптимальные оффлайн и онлайн алгоритмы достижения энергосбережения как на уровне местной балансировки нагрузки в центре обработки данных, так и глобальной балансировки нагрузки между центрами обработки данных.
Ранние результаты показывают, что возможно уменьшить потребление энергии СДК более чем на 50%, обеспечив при этом высокий уровень доступности, отвечающий клиентским требованиями и включающий в среднем один on-off переход на сервер в день. Известно, что содержание даже 10% серверов в качестве оперативного резерва помогает поглощать перепады нагрузок из-за резкого увеличения обращений без значительного влияния на клиентскую доступность услуг. В итоге перераспределение нагрузки между активно работающими дата-центрами может значительно повысить доступность услуг, оказывая лишь незначительное влияние на экономию энергии. Энергоинформационный анализ Большие СДК в настоящее время обеспечивают основу распределенной инфраструктуры для многих популярных Интернет-приложений, которые обеспечивают потребности бизнеса, Интернет-коммерции, развлечений, новостей и общения в социальных сетях. Энергетические затраты на эксплуатацию Интернет-систем уже составляют значительную часть общей стоимости владения (ОСВ).
Воздействия на окружающую среду также значительны. Большая распределенная платформа с 100000 серверами будет расходовать примерно в 190000 МВТ-ч в год, что достаточно для снабжения более 10000 семей. В 2014 году общий объем потребления электроэнергии дата-центрами составил уже 1.4% от общего энергопотребления в США, что сопоставимо со средней страной, такой как Аргентина. Далее, с введением новых услуг и бурным ростом Интернета, энергопотребление дата-центров, как ожидается, будет расти быстрыми темпами, более чем на 15% в год в обозримом будущем. Эти факторы обусловливают необходимость полного переосмысления фундаментальных архитектур Интернет-систем, включая энергооптимизацию в качестве основного принципа.
Распределенные Интернет-системы в последнее время эволюционировали в СДК, которые обеспечивают веб-контент, веб- и IP-приложения, загрузку и потоковое мультимедиа для конечных пользователей (т.е., клиентов) во всем мире. Большая СДК, например, в системе такого коммерческого провайдера, как Akamai, состоит из сотен тысяч серверов, расположенных в более тысячи центров обработки данных по всему миру и на нее приходится значительная доля мирового корпоративного потокового мультимедиа и веб-трафика.
Серверы СДК развертываются в кластерах, где каждый кластер состоит из серверов центра обработки данных в конкретном географическом регионе. Кластеры, как правило, широко развернуты на "границе" Интернета в наиболее крупных регионах и сферы действия Интернет-провайдеров по всему миру, чтобы быть ближе к клиенту. Кластеры могут варьироваться в размерах от десятков серверов у небольшого провайдера Tier-3 и тысячи серверов в большом у крупного провайдера уровня Tier-1 в крупном муниципальном районе. СДК серверы совместно доставляют контент и приложения, чтобы оптимизировать доступность и производительность для клиентов. В частности, каждый запрос клиента перенаправляется системой балансировки нагрузки СДК на "оптимальный" сервер, который может обслуживать содержимое с высокой степенью доступности и производительности. Контент и приложения, как правило, могут быть реплицированы по требованию на любой сервер СДК. Система балансировки нагрузки обеспечивает высокую доступность маршрутизации по каждому запросу клиента к нужному серверу, который находится в действии и не перегружен. Далее, системы балансировки нагрузки обеспечивает хорошую производительность маршрутизации каждого клиентского запроса к кластеру, ближайшему к клиенту.
Модель процесса межмодульного взаимодействия
В этом разделе предполагается, что функция возмущений отрицательна, и таким образом окружение использует часть емкости очереди M/M/1 с постоянной скоростью обслуживания m . Это приложение мотивировано следующей практической ситуацией: возвращаясь к взаимодействию эластичного и неэластичного трафика в сети, предположим, что в буфере маршрутизатора приоритет отдается неэластичному трафику. Ширина полосы пропускания для неприоритетного трафика равняется ширине полосы пропускания канала связи, уменьшенной на скорость передачи неэластичного трафика. Обозначим через ed(Xt ) скорость передачи неэластичного трафика в момент времени t (для примера, e можно представить как пиковую скорость потока неэластичного трафика, а d(Xt ) – как число таких активных потоков в момент времени t), скорость обслуживания, доступная для не приоритетного трафика есть m -ed(x). Принимая p(x)=-d(x), функция p(x) отрицательна. Тогда оказывается, что окружение снижает пропускную способность для неприоритетной очереди M/M/1. Используя те же обозначения, что и в предыдущем разделе.
Из уравнений (5) и (16) следует, что где, так же как и в (16), (N,D1,...,DN j и (N ,D[,...,D , J означают число отбытий и моменты времени отбытий для периода занятости продолжительностью В и Вь соответственно. Члены dХ и d2 отрицательны. Таким образом, для первого порядка, среднее значение Вe больше, чем среднее значение В. Следующее утверждение сравнивает продолжительность периода занятости Р-очереди со средней длиной периода занятости В в очереди М/М/1 со скоростью обслуживания JLL + Є- v [р(Х(0))] .
Утверждение 2.14 (сравнение с сокращенным временем обслуживания). Если В есть длительность периода занятости для очереди М/М/1 со скоростью обслуживания JLI + S- v[p(X(0))], то где, так же как и в уравнении (16), (N,Dl5...,DN j и (N ,D[,...,D ,) означает количество отбытий и моменты времени отбытий для периода занятости продолжительностью В и Вь соответственно, и для и0, Cp(u) = - v[p(X(0))p(X(u))]-« v[p(X(0))] есть, с точностью до e , функция ковариации емкости для очереди с возмущениями.
Этот означает, что, как и для неотрицательной функции возмущения, изменение скорости обслуживания оказывает негативное влияние на производительность системы. Таким образом, следует следующий результат.
Утверждение 2.15 (Негативное влияние изменения скорости обслуживания). Когда окружение коррелирует положительно (когда функция и— Ср(и) неотрицательна), тогда первый член разложения (В-Вe ) по имеет порядок 2 и отрицателен.
В сравнении со случаем неотрицательной функции возмущения, если корреляционная функция окружающей среды экспоненциально убывает, правую часть уравнения (21), кажется не просто свернуть, получив такой же качественный результат.
Утверждение 2.16 (Экспоненциальный спад). Когда корреляционная функция окружения экспоненциально уменьшается, то есть, когда отрицательна и вогнута. Кроме того, когда стремится к бесконечности, эта величина стремится к нулю.
Общая функция возмущений р рассмотрена вместе с некоторым стационарным Марковским процессом (X(t)) с инвариантным вероятностным распределением с инвариантным распределением вероятностей v. Предполагается, что он удовлетворяет условию смешивания для любых Борелевски ограниченных функций /и g на пространстве состояний S. Обратим внимание, что это условие в целом не является ограничением, так как оно выполняется для любых эргодических Марковских процессов с исчислимым (или конечным) пространством состояний или для любой эргодической диффузии на d, dl.
В этом разделе описано влияние ускорения окружения на коэффициент 0, что представляется процессом (X(t)). Поведение, при стремящемся к бесконечности известно. Заметим, что при стремящемся к 0, окружение остановлено: скорость обслуживания остается постоянной и равной m +er(X (0)) . Интуитивно понятно, что когда становится велико, для t и h 0 общая емкость, доступная на протяжении t и t+h задается, как тt1aт0 mh + e t+h r(X(au))du dist.mh + e ah r(X(u))du (m + eEvr(X(0))))h в соответствии с эргодической теоремой. Таким образом, при ускорении обслуживания усредняются емкости очередей. Это интуитивное представление строго выражено в следующем утверждении.
1. Построена математическая модель взаимодействия эластичных и неэластичных данных в межмодульных интерфейсах информационных систем, отличающаяся учетом воздействия небольших изменений интенсивности обслуживания в очереди M/M/1 и обеспечивающая применимость технологии аппроксимации сокращенного времени обслуживания.
2. Разработан алгоритм управления межмодульным интерфейсом, отличающийся учетом знака функции возмущений интенсивности обслуживания и обеспечивающий выравнивание скорости обслуживания неприоритетных данных.
Механизм работы демона серверов
Далее приведём порядок работы блока оптимизации функции распределения, изображённого на рис. 3.7, более детально.
На рис. 3.8 мы видим алгоритм функции формирования таблицы загрузки для текущего кода информации, находящейся в распределённой серверной сети. Данная функция является частью алгоритма оптимизации функции распределения. После формирования этой таблицы начинается её сортировка, которая происходит в соответствии с рис. 3.9.
После сортировки таблицы в действие вступает непосредственно алгоритм оптимизации параметра . Он представлен на рис. 3.10.
После выбора можно приступать к распределению нагрузки. Поэтому при наступлении следующего цикла распределения нагрузки между информационными серверами согласно функции распределения будет использован этот параметр.
После получения результатов распределения для каждого из каналов производится проверка, не является ли результат распределения для каждого из каналов больше его текущей производительности. Если не является, то производится установление связи с агентами загрузки и им передаётся информация о новых клиентских заявках. В случае если результат распределения превышает производительность информационного сервера, производится корректировка результатов согласно производительности каналов.
После распределения нагрузки демон серверов переходит к распределению нагрузки заявок на следующий тип информации в сети. После того, как информация распределена на все типы информации, демон серверов переходит к ожиданию следующего цикла распределения, параллельно выполняя сбор и анализ статистики производительности информационных серверов распределённой серверной сети.
Агент загрузки является управляемым объектно-ориентированным приложением. Задача его сводится к моделированию загрузки системы. Поэтому изначально в настройках программы указывается количество клиентских заявок, которые теоретически может выполнять данный информационный сервер одновременно. Так же в настройках указывается количество циклов распределения нагрузки демона серверов, в течение которых сервер успевает обработать находящиеся в системе заявки. Таким образом, моделирование агентом загрузки системы сводится к анализу того, сколько итераций распределения нагрузки прошло с момента поступления каждой заявки в систему.
Так же, как и агент информационных серверов, агент загрузки можно условно разделить на два блока: блок интерфейса и блок моделирования загрузки. Блок интерфейса служит для выполнения коммуникативных функций между агентом загрузки и прочими объектами сети (демон серверов, агент информационных серверов).
В связи демона серверов и агента загрузки последний является серверной стороной, в то время как демон серверов выступает в роли клиентской части. Связь происходит через порт 30331. Обмен информацией является односторонним, поскольку демон серверов передаёт агенту загрузки только количество новых запросов на обработку, но не получает от него никакой информации.
Соединение с агентом информационных серверов происходит по инициативе последнего. Так же, как и в случае с демоном серверов, агент загрузки является при соединении с агентом информационных серверов серверной частью, а агент информационных серверов выполняет роль клиентской.
При каждом обращении агента информационных серверов к агенту загрузки последний отправляет агенту серверов информацию о том, сколько заявок ещё позволяет обработать данный сервер. Количество заявок, которое ещё может обработать сервер, определяется следующим образом: 1. Производится подсчёт всех заявок, находящихся в очереди обслуживания агента загрузки. 2. Подсчитывается разность между номинальной производительностью данного сервера и количеством находящихся в очереди заявок. Эта разница и будет количеством заявок, которое ещё способен обработать сервер.
Употребляя здесь термин «производительность», мы подразумеваем под ним максимальное количество заявок, которое может обработать информационный сервер. Рис. 3.12. Алгоритм работы очереди заявок При обращении демона серверов к агенту загрузки передаётся новое количество заявок, которое нужно поставить в очередь на обработку информационному серверу.
Блок моделирования загрузки тесно связан с интерфейсной частью. Синхронизация работ двух этих блоков осуществляется посредством событий. При получении новой информации от демона серверов блок интерфейса вызывает событие, запускающее блок моделирования загрузки.
Алгоритм реализации работы очереди заявок и имитации загрузки агента загрузки представлен на рис. 3.12.
Очередь заявок работает по принципу LIFO (Last In First Out) – при поступлении новых заявок, самая первая пришедшая заявка выходит из очереди. Размер очереди заявок равен количеству циклов распределения нагрузки демоном серверов, необходимого для обработки одной заявки.
Агент загрузки вынесен отдельно от агента информационных серверов потому, что при такой организации достаточно просто перейти к построению реальных неоднородных информационных систем, поскольку в этом случае агент загрузки уже должен будет оценивать реальную производительность системы. В качестве алгоритма для оценки производительности информационного сервера можно предложить ввод коэффициента производительности, который позволит переводить процент текущего простоя системы к некой универсальной шкале.
Классификация параметров энергоэффективности программных приложений при экспериментальном исследовании методов балансировки нагрузки многосерверных информационных систем
Когда увеличивается, эффективная мощность каждого сервера в режиме реального времени повышается, что приводит к уменьшению количества серверов. Это приводит к повышенному сокращению потребления энергии (рис. 4.5a), а также меньшему количеству переходов (рис. 4.5б). Однако с увеличением также снижается доступность (рис. 4.5в) и потенциально увеличиваются нарушения соглашения об уровне обслуживания клиентов. Причина в том, что за счет использования серверов ближе к их мощности уменьшается имеющийся запас в буфере временных пиков загрузки, в результате чего нагрузка падает. Отметим также, что требование 10% резерва (к=0.1) СДК позволяет оператору запускать систему эффективнее, с большим значением , чем если бы не было никаких резервов (к=0) для того же уровня выполнений требований SLA. Таким образом, существует взаимосвязь между целевой нагрузкой/использованием и резервом k, поскольку оба параметра дают некоторые возможности для вариаций обработки рабочей нагрузки. Чем активнее система (больше s), тем больше должен быть запасной порог к достижению такого же SLA.
Обработка внезапных пиков активности: особую озабоченность СДК операторов с точки зрения выключения серверов вызывает сценарий, когда есть неожиданные пики нагрузки на большинство кластеров СДК. Сценарий локального пика, который затрагивает только некоторые кластеры, часто проще управляется, поскольку глобальная система балансировки нагрузки будет перераспределять трафик вне этого кластера при некоторых затратах производительности. Такие пики, которые существенны для больших СДК редки, но случаются время от времени.
Поскольку критично с точки зрения оператора СДК понять поведение любого алгоритма распределения нагрузки в ситуации глобального пика запросов и поскольку исходные данные модельной СДК содержат недостаточно подобных событий, проведено имитационное моделирование. Чтобы создать наихудший сценарий, выбран низкий трафик в ночной период, когда серверы, скорее всего, будут выключены, и был добавлен большой пик нагрузки в 30% мощности кластера, длящийся в течение 1 часа (рис. 4.6а). Далее, чтобы имитировать глобальное событие, вводится тот же пик в то же время во всех 22 кластерах.
Поведение спящего режима в течение имитируемого глобального пика запросов Решающим фактором во всплеске нагрузки является пик p, при котором нагрузка увеличивается (или уменьшается) в одном интервале времени (вре 116 менной интервал модели "время реакции" для балансировки нагрузки системы равен 300 с). Имитировался алгоритм режима сна для разных параметров уровня пика p и запасных пороговые значения мощности k с обобщением результатов на рис. 4.6. Поскольку k возрастает, серверы должны оставаться в работе, и сокращение потребления энергии уменьшается примерно линейно во всех моделируемых сценариях (рис. 4.6б). Средние переходы также находились в пределах допустимых диапазонов - менее 1 перехода на сервер в день.
Однако, прямая связь наблюдается между уровнем пика p и запасными пороговыми значениями мощности k куда большей p с соответственно большей стоимостью поддержания необходимого уровня доступности сервиса и удовлетворения соглашений об уровне обслуживания (рис. 4.6в). Для того, чтобы поглотить уровень пика p до необходимого уровня доступности, требуется соразмерно большое значение k (рис. 4.6г). Поскольку уровень пика может быть спрогнозирован исходя из предыдущих глобальных пиков запросов, это дает возможность операторам СДК прогнозировать, сколько свободной мощности нужно сохранить в любое время для поглощения даже крупных пиков.
В предыдущих разделах представлены алгоритмы для локальных балансировок нагрузки и перераспределения нагрузки между серверами в рамках одного кластера. Выясним, что может быть достигнуто с использованием глобальной схемы балансировки нагрузки, которая может перераспределять нагрузку между различными кластерами СДК. Важное требование для глобальной балансировки нагрузки заключается в том, что каждый запрос подается из кластера, ближайшего для клиента для обеспечения хорошей производительности сети. Однако, большая СДК с широким развертыванием может иметь несколько кластеров, которые могут обеспечить эквивалентно хорошую производительность для данного клиента. Таким образом, глобальная балансировка нагрузки, как правило, имеет множество вариантов кластеров для обслуживания данной части поступающей нагрузки. Хотя существуют и другие соображения, такие как расходы на полосу пропускания, критерием является на потребление энергии.
Чтобы ответить на поставленный выше вопрос опытным путем с помощью данных по СДК, создан кластерный набор из 22 единиц, на которые были нагружены задачи. Каждый кластерный набор состоит из кластеров, которые имеют примерно одинаковую производительность, чтобы позволить глобальной балансировке перераспределять нагрузку между ними. Для формирования кластерного набора выбраны кластеры, которые расположены в одном крупном мегаполисе (Ханой), поскольку сетевые провайдеры в крупном муниципальном районе, как правило, хорошо взаимодействуют друг с другом и, вероятнее всего, могут предоставить эквивалентно хорошую производительность для клиентов из той же территории.
Кластерный набор состоял из кластеров, расположенных в Dong Anh (1), Tu Liem (2), Thanh Tri (3), и Gia Lam (4). Кроме того, поскольку большая СДК, вероятнее всего состоит более чем из десяти кластеров в каждом крупном муниципальном районе, моделировалось 8 серверов от каждого конкретного кластера путем деления нагрузки на восемь неперекрывающихся групп в течение 3-дней в каждом. Для имитации базового сценария без системы глобальной балансировки нагрузки, использован алгоритм TimeSleep индивидуально по каждому кластеру. В этом случае поступающая нагрузка кластера в виде задач подается в том же кластере.
Теперь, чтобы имитировать систему глобальной балансировки нагрузки, рассматривался каждый кластерный набор как один большой кластер с общей суммой производительности отдельных кластеров и суммой поступающей нагрузки. Затем моделировался алгоритм TimeSleep на большом кластере. В этом случае поступающие нагрузки могут быть перераспределены произвольным способом через кластеры внутри набора.