Топ 10 статей

Направляющий выступ Hitchhiker к галактике (игра компьютера)
Pablo Neruda
Zaara (серии TV)
Clownfish
Экстраполяция
Великобританское королевская семья
Римские цифры
Силикат натрия
Декартовая система координат
Типы незанятости

News:

Сымитированный отжиг

Сымитированный отжиг (SA) родовое вероятностно meta-алгоритм для глобальная оптимизация проблема, namely обнаруживающ местонахождение хорошее приближение к глобальный оптимальный дали, котор функция в большом космос поиска. Оно часто использовано когда космос поиска дискретн (например, все путешествия которые посещают, котор дали комплект городов). Для некоторых проблем, сымитированный отжиг может быть более эффективн чем исчерпывающее обозначение - provided that цель должна просто найти приемлемо хорошее разрешение в фиксированная сумма времени, rather than best possible разрешение.

Имя и воодушевленность приходят от отжиг в металлургия, метод включая топление и контролируемый охлаждать материала для того чтобы увеличить размер своего кристаллы и уменьшите их дефекты. Жара причиняет атомы стать unstuck от их первоначальных позиций (локального минимума внутренне энергия) и бродяжничайте случайно через положения более высокой энергии; медленный охлаждать дает им больше шансов находить конфигурации с более низкой внутренне энергией чем первоначально одно.

аналогией с этим физическим процессом, каждый шаг алгоритма SA заменяет ть в настоящее время разрешение случайно «близрасположенным» выбранным разрешением, с вероятностью которая зависит на разнице между соответствуя значениями функции и на глобальном параметре T (вызвано температура), то постепенно уменьшито во время процесса. Зависимость такое что в настоящее время разрешение изменяет почти случайно когда T будет больш, но все больше и больше «downhill» как T идет до нул. Стипендия для «uphill» движений сохраняет метод от быть вставлена на локальные минимумы- bane жадно методы.

Метод независимо был описан S. Kirkpatrick, C. D. Gelatt и M. P. Vecchi в 1983, и V. Černý в 1985. Методом будет приспособление Алгоритм metropolis-Hastings, a Monte - метод carlo произвести положения образца термодинамической системы, изобретенные мимо N. Metropolis et al в 1953.

Содержание

Обзор

В сымитированном методе отжига (SA), каждый пункт s поиска космос аналогичн к a положение некоторого физическая система, и функция E(s) быть уменьшитым будет аналогично к внутренне энергия системы в том положении. Цель должна принести систему, от произвольного начальное состояние, к положению с минимальной по возможности энергией.

Основное итерирование

На каждом шаге, SA эвристический рассматривает некоторого соседа s настоящего положения дел s, и probabilistically решает между двигать систему к положению s или остающся положено в положение s. Вероятности выбраны TAK, CTO система предельно будет клонить двинуть к положениям более низкой энергии. Типично этот шаг повторен до тех пор пока система не достигнуть положение хорошо достаточно для применения, или до, котор дали вычисления не вымотаться бюджетя.

Соседи положения

Соседи каждого положения ( движения выбранного) определите потребителем, обычно в application-specific дороге. Например, в проблема коммивояжера, каждое положение типично определено как частность путешествие (a пермутирование городов, котор нужно посетить); и одно смогло определить соседей путешествия как те путешествия можно получить от его путем обменивать любой парой последовательных городов.

Вероятности принятия

Вероятность делать переход от настоящего положения дел s к нового государство выбранного s' определяет функция вероятности принятия P(e,e',T), то зависит на энергиях e = E(s) и e' = E(s') 2 положений, и на глобальном нестационарном параметре T вызвал температура.

Одно необходимое требование для функции вероятности P то, котор оно должно быть безнулево когда e' > e, намеревающся что система может двинуть к нового государство even when она плох (имеет более высокую энергию) чем в настоящее время одно. Будет этой характеристикой предотвращает метод от быть вставлена в a локальный минимум- положение более плох чем глобальный минимум, но лучше чем любой из своих соседей.

С другой стороны, когда T идет до нул, вероятность P(e,e',T) клонить до нул если e' > e, и к положительному значению если e' < e. Та дорога, для достаточно малых значений T, система все больше и больше благоволит к движениям которые идут «downhill» (понизить значения энергии), и избегает тех которые идут «uphill». В частности, когда T становит 0, процедура уменьшит к жадный алгоритм- делает движение только если оно идет downhill.

В первоначально описании SA, вероятность P(e,e',T) определил как 1 когда e' < e - т.е., процедура всегда двинутая downhill когда она нашло дорогу сделать так, irrespective of температура. Много описания и вставк SA все еще принимают это условие как часть определения метода. Однако, это условие не необходимо для метода для работы, и одно может поспорить что оно и counterproductive и противоположно к своему духу.

P функция обычно выбрана TAK, CTO вероятность признавать движение уменьшьет когда разница e' − e увеличивает- that, малые uphill движения будьте правоподобно чем большие одни. Однако, это требование не только обязательно, provided that вышеуказанными требованиями будут cMet.

Дали эти свойства, развитие положения s зависит критически на температуре T. Roughly speaking, развитие s будет чувствительно к более грубым изменениям энергии когда T будет больш, и к более точным изменениям когда T будет мало.

План-график отжига

Другая необходимая характеристика метода SA что температура постепенно уменьшена по мере того как имитация продолжает. Первоначально, T устанавливает к высокому значению (или безграничности), и она уменьшито на каждом шаге согласно некоторому план-график отжига- может быть определено потребителем, но закончиться с T = 0 к концу наделенного бюджети времени. В этой дороге, ы, что бродяжничает система первоначально к обширной зоне космоса поиска содержа хорошие разрешения, игнорируя малые характеристики функции энергии; после этого перемещайтесь к низкоэнергическим зонам будут более узкими и более узкими; и окончательно движение downhill согласно самый крутой спуск эвристическо.

Пример иллюстрируя влияние охлаждать план-график на проведении сымитированного отжига. Проблема должна rearrange пикселы изображения уменьшить уверенное потенциальная энергия функция, которая причиняет подобную цветы привлечь на shortrange и оттолкнуть на небольш более большом расстоянии. Обмен элементарных движений 2 смежных пиксела. Изображения были получены с быстрым охлаждая план-графиком (налево) и замедляют охлаждая план-график (правый), дающ подобные к аморфическо и кристаллические твердые тела, соответственно.

Его можно показать что для любой, котор дали небесконечной проблемы, вероятности которой сымитированный обжигая алгоритм заканчивает глобальная оптимальная разрешение причаливает 1 по мере того как обжигая план-график продленн. Этот теоретический результат, однако, не определенно полезн, с времени необходим, что обеспечил значительно вероятность успеха обычно будет превышать время необходим для вполне поиска космос разрешения.

Псевдокод

Following псевдокод снабжает сымитированный обжигать эвристический, как описано выше, starting from положение s0 и продолжающ к максимуму kmax шаги или до положения с энергией emax или найдено. Звонок соседи произвести случайно выбираемого соседа дали, котор заявить s; звонок случайно () возвратить случайно значение в ряде [0,1). План-график отжига определен звоноком температура (r), который должно произвести температуру к пользе, котор дали часть r бюджети времени был использован до тех пор.

s: = s0; e: = e                           // Начальное состояние, энергия.
sb: = s; eb: = e                             // Разрешение инициала «самое лучшее»
k: = 0                                       // Отсчет оценки энергии.
пока k  < kmax и e  > emax                  // Пока время остает & хорошо достаточно:
sn: = соседи                         //   Выберите некоторого соседа.
en: = e (sn)                                //   Вычислите свою энергию.
если en  < eb после этого                            //   Это новое самое лучшее?
sb: = sn; eb: = en                       //     Да, за исключением его.
если P (e, en, температура (k/kmax))  > случайно () после этого  //   Должны мы двинуть к ему?
s: = sn; e: = en                         //     Да, положение изменения.
k: = k + 1                                 //   Одна больше сделанной оценки
возвращение sb                                    // Возвратите самое лучшее найденное разрешение.

Фактическ, «чисто» алгоритм SA keep track of самое лучшее разрешение найденное до тех пор: оно не использует перемеююые sb и eb, оно нуждается первом если внутри петли, и, на конце, его возвращает настоящее положение дел s вместо sb. Пока сохранять самое лучшее положение будет стандартным оптимизированием, то можно использовать в VSе metaheuristic, оно ломает аналогию с физическим отжигом - в виду того что физическая чонсервная банка «магазин» системы единое государство только.

Сохранять самое лучшее положение не будет обязательно улучшением, в виду того что одно может определить малое kmax compensate for более высокая цена в итерирование. Однако, шаг sb: = sn случает только на малой части движений. Поэтому, оптимизирование обычно worthwhile, even when положени-копировать будет дорогей деятельностью.

Выбирать параметры

Для того чтобы приложить метод SA к специфически проблеме, необходимо определить following параметры: космос положения, функция энергии (цели) E (), процедура по генератора выбранного сосед (), функция вероятности принятия P (), и план-график отжига температура (). Эти выборы могут иметь значительно удар на эффективности метода. Несчастливо, не будут выборов этих параметров которые будут хороши для всех проблем, и не будет вообще дороги найти самые лучшие выборы для, котор дали проблемы. Following разделы дают некоторые генеральные линии.

Диаметр диаграммы поиска

Сымитированный отжиг может быть моделирован как метод случайного блуждания на a поиск диаграмма, вершинами которого будут всеми по возможности положения, и краями которого будут выбранный двигает. Необходимое требование для сосед () функция что она должна снабдить достаточно скоро курс на этой диаграмме от начального состояния любым положением может быть глобальный оптимальный. (In other words, диаметр поиска диаграммой должна быть мала.) в примере коммивояжера выше, for instance, космос поиска для n = 20 города имеют n! = 2432902008176640000 (2.5 quintillion) положения; но ближняя функция генератора обменивают 2 последовательных города может получить от любого положения (путешествия) к любому другому положению внутри n(n ) − 1/2 = 190 шаги.

Вероятности перехода

Для каждого края (s,s') диаграммы поиска, определять a вероятность перехода, который будет вероятностью которую алгоритм SA двинет к положению s' когда свое настоящее положение дел s. Эта вероятность зависит на в настоящее время температуре как определено мимо температура (), заказом в который выбранный двигает произведите сосед () функция, и функцией вероятности принятия P (). (Примечание что вероятность перехода не просто P(e,e',T), потому что выбранные испытаны серийно.)

Вероятности принятия

Спецификация сосед (), P (), и температура () будет частично резервно. In practice, оно обще для использования такой же функции принятия P () для много проблем, и отрегулируйте другие 2 функции согласно специфически проблеме.

В образовании метода Kirkpatrick et al., вероятность принятия P(e,e',T) определил как 1 если e' < e, и exp ((e − e') / T) в противном случае. Эта формула соответствует к Алгоритм metropolis-Hastings, в случае где распределение предложения metropolis-Hastings симметрично. Однако, эта вероятность принятия часто использована для сымитированного отжига even when сосед () функция, которая аналогична к распределению предложения в metropolis-Hastings, не симметрична, или вероятностна на всех. Индивидуальные переходы сымитированного обжигая алгоритма не соответствуют к недолгосрочному развитию физической системы, но довольно положения долгосрочного распределения излишек алгоритма на определенной температуре соответствуют к положениям распределения вероятности излишек физической системы на определенной температуре.

Эффективное поколение выбранного

Выбирая генератор выбранного сосед (), необходимо рассматривать что после немного итерирований алгоритма SA, ы дел, что имеет настоящее положение дел гораздо низкее энергию чем случайно положение. Поэтому, как правило, одно должно уклонить генератор к движениям выбранного где энергия положения назначения s' будет правоподобно для того чтобы быть подобно к тому из настоящего положения дел. Это эвристическо (будет главным образом принципом Алгоритм metropolis-Hastings) клонит исключить «очень хорошие» движения выбранного так же, как «очень неудача» одни; однако, последние очень более общие чем бывше, поэтому эвристическое вообще довольно эффективно.

В проблеме коммивояжера выше, например, обменивая 2 последовательно ы, что имеют города в низкоэнергическом путешествии скромное влияние на своей энергии (длине); тогда как обменивающ 2 произвольно города далекие правоподобными для того чтобы увеличить свою длину чем уменьшить ее. Таким образом, последовательн-обмените ближний генератор предпологает, что выполнить более лучше чем произвольн-обмените одно, даже если последнее смогло снабдить несколько более скоро курс оптимальный (с n − 1 обмените, вместо n(n − 1) / 2).

Более точное заявление эвристического что одно должно попытаться первые положения выбранного s' для P(E(s),E(s'),T) будет больш. Для «стандартной» функции принятия P над, оно намеревается то E(s') − E(s) находит на заказе T или. Таким образом, в примере коммивояжера выше, одно было в состоянии использовать a сосед () действуйте обменивает 2 случайно города, где вероятность выбирать корреспондирующия пункты исчезает по мере того как их расстояние увеличивает за пределами T.

Избегание барьера

Выбирая генератор выбранного сосед () одно должно также попытаться уменьшить число «глубоких» локальных минимумов - положений (или комплектов соединенных положений) имеют гораздо низкее энергию чем все свои соседнее государство. Так «закрыл catchment тазики " функции энергии могут поглотить алгоритм SA с высокой вероятностью (грубо пропорциональной к числу положений в тазике) и на очень длиннее время (грубо степенное на разнице в энергии между окружающим положением и дном тазика).

Как правило, невозможно конструировать генератор выбранного который будет удовлетворять эта цель и также prioritize выбранные с подобной энергией. С другой стороны, одно может часто более обширно улучшить эффективность SA относительно просто изменениями к генератору. В проблеме, for instance, ей коммивояжера не будет трудно для того чтобы exhibit 2 путешествия A, B, с почти равными длинами, такие что (0) A оптимальна, (1) каждая последовательность город-пары обменивает что новообращенные A к B идет через путешествия гораздо длиннее чем оба, и (2) A смогите быть преобразовано в B путем flipping (обращая заказ) комплект последовательных городов. В этом примере, A и B лежите в по-разному «глубоких тазиках» если генератор выполняет только случайно пар-обменивает; но они будут в таком же тазике если генератор выполняет случайно этап-flips.

Охлаждая план-график

Физическая аналогия использована для того чтобы оправдать SA предполагает охлаждая тариф низко достаточно для распределения вероятности настоящего положения дел, котор нужно быть ближайше термодинамическое уравновешение все время. Несчастливо, время релаксации- время одно должно ждать уравновешение, котор нужно восстановить после изменения в температуре-сильн зависит на «топографии» функции энергии и на в настоящее время температуре. В алгоритме SA, время релаксации также зависит на генераторе выбранного, в очень осложненной дороге. Заметьте что все эти параметры обычно обеспечены как функции черного ящика к алгоритму SA.

Поэтому, in practice идеально охлаждая тариф нельзя обусловить заранее, и должен эпирически быть отрегулирован для каждой проблемы. Вариант SA известный как термодинамический сымитированный отжиг пытается избежать этой проблемы путем распределять с охлаждая план-графиком, и вместо автоматически регулировать температуру на каждом шаге основанном на разнице в энергии между 2 положениями, согласно законам термодинамики.

Рестарты

Иногда более лучшее двинуть back to разрешение было значительно более лучшим rather than всегда двигающ от настоящего положения дел. Это вызвано повторять старт. Сделать это, котор мы установили s и e к sb и eb и возможно повторите старт план-графика отжига. Решение, котор нужно повторить старт было в состоянии быть основано на фикчированном количестве шагов, или основано на в настоящее время энергии слишком высоко от самой лучшей энергии до тех пор.

Родственные методы

  • Отжиг суммы пользы «зыбкост суммы» вместо термально зыбкост получают через максимум но тонкие барьеры в функции цели.
  • Стохастический прокладывать тоннель попытки отжать увеличивая затруднение сымитировали бега отжига имеют в избегать от локальных минимумов по мере того как уменшения температуры, «прокладывать тоннель» через барьеры.
  • Поиск Tabu нормальн движения к соседнее государство более низкой энергии, но примут uphill движения когда она счесет после того как она вставлена в локальном минимуме; и избегает циклов путем держать «список taboo» разрешений уже увидено.
  • Генетические алгоритмы поддерживайте бассеин разрешений rather than как раз одно. Новые разрешения выбранного произведены not only «перегласовкой» (как в SA), но также «комбинацией» 2 разрешений от бассеина. Вероятностные критерии, подобные к тем используемым в SA, использованы для того чтобы выбрать выбранные для перегласовки или комбинации, и для сбрасывать сверхнормальные разрешения от бассеина.
  • Оптимизирование колонии муравея (ACO) использует много муравеев (или вещества) для того чтобы траверсировать космос разрешения и найти местно продуктивная площадь.
  • метод крест-энтропии (CE) производит разрешения выбранных через parameterized распределение вероятности. Параметры updated через минимизацию крест-энтропии, для того чтобы произвести более лучшие образцы в следующем итерировании.
  • Поиск сработанности передразнивает musicians в процессе импровизации где каждый musician играет примечание для находить самую лучшую сработанность все совместно.

См. также

Справки

  • S. Kirkpatrick и C. D. Gelatt и M. P. Vecchi, оптимизирование сымитированным отжигом, наука, cVol 220, 4598, вызывает 671-680, 1983. http://www.cs.virginia.edu/cs432/documents/sa-1983.pdf или http://citeseer.ist.psu.edu/kirkpatrick83optimization.html .
  • V. Cerny, подход к a thermodynamical к перемещая проблеме продавеца: эффективный алгоритм имитации. Журнал теория оптимизации и применений, 45:41 - 51, 1985
  • N. Metropolis, A.W. Rosenbluth, M.N. Rosenbluth, A.H. Рассказчик, и E. Рассказчик. «Уровнения положения вычисления быстрыми вычислительными машинами». Журнал химически физики, 21 (6): 1087-1092, 1953. [1]
  • A. Das и B. K. Chakrabarti (Eds.), Отжиг суммы и родственные методы оптимизирования, Примечание лекции в физике, cVol. 679, Springer, Heidelberg (2005)
  • E. Ландшафты Weinberger, сопоставленных и Uncorrelated пригодности и как найти разницу, биологическая кибернетика, 63, нет. 5, 325-336 (1990).
  • J. De Vicente, J. Lanchares, R. Hermida, «размещение термодинамическим сымитированным отжигом», физика помечает буквами a, cVol. 317, вопрос 5-6, pp.415-423, 2003.

Внешние соединения

The original article is from Wikipedia. To view the original article please click here.
Creative Commons Licence

 
Custom Search