Энтропия системы

1. Главная
2. Моделирование
3. Энтропия системы

Любой системе Q присущ определенный степень разнообразия, который согласно У. Р. Эшби определяется множеством возможностей ее пребывания в различных состояниях. Эту степень разнообразия можно охарактеризовать, задавая таблицу вероятности нахождения системы в каждом из возможных состояний: где Q_i - возможное состояние системы, p_i - вероятность того, что система будет находиться в этом состоянии. Состояние системы Q_i можно представить одним или несколькими его параметрами, не все из которых имеют количественное выражение. Важным моментом является то, что все N-возможные состояния различны и именно они и определяют степень разнообразия системы.

Энтропия экономической системы

Как мера разнообразия для множества возможных состояний системы используется понятие энтропии (1) Энтропия системы является математическим ожиданием логарифма вероятности пребывания системы Q в состоянии Qi и соответствует введенной К. Шенноном в теории информации «степени неопределенности».

Таким образом, неопределенность осуществление одного из множества возможных состояний системы зависит как от числа возможных состояний, так и от распределения вероятностей этих состояний.

Например, если осуществление любого из вариантов равновероятны, то неопределенность выбора максимальная и определяется общим числом возможных вариантов: (2) Содержательное значение понятия энтропии является степень разнообразия возможных состояний системы.

Рассматривая план как систему, можно сказать, что ему также присуще свойство энтропии, поскольку реализация принятого решения через существенную неопределенность будущего поведения планируемой системы не может быть однозначным.

Очевидно, что с точки зрения принятия управленческого решения возможное разнообразие необходимо ограничить. Степень ограничения как раз и определяет возможность принятия определенного, и в частности оптимального, решения при планировании.

Избыточность системы

Под ограничением разнообразия понимается его уменьшение по сравнению с абстрактно возможным вследствие каких-либо условий, налагаемых на систему, или внутренне присущих ей свойств. Как мера ограничения разнообразия может быть использовано широко применяемое в теории информации понятие избыточности где Н - энтропия системы в условиях заданных ограничений разнообразия; Н_m - максимальная энтропия системы в условиях наибольшего для данной системы степени независимости состояний.

Наибольшая степень ограничения разнообразия соответствует реализации единственного возможного состояния. При этом Н = 0, т.е. множество не находит никакого разнообразия, а избыточность максимальная и равна единице. Вообще энтропия любого достоверного события (или принятого как достоверное) равна нулю, поскольку Наоборот, если есть только ограничения общего количества разнообразных возможностей N ≤ N_i и все возможные состояния равновероятны, то энтропия достигает максимального при этих ограничениях: Рассмотрим сначала, с каких позиций целесообразно использовать понятие энтропии для решения задач, связанных с перспективным планированием. В этом аспекте энтропия является свойством, принципиально присущей физической, а не экономической системе, а также глубокая аналогия моделей не позволяет вести о ней речь как о свойстве, характеризующей непосредственно плановую систему.

Весьма продуктивный другой аспект использования понятия энтропии в экономике - это применение шенноновского понятия энтропии непосредственно как количественной меры экономической информации: где I - количество информации, содержащейся в одном сообщении; Н (Q) - энтропия системы Q до поступления сообщения (априорная энтропия); H'(Q) - энтропия системы Q после поступления сообщения (апостериорная энтропия). Энтропия в экономике

Использование такого подхода весьма продуктивное при создании автоматизированных систем управления производством.

Однако это направление относится только к вопросам сбора, передачи и обработки информации в экономической системе, а не к характеристикам плана как сложной системы, хотя формально понятие энтропии как количественной меры информации и как меры разнообразия состояний системы идентичны и определяются соотношением (1).

Если ориентироваться на значение понятия «энтропия», как оно определено в теории систем, то и здесь возможны различные приложения этого понятия.

Остановимся подробнее на их содержании и возможностях использования для характеристики свойств плана как сложной системы. Будем использовать две модификации понятия внутриструктурной энтропии: Оба эти понятия отражают внутреннюю структуру плана.

Энтропия состояний

Энтропия состояний определяется как мера разнообразия множества возможных вариантов плана z₁, z₂, ..., z_k. Иначе говоря, если необходимо сделать выбор среди совокупности планов z_k, которым соответствует вероятность p_k, то разнообразие этого выбора определяется соответствующей энтропией В таком аспекте энтропия по своему содержанию соответствует аналогичному понятию теории систем. Пусть задача планирования сформулирована как задача линейного программирования: (3) Условия, определяющие множество допустимых планов (две последние группы неровностей) выделяют во всем пространстве состояний системы выпуклый многогранник. Сначала можно считать, что все состояния в нем равновероятны. В этом случае где N - количество различных состояний системы.

Поскольку множество допустимых планов в этом случае бесконечна, условия (3) фактически очень слабо ограничивают разнообразия (H=∞). Как известно, решение задачи оптимизации вида (2) находится среди так называемых опорных планов, соответствующих угловым точкам многогранника решений.

Поэтому можно ввести дополнительное условие - «выделить опорные планы». Такое ограничение разнообразия превращает бесконечную множество возможных состояний в конечную, зависящую от рангов матрицы ограничений и расширенной матрицы. Мера энтропии в этом случае согласно (2) становится, по крайней мере, конечным числом.

Следующее условие, что приводит к снижению энтропии, может отражать тот факт, что среди множества опорных планов нужно рассмотреть только те, в базис которых обязательно входит определенный перечень объектов, или, наоборот, не входит некоторый перечень объектов (как , например, в транспортной задаче с блокировкой перевозок).

Энтропия и в этом случае снижается даже при равновероятном осуществлении, поскольку мощность множества возможных состояний ниже.

И, наконец, существенно ограничивает разнообразие, сводя его практически к нулю, добавление к ограничений целевой функции в условиях единственности решения задачи (3).

Замечание. Энтропия состояний всегда равна нулю, если рассматривается одно состояние системы, какой бы сложной и разнообразия была сама система. Таким образом, энтропия плана как системы является ее неотъемлемым свойством, важным для системного анализа плана.