Евгений Седов - Одна формула и весь мир
При таком условии функция имеет наибольшую величину3 .
*** Создавая вероятностную теорию энтропии, Больцман рассматривал не только реальное пространство, но и условное «пространство скоростей». Он показал, что скорости молекул (так же как и сами молекулы) стремятся равномерно «заполнить предоставленное им пространство». Когда газ достигает состояния равновесия, распределение вероятностей скоростей подчиняется нормальному закону, описываемому формулой и кривой Максвелла.
В этом как раз и заключается ее главное свойство и, если угодно, ее безграничная (распространяющаяся на всю Вселенную!) вездесущая роль.
Как видите, уяснить математические свойства функции , в общем-то, не так уж и сложно. Гораздо труднее, как уже говорилось, уяснить ее общенаучный смысл. Споры об этом, разгоревшиеся во времена Больцмана, еще с большим накалом продолжаются в наши дни. Тому причиной новое применение функции в теории информации.
Вот пример «энтропийного» текста, то есть текста, в котором появление любой буквы имеет равную вероятность (рА=рБ = ... = ря). Он выглядит так: СУХЕРРОБЬ ДЩ ЯЫХВЩИЮАЙЖТЛФВНЗАГФОЕНВШТЦР ПХГ БКУЧТЖЮРЯПЧЬКЙХРЫС. Полная абракадабра! Ничего удивительного. Этот текст обладает максимальной энтропией, а энтропия, как мы уже уловили, есть выражение хаоса, будь то хаос беспорядочно сталкивающихся друг с другом молекул, или хаос звуков, воспринимаемых в виде шума, или хаос бессмысленно чередующихся букв.
НЕСПРАВЕДЛИВОСТЬ. ОТ БОЛЬЦМАНА ДО ШЕННОНА. БАНДВАГОН ОТ НАУКИ. ДВИЖЕНИЕ БЕЗ ТРЕНИЯ И ИНФОРМАЦИЯ БЕЗ СМЫСЛА. ДЖИНН ПОКИДАЕТ БУТЫЛКУ. ЗАПРЕТИТЕ РАДИОСВЯЗЬ!
Современный ученый произносит имя Больцмана с глубоким почтением. Работы Больцмана послужили фундаментом современной статистической физики. На них опирался Клод Шеннон, предложивший использовать для измерения информации введенную в науку Больцманом функцию В этой связи Шеннон вспоминает о Больцмане в своих первых работах по теории информации, которые (редчайший случай в науке!) стали классическими, едва успев выйти в свет.
Но при жизни Больцмана все складывалось совершенно иначе. Опубликование работ Больцмана, сыгравших такую огромную роль в последующем развитии науки, не принесло автору ничего, кроме горького разочарования и чувства глубокой обиды, подогреваемого пренебрежительным отношением и откровенными насмешками. Увлеченные успехами классической физики современники считали разрабатываемую Максвеллом и Больцманом молекулярную теорию «излишней гипотезой», якобы уводящей науку в сторону от решения актуальных задач. «Кинетическая теория, как известно, так же ошибочна, как и различные механические теории тяготения... Но если кто-нибудь обязательно хочет с ней познакомиться, пусть возьмет в руки произведение Больцмана»,— в таком вот развязно-пренебрежительном тоне откликнулся на опубликование работы Больцмана один научный журнал.
Подобных откликов появилось в то время немало. Мнение их авторов сводилось к тому, что понятные и доступные непосредственным наблюдениям физические явления незачем объяснять взаимодействиями никому не ведомых гипотетических молекул. Больцман неоднократно вступал в полемику, отстаивал свои взгляды. Но на всех научных конгрессах и съездах он был одинок. Против его теории выступали Лошмидт и Цермело, Мах и Оствальд, Пуанкаре и Планк.
Можно себе представить, с каким чувством Больцман читал или слушал неодобрительные и иронические отзывы о труде, которому он посвятил лучшие свои творческие годы. И не нам теперь осуждать выдающегося ученого за проявленную им человеческую слабость, за то, что он не нашел в себе мужества пережить несправедливость и в период расцвета творческих сил по собственной воле прервал свою плодотворную жизнь.
Идеи Больцмана были подхвачены, развиты и углублены. Они нашли отражение в трудах американца Дж. Гибб-са, поляка М. Смолуховского, русских ученых Н. Н. Пирогова и Т. А. Афанасьевой-Эренфест.
В более поздние годы, во время бурного развития квантовой физики, идеи Больцмана использовали в своих исследованиях такие выдающиеся физики, как Ферми, Дирак, Эйнштейн. Больше того, классическая работа Планка, положившая начало всей квантовой физике, не могла бы появиться на свет, если бы Планк не пересмотрел своих взглядов на теорию Больцмана и не стал бы горячим сторонником тех его идей, которые он раньше не признавал.
А в середине нашего века была создана теория информации, с ее появлением введенная Больцманом функция пережила как бы второе рождение: с этих пор она начала применяться для исследования не только хаотичных, но и обладающих определенным порядком систем. Для таких систем появление разных элементов (букв, яркостей и т. п.) имеет не одинаковую, а различную вероятность. Именно поэтому вместо напоминающего снежный буран танца светлых и темных пятен мы видим на телеэкранах изображение разных предметов, лиц и событий. Именно поэтому мы находим в газетах, журналах и книгах не беспорядочное чередование букв, а осмысленный Текст.
Рождение теории информации заставило еще раз переосмыслить сущность понятия «энтропия».
В 1948 году в реферативном журнале американской телефонной компании «Белл систем» появилась статья 32-летнего инженера-связиста Клода Шеннона «Математическая теория связи».
Она начиналась так: «Современное развитие различных методов модуляции... повысило интерес к общей теории связи. Некоторые основные положения этой теории имеются в важных работах Найквиста и Хартли. В настоящей статье мы расширим теорию с тем, чтобы включить некоторое число новых факторов, в частности, влияние шума в канале».
Скромная постановка сугубо технической, прикладной задачи. Скромные ссылки на работы предшественников — Хартли и Найквиста, появившиеся в том же журнале около 20 лет назад. Как же случилось, что спустя несколько лет эта статья была единодушно признана одним из самых значительных фундаментальных научных трудов нашей эпохи? Что нового внесла она в теорию по сравнению с тем, что сделали Найквист и Хартли?
Главным принципиально новым явилась введенная Шенноном мера количества информации. Измерять информацию предлагал до Шеннона Хартли. Однако его мера имела весьма частный характер по сравнению с шенноновской, основанной на методе измерения информации с помощью выведенной за 70 лет до Шеннона Больцманом статистической формулы энтропии.
Вот эта связь между количеством информации и энтропией и послужила сначала причиной горячих дискуссий, а затем — ключом к решению ряда научных проблем.
Впрочем, спор разгорелся не сразу, и проблемы решались не за один месяц и не за один год.
В предисловии к русскому переводу сборника статей К Шеннона под названием «Работы по теории информации и кибернетике» известный советский математик академик А. Н. Колмогоров писал: «...Мне вспоминается, что еще на международном съезде математиков в Амстердаме (1954 г.) мои американские коллеги, специалисты по теории вероятностей, считали мой интерес к работам Шеннона несколько преувеличенным, так как это более техника, чем математика».
Но прошло еще несколько лет, и формула Больцмана—Шеннона стала мелькать не только в технических и математических журналах, но и в трудах биологов, психологов, лингвистов, физиков, искусствоведов, геологов, философов... В общем, повторюсь, сейчас трудно назвать область человеческих знаний, в которой замечательную формулу не пытались бы так или иначе применить.
Казалось бы, популярность новой теории должна была принести ее создателю удовлетворение и радость. На самом же деле все обстояло совсем не так. «Теория информации, как модный опьяняющий напиток, кружит голову всем вокруг... За последние несколько лет теория информации превратилась в своего рода бандвагон от науки»,— писал Шеннон в своей статье «Бандвагон». Бандвагоном в Америке называют специальный автобус с джазом, на котором победитель очередных выборов совершает перед избирателями своего рода парад-алле.
Шеннон не нуждается в бандвагоне, его не привлекает быстрое признание и легкий успех. Как человек науки Шеннон предпочитает политическим акциям и кампаниям поиски изящных инженерных решений, громким овациям— тишину лаборатории, признанию публики — уединенный творческий кабинет. Чрезмерно широкий и часто слишком поверхностный интерес к новой теории со временем стал его раздражать. Он написал статью о бандвагоне и оказался в роли героя «Тысяча и одной ночи»: откупорил бутылку и остановился поодаль, наблюдая, как из нее стал вырастать огромный джинн.
Прямо-таки парадоксально выглядит несходство этой истории с тем, что пережил в свое время Больцман. Больцман страдал от того, что предложенное им толкование энтропии не нашло поддержки среди современников. А Шеннон, напротив, был крайне обеспокоен чересчур живым откликом, тем, что новые взгляды на энтропию сразу же вышли за пределы узкого круга специалистов по технике связи и были подхвачены представителями совсем неожиданных для самого Шеннона научных областей. И все же нельзя не разделить некоторых опасений Шеннона, связанных с тем, что на теорию информации возник, как выразился Шеннон, «очень большой, даже, может быть, слишком большой спрос».
