После работ Эрнста Куммера надежды найти доказательство ослабли, как никогда прежде. Кроме того, в математике начали развиваться различные новые области. Возник риск, что новое поколение математиков останется в неведении относительно неразрешимой проблемы. К началу XX века теорема Ферма все еще занимала особое место в сердцах специалистов по теории чисел, но они относились к ней так же, как химики относятся к алхимии. И алхимия, и Великая теорема Ферма в глазах наших современников выглядят романтическими мечтами прошлого.

В 1908 году Пауль Вольфскель, немецкий промышленник из Дармштадта, вдохнул в старую проблему новую жизнь. Семья Вольфскелей славилась своим богатством и покровительством искусствам и наукам, и Пауль не был исключением. В университете он изучал математику и хотя свою жизнь Пауль посвятил строительству империи семейного бизнеса, все же он поддерживал контакт с профессиональными математиками и продолжал на любительском уровне заниматься теорией чисел. В частности, Вольфскель не отказался от мысли найти доказательство Великой теоремы Ферма.

Вольфскель отнюдь не был одаренным математиком, и ему не было суждено внести заметный вклад в поиски доказательства Великой теоремы Ферма. Но цепочка неординарных событий привела к тому, что его имя оказалось навсегда связанным с теоремой Ферма и вдохновило тысячи людей заняться поиском ее доказательства.

История начинается с того, что Вольфскель увлекся красивой женщиной, личность которой так никогда и не была установлена. К великому сожалению для Вольфскеля, загадочная женщина отвергла его. Он впал в такое глубокое отчаяние, что решил совершить самоубийство. Вольфскель был человеком страстным, но не импульсивным, и поэтому принялся во всех подробностях разрабатывать свою смерть. Он назначил дату своего самоубийства и решил выстрелить себе в голову с первым ударом часов ровно в полночь. За оставшиеся дни Вольфскель решил привести в порядок свои дела, которые шли великолепно, а в последний день составил завещание и написал письма близким друзьям и родственникам.

Вольфскель трудился с таким усердием, что закончил все свои дела до полуночи и, чтобы как-нибудь заполнить оставшиеся часы, отправился в библиотеку, где стал просматривать математические журналы. Вскоре ему на глаза попалась классическая статья Куммера, в которой тот объяснял, почему потерпели неудачу Коши и Ламе. Работа Куммера принадлежала к числу самых значительных математических публикаций своего века и как нельзя лучше подходила для чтения математику, задумавшему совершить самоубийство. Вольфскель внимательно, строка за строкой, проследил за выкладками Куммера. Неожиданно Вольфскелю показалось, что он обнаружил пробел: автор сделал некое предположение и не обосновал этот шаг в своих рассуждениях. Вольфскель заинтересовался, действительно ли ему удалось обнаружить серьезный пробел, или сделанное Куммером предположение было обоснованным. Если был обнаружен пробел, то имелся шанс, что Великую теорему Ферма удастся доказать гораздо проще, чем полагали многие.

Вольфскель сел за стол, тщательно проанализировал «ущербную» часть рассуждений Куммера и принялся набрасывать минидоказательство, которое должно было либо подкрепить работу Куммера, либо продемонстрировать ошибочность принятого им предположения и, как следствие, опровергнуть все его доводы. К рассвету Вольфскель закончил свои вычисления. Плохие (с точки зрения математики) новости состояли в том, что доказательство Куммера удалось исцелить, и Великая теорема Ферма по-прежнему осталась недоступной. Но были и хорошие новости: время, назначенное для самоубийства, миновало, а Вольфскель был так горд тем, что ему удалось обнаружить и восполнить пробел в работе великого Эрнеста Куммера, что его отчаяние и печаль развеялись сами собой. Математика вернула ему жажду жизни.

Вольфскель разорвал свои прощальные письма и переписал свое завещание в свете случившегося в ту ночь. После его смерти, последовавшей в 1908 году, завещание было оглашено и повергло семью Вольфскеля в шок: выяснилось, что Пауль завещал значительную часть своего состояния в качестве премии тому, кто сумеет доказать Великую теорему Ферма. Премия в 100000 марок (более 1 000 000 фунтов стерлингов в современных масштабах) была той суммой, которую Вольфскель счел своим долгом уплатить в награду за головоломную проблему, спасшую ему жизнь. Деньги были положены на счет Королевского научного общества Гёттингена, которое в том же году официально объявило о проведении конкурса на соискание премии Вольфскеля:

«Во исполнение воли д-ра Пауля Вольфскеля, скончавшегося в Дармштадте, мы объявляем о создании фонда в сто тысяч марок, каковая сумма и будет вручена тому, кто первым докажет Великую теорему Ферма.

Будут соблюдаться следующие правила.

1. Королевское научное общество в Гёттингене обладает полной свободой воли в принятии решения, кому надлежит присудить премию. Рукописи, представленные с единственной целью принять участие в конкурсе на получение премии, приниматься не будут. К рассмотрению допускаются только математические мемуары, представленные в виде статей в периодических изданиях или имеющиеся в книжных лавках. Общество обращается к авторам подобных мемуаров с просьбой присылать по крайней мере пять печатных экземпляров.
2. Работы, опубликованные на языках, непонятных ученым специалистам, выбранным для работы в жюри, не допускаются к участию в конкурсе. Авторам таких работ разрешается заменить их переводами, удостоверившись в точности последних.
3. Общество не берет на себя ответственность за рассмотрение работ, не представленных на конкурс, а также за ошибки, которые могут произойти из-за того, что автор работы или часть работы не известны Обществу.
4. Общество сохраняет за собой право принятия решения в случае, когда к решению проблемы имеет отношение несколько лиц или когда решение является результатом совместных усилий нескольких ученых, в том числе и по вопросам распределения премии.
5. Премия присуждается Обществом не ранее, чем через два года после опубликования мемуара, удостоенного премией. Двухлетний промежуток времени необходим для того, чтобы немецкие и иностранные математики имели возможность высказать свое мнение по поводу опубликованного решения.
6. После того, как состоится присуждение премии Обществом, секретарь от имени Общества уведомляет об этом лауреата. Решение публикуется всюду, где ранее было объявлено о конкурсе на соискание премии. Присуждение премии Обществом обсуждению не подлежит.
7. Выплата премии лауреату производится в течение трех месяцев после присуждения Королевским казначеем Гёттингенского университета или, на ответственность получателя, в любом указанном им месте.
8. Капитал может быть выплачен по желанию Общества под расписку либо наличными, либо переводом финансовых ценностей. Выплата премии считается произведенной при переводе этих финансовых ценностей даже в том случае, если к концу дня сумма премии не достигнет 100000 марок.
9. Если премия не будет присуждена до 13 сентября 2007 года, то дальнейшие заявки не принимаются.

Конкурс на соискание премии Вольфскеля считается открытым с сего дня на приведенных выше условиях.

Следует заметить, что Комиссия выплатила бы 100000 марок первому математику, который доказал бы, что Великая теорема Ферма верна, но тот, кто доказал бы, что теорема Ферма не верна, не получил бы и пфеннига.

О премии Вольфскеля было объявлено во всех математических журналах, и весть о конкурсе быстро распространилась по всей Европе. Несмотря на широкую рекламную кампанию и дополнительный побудительный стимул в виде огромной премии, Комиссии Вольфскеля не удалось вызвать особый интерес у серьезных математиков. Большинство профессиональных математиков считали поиск доказательства Великой теоремы Ферма безнадежным делом и решительно отказывались тратить свое драгоценное время на такое бесполезное занятие. Однако премии Вольфскеля удалось внедрить проблему Ферма в сознание совершенно новой аудитории — невидимой армии жаждущих знания молодых умов, жаждущих испытать себя на решении неприступной головоломки и не видящих ничего зазорного в том, что они приступают к поиску доказательства с явно недостаточным багажом.

С античных времен и поныне математики пытались придать занимательность своим учебникам, излагая теоремы и доказательства в форме решений числовых задач-головоломок. Во второй половине XIX века такой игровой подход к математике проник на страницы общедоступной прессы, и числовые головоломки стали появляться в газетах и журналах наряду с кроссвордами и анаграммами. Растущая день ото дня аудитория жаждала математических головоломок, к числу которых непрофессионалы относили все — от тривиальнейших головоломок до глубоких математических проблем, включая Великую теорему Ферма.

Возможно, самым плодовитым создателем головоломок был Генри Дьюдени, печатавшийся в десятках газет и журналов, в том числе таких, как «Strand», «Cassel's», «The Queen», «Tit-Bits», «The Weekly Dispatch» и «Blightly». Достопочтенный Чарльз Доджсон, лектор по математике колледжа Крайст Черч Оксфордского университета, более известный под литературным псевдонимом Льюис Кэрролл, был еще одним выдающимся автором головоломок викторианской эпохи. Несколько лет Доджсон потратил на то, чтобы собрать обширную коллекцию всяких математических курьезов и головоломок под общим названием «Curiosa Mathematica». Ему не удалось исполнить свой замысел до конца, но несколько книг все же было выпущено, в их числе «Полуночные задачи, придуманные в часы бессонницы».

Но величайшим мастером головоломок был американский гений-самородок Сэм Лойд (1841–1911 гг.), который еще мальчишкой имел вполне приличный заработок, придумывая новые головоломки и усовершенствуя старые. В книге «Сэм Лойд и его головоломки: автобиографический обзор» он признает, что некоторые из его первых головоломок были созданы по заказу владельца цирка и фокусника П. Т. Барнума:

«Много лет назад, когда "Цирк Барнума" был поистине "величайшем зрелищем на Земле", знаменитый шоумен заказал мне серию головоломок, предназначенных быть призами в рекламной кампании. Под названием "Вопросы сфинкса" они приобрели широкую известность из-за крупных призов, предлагавшихся тем, кто сумеет на них ответить».

Интересно, что эта «автобиография» была написана в 1928 году, через 17 лет после смерти Лойда. Свое пристрастие к головоломкам Лойд передал своему сыну, также Сэму, который и был подлинным автором книги «Сэм Лойд и головоломки» и прекрасно знал, что всякий, кто ее купит, будет ошибочно полагать, что ее автор — более известный Сэм Лойд-старший.

Самой знаменитой головоломкой Сэма Лойда стал викторианский эквивалент кубика Рубика — игра в 15, которую и поныне можно встретить в игрушечных лавках. Пятнадцать квадратных шашек с номерами от 1 до 15 находятся в квадратной коробочке размером 4×4. Цель игры состоит в том, чтобы, передвигая шашки в коробочке (но не вытаскивая их), расположить шашки по порядку номеров. В головоломке Лойда «15–14» начальное расположение шашек в коробочке было таким, как на рис. 14. Сэм Лойд предложил значительное вознаграждение тому, кто сумеет решить задачу-головоломку, передвинув шашки (проделав серию ходов) «14» и «15» так, чтобы они расположились в правильном порядке. Сын Лойда описал тот ажиотаж, который вызвала эта «механическая», а на самом деле математическая головоломка:

«Премия в 1000 долларов тому, кто первым правильно решит эту головоломку, так и не была никем востребована, хотя тысячи людей утверждали, будто им удалось добиться желаемого. Люди теряли из-за головоломки «15–14» покой и сон. Рассказывали о владельцах лавок, которые забывали открывать свои заведения, о знаменитом священнике, который простоял всю зимнюю ночь под уличным фонарем, пытаясь припомнить, как ему удалось решить задачу. Самое удивительное во всех этих историях о головоломке «15–14» было то, что никто из "решивших" ее не мог вспомнить последовательность ходов, которая привела к победе. Рассказывали, будто лоцманы сажали суда на мели, а машинисты проскакивали без остановки железнодорожные станции. Известный балтиморский издатель рассказывал, как однажды он отправился на ленч и обнаружил, что сотрудники редакции и типографии самозабвенно играют в пятнадцать с полуночи, гоняя по тарелке кусочки пирога».

Рис. 14. Карикатура с изображением мании, порожденной «Игрой в 15» Сэма Лойда (головоломки, в которой все шашки, кроме двух последних, расположены по порядку)

Лойд был абсолютно уверен в том, что ему не придется выплатить объявленную премию в 1000 долларов, поскольку достоверно знал, что невозможно расположить шашки с номерами «14» и «15», не нарушив при этом правильного расположения каких-нибудь других шашек. Так же, как математик может доказать неразрешимость какого-нибудь уравнения, Лойд мог доказать, что предложенная им головоломка не имеет решения.

Доказательство Лойда начиналось с определения величины, которая служила мерой беспорядка в расположении шашек — параметра беспорядка D_p. Параметр беспорядка данного расположения шашек равен числу пар шашек, у которых больший номер предшествует меньшему, т.е. номера идут в неправильном, обратном, порядке. Для правильного расположения шашек, как на рис. 15a, D_p = 0.

а)   Dp = 0	б)   Dp = 6	в)   Dp = 12
Рис. 15. Передвигая шашки внутри коробочки (но не извлекая их из нее), можно создавать различные неупорядоченные расположения чисел. Для каждого расположения можно количественно измерить беспорядок, вводя параметр беспорядка Dp

Начав с правильного расположения шашек и передвигая их в коробочке (но не вынимая из нее), сравнительно легко получить расположение, представленное на рис. 15б. В нем шашки идут в правильном порядке до тех пор, пока мы не достигнем шашек 12 и 11. Ясно, что шашка с номером 11 должна предшествовать шашке 12, поэтому шашки в этой паре расположены в обратном порядке. Полный список тех пар, в которых шашки расположены в обратном порядке таков: (12,11), (15,13), (15,14), (15,11), (13,11) и (14,11). Таким образом, при расположении шашек, показанном на рис. 15б, имеется 6 пар с обратным расположением шашек, и D_p = 6. (Заметим, что шашка 10 соседствует с шашкой 12. Это явно неверно, но такое расположение номеров шашек тем не менее не является обратным, поэтому эта пара шашек не вносит вклада в параметр беспорядка.) Еще несколько ходов, и мы приходим к расположению шашек, представленному на рис. 15в. Составив полный список пар шашек с номерами, идущими в обратном порядке, мы обнаружим, что D_p = 12. Важно заметить, что во всех трех случаях а, б и в, значения параметра беспорядка четны (0, 6 и 12). Действительно, если вы начнете с правильного расположения шашек и будете передвигать их, не вынимая из коробочки, то утверждение о четности параметра беспорядка останется в силе. После любого числа ходов, при расположении шашек с пустой клеткой в правом нижнем углу, значение D_p всегда будет четным.

Иначе говоря, четное значение параметра беспорядка — свойство всех расположении, получаемых из исходного правильного расположения. В математике свойство, которое сохраняется независимо от того, какие действия производятся над объектом, называется инвариантом.

Но если вы проанализируете расположение шашек в головоломке Лойда «15–14», то обнаружите, что значение параметра беспорядка для нее равно единице: D_p = 1, так как только у одной пары с номерами 13 и 15 номера идут в обратном порядке. В головоломке Лойда параметр беспорядка имеет нечетное значение! Но мы знаем, что у любого расположения, полученного из правильного исходного расположения, значение параметра порядка четно. Отсюда следует заключение: расположение шашек в головоломке Лойда «15–14» не может быть получено из правильного исходного расположения, и наоборот, расположение шашек в головоломке Лойда не может быть сведено к правильному расположению. За премию в 1000 долларов Лойд мог быть абсолютно спокоен!

Головоломка Лойда и параметр беспорядка убедительно демонстрируют силу инварианта. Инварианты дают математикам важную стратегию, когда требуется доказать, что один объект невозможно преобразовать в другой. Например, в настоящее время большой интерес вызывает изучение узлов, и специалисты по теории узлов, естественно, пытаются выяснить, можно или нет преобразовать один узел в другой, изгибая и образуя петли, но не разрезая его. Чтобы ответить на этот вопрос, они пытаются найти какое-нибудь свойство исходного узла, которое сохранялось бы при любом изгибании и образовании петель, т.е. инвариант узла. Затем они вычисляют такой же инвариант для второго узла. Если значения инвариантов оказываются различными, то из этого с необходимостью следует вывод о том, что первый узел невозможно преобразовать во второй.

До того, как первые шаги в этом направлении были сделаны Куртом Рейдемейстером в 20-х годах XX века, доказать, что один узел не может быть преобразован в другой, было невозможно. Иначе говоря, до открытия инвариантов узлов было невозможно доказать, что узел «бантиком» невозможно преобразовать в рифовый узел, простой узел или даже простую петлю без какого бы то ни было узла вообще.

Понятие инвариантного свойства занимает центральное место во многих других математических доказательствах, и, как мы увидим в гл. 5, оно сыграло решающую роль в возвращении Великой теоремы Ферма в главное русло развития современной математической мысли.

На стыке XIX и XX веков, благодаря поклонникам Сэма Лойда и его головоломки «15–14», миллионы любителей решать головоломки в Европе и Америке жаждали новых трудных задач. Когда весть о наследстве Вольфскеля дошла до этих начинающих математиков, великая теорема Ферма снова стала самой знаменитой математической проблемой в мире. Великая теорема Ферма была бесконечно более сложной, чем самая трудная из головоломок Лойда, но и приз был несравненно больше.

Любители мечтали о том, что им, возможно, удастся найти сравнительно простой трюк, который ускользнул от внимания великих математиков прошлого. Когда речь заходила о знании математических приемов и методов, преисполненный рвением любитель, живущий в XX веке, во многом не уступал Пьеру де Ферма. Трудность была в другом — в отсутствии изобретательности, с которой Ферма пользовался известными ему приемами и методами.

Через несколько недель после объявления конкурса на соискание премии Вольфскеля на Гёттингенский университет обрушилась лавина «доказательств». Не удивительно, что все они до одного оказались ошибочными. И хотя каждый из участников конкурса был убежден, что именно ему удалось решить проблему, пережившую столетия, но во всех присланных доказательствах неизбежно была какая-нибудь тонкая, а иногда и не очень тонкая — ошибка. Искусство теории чисел настолько абстрактно, что необычайно легко сойти с верного логического пути и незаметно заблудиться, даже впасть в абсурд. В Приложении 7 показана классическая ошибка такого сорта, которую легко может допустить энтузиаст-любитель.

Независимо от того, кто был отправителем того или иного доказательства, каждое из них скрупулезно изучалось на тот случай, если неизвестному любителю все же удастся найти столь давно разыскиваемое доказательство. Деканом математического факультета Гёттингенского университета с 1909 по 1934 годы был профессор Эдмунд Ландау. Именно на него легла обязанность разбирать все доказательства, присланные на соискание премии Вольфскеля.

Ландау был вынужден то и дело прерывать свои собственные исследования, поскольку ему нужно было разбирать десятки ошибочных доказательств, поступавших к нему на стол каждый месяц. Чтобы справиться с ситуацией, профессор Ландау изобрел изящный метод, позволивший избавиться от докучливой работы. Профессор попросил напечатать несколько сотен карточек, на которых значилось:

Каждое из полученных доказательств вместе с отпечатанной карточкой Ландау вручал одному из своих студентов и просил его заполнить пробелы.

Доказательства продолжали поступать непрерывным потоком в течение нескольких лет даже после того, как премия Вольфскеля катастрофически обесценилась из-за гиперинфляции после первой мировой войны. Говорят, что тот, кто выиграл бы конкурс сегодня, вряд ли смог бы купить на премию чашку кофе, — но такие утверждения несколько преувеличены. Как пояснил д-р Ф. Шлихтинг, ответственный за рассмотрение доказательств в 70-х годах, премия Вольфскеля ныне составляет более 10000 марок. Уникальная возможность составить представление о работе Комиссии Вольфскеля дает письмо д-ра Ф. Шлихтинга Паулю Рибенбойму, приведенное в книге Ф. Шлихтинга «Тринадцать лекций о Великой теореме Ферма».

Общее число представленных к настоящему времени «решений» неизвестно. В первый год (1907–1908 гг.) в анналах Академии было зарегистрировано 621 решение. В настоящее время в Академии хранятся стопка бумаг, толщиной около трех метров, с материалами переписки по проблеме Ферма. В последние десятилетия работа с письмами производилась следующим образом. Секретарь Академии делил поступающие рукописи по следующим категориям: 1) полная чепуха, которая немедленно отсылалась обратно; 2) материал, который по крайней мере внешне походил на математику.

Вторая часть корреспонденции передавалась математическому факультету, где работа по прочтению рукописей, нахождению ошибок и ответу авторам поручалась одному из ассистентов (в немецких университетах это люди, окончившие полный курс университета и работающие над диссертацией на соискание ученой степени «доктора философии» — Ph. D.). Сейчас очередная жертва — это я. Каждый месяц поступают 3-4 письма, на которые я должен отвечать. В этих письмах масса интересного и любопытного материала. Например, один из корреспондентов прислал половину доказательства и пообещал прислать вторую, если мы выплатим 1000 марок авансом. Другой корреспондент пообещал мне 1% от своих доходов от своих публикаций, интервью на радио и телевидении, когда он станет знаменитым, если только я окажу ему сейчас поддержку. В противном случае он угрожал послать свое доказательство в адрес математического факультета какого-нибудь российского университета и тем самым лишить нас славы его открывателей. Время от времени кто-нибудь из авторов «доказательств» наведывается в Гёттинген и настаивает на личной встрече и обсуждении.

Почти все «доказательства» написаны на самом элементарном уровне (и используют обозначения, заимствованные из высшей математики и, быть может, некоторых плохо усвоенных работ по теории чисел). Тем не менее понять их очень трудно. В социальном плане отправители нередко оказываются людьми с техническим образованием, но с несложившейся карьерой, которые пытаются теперь достичь успеха с помощью доказательства Великой теоремы Ферма. Некоторые рукописи я передал психиатрам, и те диагностировали тяжелую шизофрению.

Одно из условий в завещании Вольфскеля состояло в том, что Академия была должна ежегодно печатать извещение о конкурсе на соискание премии в главных математических журналах. Но уже через несколько первых лет журналы отказались печатать уведомление о конкурсе потому, что редакции оказались заваленными письмами и сумасшедшими рукописями. Надеюсь, что эта информация представит для Вас некоторый интерес.

Как упоминает д-р Шлихтинг, участники конкурса не ограничивались тем, что присылали свои «доказательства» в Академию. Вряд ли во всем мире найдется хотя бы один математический факультет, где бы ни стоял шкаф, набитый поступившими от любителей «доказательствами». Большинство университетов попросту оставляет такие любительские доказательства без внимания и ответа, но некоторые университеты прибегали к более изобретательным способам, позволявшим отделаться от назойливых корреспондентов. [Сам бы мог привести пару историй с "ферматистами", которые в своё время услышал от зав. кафедрой алгебры нашего местного университета. Но не веселы они: в сущности, эти "ферматисты" — несчастные люди. И на ICM'98 в Берлине, где Эндрю Уайлс получал Филдсовскую премию, на секции алгебры видел доклады типа "А вот ещё одно доказательство Великой теоремы Ферма". Лучше расскажу про одну из "увёрток от ферматистов", которую где-то вычитал. Учёный секретарь одного из московских академических институтов, не избежавшего нашествия ферматистов, однажды был в отпуске в Молдавии и на рынке купил какую-то снедь, которую ему завернули в местную газету. Вернувшись с рынка, он стал просматривать этот листок и наткнулся на заметку, в которой сообщалось, что местный школьный учитель доказал теорему Ферма, и, как следствие, пелись всякие дифирамбы высокому уровню областной науки. Учёный секретарь вырезал эту заметку, а по возвращении в Москву вставил её в рамку и повесил на стену своего кабинета. Теперь, когда на него "нападал" очередной ферматист, он широким жестом приглашал того ознакомиться с "текущим положением дел". Жизнь явно стала легче. :) — E.G.A.] Известный американский популяризатор науки Мартин Гарднер вспоминает об одном своем знакомом, имевшим обыкновение возвращать пришедшие в его адрес рукописи с запиской, в которой извещал отправителя, что недостаточно компетентен для того, чтобы вникнуть в детали доказательства, и сообщал имя и адрес эксперта, который мог бы разобраться в деталях доказательства, т.е. по существу предлагал любителю обратиться к несчастному эксперту. Другой приятель Мартина Гарднера отвечал авторам присланных доказательств так: «У меня есть замечательное опровержение присланного Вами доказательства, но, к сожалению, эта страница недостаточно велика, чтобы вместить его».

Хотя математики-любители всего мира на протяжении XX века пытались найти доказательство Великой теоремы Ферма и терпели одну неудачу за другой в попытках завоевать премию Вольфскеля, математики-профессионалы в основном продолжали игнорировать эту проблему. Вместо того, чтобы опираться в своих исследованиях на труды Куммера и других специалистов по теории чисел, математики обратились у изучению оснований своей науки, чтобы сосредоточить внимание на самых фундаментальных вопросах о числах. Некоторые из величайших фигур XX века — в том числе Бертран Рассел, Давид Гильберт и Курт Гёдель пытались разобраться в наиболее глубоких свойствах чисел, чтобы постичь их истинное значение и установить, какие проблемы теории чисел разрешимы, а какие — что гораздо важнее — неразрешимы. Их работы потрясли основания математики и эхом отозвались на судьбах Великой теоремы Ферма. ¹

На протяжении веков математики занимались тем, что с помощью логического доказательства пытались построить мост, ведущий от известного в неизвестное. Им удалось достичь феноменальных успехов. Каждое новое поколение математиков расширяло грандиозное здание своей науки, создавая новые представления о числах и фигурах. Но к концу XIX века вместо того, чтобы смотреть вперед, некоторые математики стали все чаще оглядываться назад, на основания математики, на которых зиждилось все остальное. Они хотели пересмотреть самые основания математики для того, чтобы заново построить ее, соблюдая все требования математической строгости, начиная с первых принципов, чтобы еще раз убедиться в надежности этих самых первых принципов.

Математики известны своей придирчивостью. Прежде чем принять любое утверждение, они требуют абсолютного доказательства его истинности. Их репутация отчетливо выражена в истории, которую Ян Стюарт приводит в своей книге «Понятия современной математики»: «Рассказывают, что астроном, физик и математик проводили отпуск в Шотландии. Глядя из окна поезда, они заметили посреди поля черную овцу. «Как интересно, — заметил астроном, — все шотландские овцы черные!» «Нет, нет! — возразил физик. — Некоторые шотландские овцы черные!» Математик задумчиво посмотрел вверх, а затем протянул: «В Шотландии есть по крайнее мере одно поле, посреди которого пасется по крайней мере одна овца, у которой по крайней мере одна сторона черная».

Еще строже, чем обычный математик, рассуждает тот математик, который специализируется в области математической логики. Математические логики ставят под сомнение даже те идеи, которые другие математики столетиями считали незыблемыми. Например, закон трихотомии утверждает, что каждое целое число либо отрицательно, либо положительно, либо равно нулю. Это утверждение казалось очевидным, и математики всегда молчаливо предполагали, что оно истинно, но никто никогда не потрудился проверить, так ли это. Логики поняли, что до тех пор, пока истинность закона трихотомии не доказана, его утверждение может оказаться ложным, а если оно окажется ложным, то рухнет все опирающееся на него здание знаний. К счастью для математики, истинность закона трихотомии была доказана в конце XIX века.

Со времен Древней Греции математика накапливала все больше и больше теорем и высказываний, которые не были строго доказаны. Математики были озабочены истинностью некоторых из них, проникших в математический арсенал без должного анализа, — таких, как закон трихотомии. Некоторые идеи были усвоены очень давно, однако, никто не может быть вполне уверен в том, что они могут считаться доказанными, поскольку в разное время были разные представления об уровне строгости доказательства. Поэтому логики решили проверить доказательство каждой теоремы с самого начала. Но каждая истина должна быть выведена из других истин. В свою очередь те истины сначала должны быть доказаны, исходя из еще более фундаментальных истин, и т.д. В конце концов логики оказались лицом к лицу с несколькими утверждениями, настолько фундаментальными, что вывести их из других утверждений не представлялось возможным. Эти фундаментальные утверждения называют аксиомами математики.

Одним из примеров аксиом может служить коммутативный закон сложения, который гласит: для любых чисел m и n верно равенство

Этот закон и несколько других аксиом принято считать самоочевидными. Они легко могут быть проверены на любых числах. До сих пор аксиомы успешно проходили все проверки и были приняты за основу всей математики. Задача, которую поставили перед собой логики, заключалась в том, чтобы попытаться заново построить всю математику, исходя из этих аксиом. В Приложении 8 приводится набор аксиом арифметики и дается представление о том, как логики намереваются, исходя из них, построить всю остальную математику.

В медленном и болезненном процессе перестройки грандиозного и сложного здания математического знания на основе минимального числа аксиом участвовали очень многие математики. Идея этой перестройки заключалась в том, чтобы обосновать с использованием строжайших стандартов логики то, что математики считали давно известным. Немецкий математик Герман Вейль так описывал настроение того времени: «Логика — это гигиена, правила которой математик соблюдает, чтобы сохранить свои идеи здоровыми и сильными». Кроме того, была надежда, что столь фундаментальный подход позволит пролить свет на еще нерешенные проблемы, в том числе — на Великую теорему Ферма.

Программу обновления математики возглавил один из самых выдающихся ученых XX века — Давид Гильберт. По его глубокому убеждению, все в математике может и должно быть доказано, исходя из основных аксиом. Результат аксиоматического подхода должен был быть доказательно продемонстрирован на двух важнейших элементах математической системы. Во-первых, математика, по крайней мере в принципе, должна быть способна ответить на каждый вопрос в отдельности — это тот самый принцип полноты, который в прошлом требовал введения новых чисел, например, отрицательных и мнимых чисел. Во-вторых, математика должна быть свободна от противоречий, т.е. если истинность некоторого утверждения доказана одним методом, то должна быть исключена возможность доказательства отрицания того же самого утверждения другим методом. Гильберт был убежден, что, приняв всего лишь несколько аксиом, можно ответить на любой мыслимый математический вопрос, не опасаясь впасть в противоречие.

8 августа 1900 года Гильберт выступил с историческим докладом на II Международном конгрессе математиков в Париже. Гильберт сформулировал двадцать три проблемы, имевшие, по его мнению, наибольшее значение. Первые из них были посвящены логическим основаниям математики. По замыслу Гильберта, сформулированные им проблемы должны были привлечь внимание математического мира и стать программой будущих исследований. Гильберт хотел гальванизировать математическое сообщество, чтобы оно помогло реализовать его ви́дение математической системы, свободной от сомнений и противоречий — честолюбивый замысел, суть которого Гильберт завещал высечь на своем надгробии:

Огромный вклад в осуществление так называемой гильбертовской программы внес Готтлоб Фреге, временами вступавший в острейшее соперничество с Гильбертом. Более десяти лет Фреге посвятил выводу сотен сложных теорем из простых аксиом, и достигнутые успехи вселили в него уверенность, что он находится на пути к осуществлению значительной части намеченной Гильбертом программы. Одним из ключевых достижений Фреге было создание самого определения числа. Например, что мы в действительности понимаем под числом 3? Оказалось, что для определения числа 3 Фреге понадобилось сначала определить «троичность».

«Троичность» — это абстрактное свойство, присущее всем наборам, или множествам, содержащим по три объекта. Например, «троичность» может быть использована и при описании поросят в известной детской песенке, и при описании множества сторон треугольника. Фреге заметил, что свойством «троичности» обладают многочисленные множества и воспользовался абстрактной идеей таких множеств для определения самого числа «3». Он создал новое множество и поместил в него все множества, обладающие свойством троичности, и назвал это новое множество «множество 3». Таким образом множество имеет три члена в том и только в том случае, если оно принадлежит «множеству 3».

Для понятия, которым мы пользуемся ежедневно, такое определение может показаться чересчур сложным, но столь строгое описание «множества 3» необходимо для бескомпромисной программы Гильберта.

В 1902 году тяжкий труд, добровольно возложенный на себя Фреге, подошел к концу: Фреге подготовил к печати гигантский двухтомный трактат «Grundgesetze der Arithmetik» ³, который должен был установить в математике новый стандарт строгости.

Тогда же английский логик Бертран Рассел, также внесший немалый вклад в осуществление грандиозного проекта Гильберта, сделал ошеломляющее открытие: строго следуя предписаниям Гильберта, он все же наткнулся на противоречие. Позднее Рассел вспоминал свою собственную реакцию на удручающее осознание того, что вся математика может быть внутренне противоречива: «Сначала я было предположил, что легко и просто сумею преодолеть это противоречие, и что в мои рассуждения, возможно, где-то вкралась какая-нибудь тривиальная ошибка. Но постепенно мне становилось ясно, что это не так... Всю вторую половину 1901 года я надеялся, что решение будет несложным, но к концу года понял, что предстоит нелегкая работа... Я взял за обыкновение бродить каждый вечер с одиннадцати до часу ночи и научился различать три различных звука, которые издает козодой. (Большинству людей знаком лишь один звук.) Я сосредоточенно пытался разрешить полученное мной противоречие. Каждое утро я усаживался перед чистым листом бумаги и весь день (за исключением короткого перерыва на ленч) не сводил с листа глаз. Очень часто, когда наступал вечер, лист так и оставался пустым».

Выхода из этого противоречия не было. Работа Рассела нанесла серьезный урон мечтам о математической системе, свободной от сомнений, противоречий и парадоксов. Он написал Фреге, рукопись книги которого уже находилась в печати. Письмо Рассела практически свело на нет работу всей жизни Фреге, но, несмотря на смертельный удар, Фреге опубликовал свой magnum opus ⁴, невзирая на сообщение Рассела, и только добавил постскриптум ко второму тому: «Вряд ли что-нибудь может быть более нежелательным для ученого, чем сомнения в своей правоте в тот самый момент, когда он завершает свой труд. Именно в таком положении я оказался, получив письмо от мистера Бертрана Рассела в тот момент, когда моя работа уже должна выйти из печати».

По иронии судьбы, обнаруженное Расселом противоречие выросло из столь любимых Фреге множеств. Через много лет в своей книге «Мое философское развитие» Рассел вспоминал тот яркий ход рассуждений, который оспаривал работу Фреге: «Мне показалось, что множество иногда может, а иногда не может быть членом самого себя. Например, множество чайных ложек само не есть чайная ложечка, а множество вещей, не являющихся чайными ложечками, есть одна из вещей, не являющихся чайной ложечкой». Именно это любопытное и на первый взгляд безобидное замечание Рассела привело к катастрофическому парадоксу.

Парадокс Рассела часто объясняют на примере истории о дотошном библиотекаре. Однажды, проходя между книжных полок, этот библиотекарь набрел на подборку каталогов. Там были отдельные каталоги художественной прозы, библиографических указателей, поэзии и т.д. Библиотекарь отметил, что в одних каталогах имелись ссылки на самих себя, тогда как в других таких ссылок не было.

Чтобы упростить систему регистрации книг, библиотекарь решил составить два новых каталога. В один из них он хотел включить все каталоги, содержащие ссылки на самих себя, а в другой — все каталоги, не содержащие ссылки на самих себя. По завершении работы перед библиотекарем встала проблема: нужно ли включать в каталог всех каталогов, не содержащих ссылку на самих себя, его самого? Если его включить, то нарушится условие составления этого каталога. Однако, по тому же условию, он должен быть включен. Наш библиотекарь оказался в безвыходной ситуации. Каталоги в рассмотренном нами примере очень похожи на множества, или классы, которые Фреге использовал в качестве фундаментального определения числа. Следовательно, противоречивость, поразившая библиотекаря, создает проблемы в самой структуре математики, которая по предположению считается логической. В математике нельзя допустить противоречий и парадоксов. Например, такое мощное оружие, как доказательство от противного, опирается на математику, свободную от противоречий. Доказательство от противного утверждает, что если принятое допущение приводит к противоречию, то оно должно быть ложным, а, по Расселу, даже аксиомы могут приводить к противоречию. Следовательно, доказательство от противного могло бы показать, что аксиома ложна, и тем не менее аксиомы образуют основания математики, и их принято считать истинными.

Многие мыслители скептически отнеслись к работе Рассела, ссылаясь на то, что развитие математики до того происходило вполне успешно и не встречало каких-либо парадоксов. Отвечая на критику, Рассел следующим образом объяснял значение своей работы.

«Но, можете Вы возразить, ничто не поколеблет Вашего убеждения в том, что дважды два равно четыре. Вы совершенно правы — за исключением незначительных частных случаев. Два должно быть двумя чего-то, и утверждение "дважды два равно четырем" бесполезно, если его невозможно применить к чему-либо. Две собаки и две собаки, разумеется, это четыре собаки. Но могут представиться случаи, когда Вы усомнитесь в том, являются ли эти два животных собаками. "Во всяком случае, животных четверо", — могли бы возразить Вы. Но существуют микроорганизмы, относительно которых трудно сказать, животные они или растения. "Прекрасно, — возразите Вы, — пусть будут не животные, а живые организмы". Но есть такие объекты, относительно которых трудно сказать, живые они или нет. Вам не останется ничего другого, как сказать: "Две сущности и две сущности равны четырем сущностям". Если Вы объясните мне, что Вы понимаете под "сущностью", то спор можно будет считать законченным».

Работа Рассела повергла основания математической логики в состояние хаоса. Логики чувствовали, что парадокс, скрывающийся в недрах математики, рано или поздно высунет свою голову и вызовет большие проблемы. Вместе с Гильбертом и другими логиками Рассел предпринял попытку исправить ситуацию и восстановить пошатнувшееся здоровье математики.

Открывшееся противоречие было прямым следствием работы с аксиомами, которые до того предполагались самоочевидными и достаточными для построения остальной математики. Один из выходов заключался в создании дополнительной аксиомы, которая запрещала бы любому множеству быть членом самого себя. Такая аксиома позволила бы одолеть парадокс Рассела, поскольку устраняла бы вопрос о том, включать или не включать в каталог каталогов, не содержащих ссылки на самих себя, сам каталог каталогов.

Следующее десятилетие Рассел занимался анализом того, что составляет самую суть математики, — ее аксиом. В 1919 году он в соавторстве с Альфредом Нортом Уайтхедом опубликовал первый из трех томов «Principia Mathematica». В этой книге они предприняли успешную попытку решить проблему, вызванную парадоксом Рассела. В течение следующих двадцати лет многие математики использовали «Principia Mathematica» в качестве руководства по возведению безупречного здания математики, и к 1930 году, когда Гильберт вышел в отставку, он мог быть уверен в том, что математика находится на верном пути к выздоровлению. Казалось, мечта Гильберта о непротиворечивой логике, достаточно мощной для того, чтобы ответить на любой вопрос, близится к осуществлению.

Но в 1931 году никому не известный двадцатипятилетний математик опубликовал статью, которая навсегда расстроила надежды Гильберта. Курт Гёдель заставил математиков признать, что математика никогда не станет логически совершенной. Неявно в его работе содержалась и та мысль, что некоторые проблемы математики, например, Великая теорема Ферма, могут оказаться неразрешимыми.

Курт Гёдель родился 28 апреля 1906 года в Моравии, входившей тогда в состав Австро-Венгерской империи, а ныне образующей часть Чехии. В раннем детстве Гёдель перенес несколько заболеваний, самым серьезным из которых был приступ ревматизма в шестилетнем возрасте. Дыхание смерти, которое Гёдель ощутил в столь нежном возрасте, привело к мучительной ипохондрии, которой он страдал всю жизнь. В восьмилетнем возрасте, читая медицинский учебник, Гёдель убедился, что у него слабое сердце, хотя ни один из врачей не находил тревожных симптомов. Позднее, уже в конце жизни, Гёдель ошибочно решил, что его хотят отравить, и, отказавшись от приема пищи, уморил себя голодом.

Еще в детстве Гёдель обнаружил необычайные способности к естественным наукам и математике, и за свою пытливую натуру получил семейное прозвище «господин Почему» (der Herr Warum). Гёдель поступил в Венский университет, так и не сделав выбор между математикой и физикой, но вдохновленный зажигательными и страстными лекциями профессора Ф. Фуртвенглера по теории чисел, решил посвятить себя числам. Лекции были тем более необычными, что Фуртвенглер, парализованный от шеи и ниже, вынужден был читать их, сидя в инвалидной коляске, без конспектов, а его ассистент производил выкладки на доске.

К двадцати с небольшим годам Гёдель стал штатным сотрудником математического факультета, но вместе со своими коллегами нередко участвовал в заседаниях Венского кружка — группы философов, собиравшихся для обсуждения наиболее значительных проблем современной логики. Именно в тот период у Гёделя сложились идеи, подорвавшие самые основания математики.

В 1931 году Гёдель опубликовал свою работу «Über formal unentscheidbare Satze der Principia Mathematica und verwandter Systeme» ⁵, в которой содержались его так называемые теоремы о неразрешимости. Когда весть о теореме Гёделя достигла Америки, великий математик Джон фон Нейман тотчас же заменил часть своего курса о программе Гильберта обсуждением революционной работы Гёделя.

Гёдель доказал, что попытка создания полной и непротиворечивой математической системы — задача заведомо невыполнимая. Идеи Гёделя можно кратко сформулировать в двух утверждениях. ⁶

Первая теорема о неполноте

Если аксиоматическая теория непротиворечива, то существуют теоремы, которые не могут быть ни доказаны, ни опровергнуты.

Вторая теорема о неполноте

Непротиворечивость теории не может быть доказана теми методами, которые в ней формализуются.

По существу, первая теорема Гёделя утверждает, что какая бы система аксиом ни использовалась, всегда найдутся вопросы, на которые математика не сможет найти ответ, — полнота недостижима. Что еще хуже, вторая теорема Гёделя утверждает, что математики никогда не смогут быть уверены в том, что их выбор аксиом не приведет к противоречию, — непротиворечивость никогда не может быть доказана. Гёдель показал, что программа Гильберта неосуществима.

Через несколько десятилетий в своей книге «Портреты по памяти» Бертран Рассел описывал свое впечатление от открытия Гёделя так: «Я жаждал определенности так же, как другие жаждут обрести религиозную веру. Мне казалось, что найти определенность в математике можно с большей вероятностью, чем где-нибудь еще. Но я обнаружил, что многие математические доказательства, которые, в соответствии с ожиданиями моих учителей, мне надлежало принять за истинные, обременены ошибками и что, если определенность действительно может быть обнаружена в математике, то произойдет это в новой области математики с более надежными основаниями, чем те, которые считались надежными прежде. По мере того, как работа продвигалась, мне постоянно приходила на ум басня о слоне и черепахе. Построив слона, на котором мог покоиться математический мир, я обнаружил, что слон нетвердо стоит на ногах, и приступил к построению черепахи, которая удержала слона от падения. Но черепаха оказалась не более надежной, чем слон, и после двадцати с лишним лет напряженнейшего труда я пришел к заключению, что нет ничего, что я бы не сделал, дабы придать математическому знанию непоколебимость».

Вторая теорема Гёделя утверждает, что невозможно доказать непротиворечивость аксиом, но это не обязательно означает, что аксиомы противоречивы. Многие математики все еще верят в глубине сердца, что их математика останется непротиворечивой, но не могут это доказать. Через много лет выдающийся специалист по теории чисел Андре Вейль заметил: «Бог существует потому, что математика непротиворечива, а дьявол существует потому, что мы не можем доказать это».

В действительности, и формулировка и доказательство теорем неполноты Гёделя крайне сложны. Например, строгая формулировка первой теоремы неполноты имеет следующий вид:

Каждому ω-непротиворечивому рекурсивному классу κ формул соответствует такой рекурсивный класс ζ знаков r, что ни ν Gen r, ни Nеg(Gеn r) не принадлежит Flg(k) (где ν — свободная переменная класса r).

К счастью, подобно тому, как история с библиотекарем помогает понять парадокс Рассела, первую теорему о неполноте Гёделя можно проиллюстрировать на другой логической аналогии, которая принадлежит Эпимениду и известна под названием парадокса критянина, или парадокса лжеца. Эпименид был критянином, который воскликнул:

Парадокс возникает, когда мы попытаемся определить, истинно или ложно утверждение Эпименида. Посмотрим, что произойдет, если предположить, что это утверждение истинно. Из истинного утверждения следует, что Эпименид лжец. Но мы приняли предположение о том, что он высказал истинное утверждение, и, следовательно, Эпименид не лжец. Мы приходим к противоречию.

Теперь предположим, что утверждение Эпименида ложно. Из ложности утверждения следует, что Эпименид не лжец. Но мы приняли предположение, что он высказал ложное утверждение. Следовательно, Эпименид лжец, и мы снова приходим к противоречию. Таким образом, что бы мы не предположили об истинности утверждения Эпименида, мы неизменно приходим к противоречию. Следовательно, утверждение Эпименида не истинно и не ложно.

Гёдель нашел новую интерпретацию парадокса лжеца и ввел понятие доказательства. Результатом его новаций стало следующее утверждение:

Если бы это утверждение было ложным, то оно было бы доказуемым, но это противоречило бы самому утверждению. Следовательно, во избежание противоречия, утверждение должно быть истинным. Но это утверждение не может быть истинным в силу самого утверждения (о котором мы теперь знаем, что оно должно быть истинным).

Поскольку Гёделю удалось записать это утверждение в математических обозначениях, он смог доказать, что в математике существуют утверждения, которые истинны, но истинность их не может быть доказана, — так называемые неразрешимые утверждения. Для программы Гильберта это было смертельным ударом.

Открытия в области квантовой физики во многом оказались схожи с этой работой Гёделя. За четыре года до того, как Гёдель опубликовал свою работу о неразрешимости, немецкий физик Вернер Гейзенберг открыл принцип неопределенности. Подобно тому, как Гёдель открыл предел, до которого математики могут доказывать свои теоремы, Гейзенберг обнаружил, что существует предел, до которого физики в принципе могут производить измерения свойств. Например, если они хотят измерить точное положение объекта, то скорость того же объекта им удастся измерить лишь со сравнительно большой погрешностью. Связано это с тем, что для измерения положения объекта последний необходимо «обстрелять» фотонами света, но для того, чтобы точно определить положение объекта, фотоны света должны обладать огромной энергией. Но если объект бомбардировать фотонами высокой энергии, то собственная скорость объекта будет испытывать сильнейшие возмущения и станет неопределенной. Следовательно, пытаясь точно определить положение объекта, физики вынуждены поступиться точным знанием его скорости.

Принцип неопределенности Гейзенберга проявляется только на атомных масштабах, когда измерения с высокой точностью приобретают решающее значение. Следовательно, значительная часть физики может продолжать развиваться по-прежнему, в то время как квантовые физики занимаются изучением глубоких вопросов относительно пределов знания. То же самое происходит и в мире математики. В то время как логики ведут доступные пониманию лишь посвященных дискуссии о неразрешимости, остальная часть математического сообщества продолжает свои исследования, не обращая внимание на то, что происходит у логиков. Хотя Гёдель доказал, что существуют некоторые недоказуемые утверждения, в математике существует предостаточно доказуемых утверждений, и его открытие не обесценило доказанных в прошлом теорем. Кроме того, многие математики были убеждены в том, что неразрешимые утверждения Гёделя существуют только в самых «темных» областях математики, находящихся где-то на ее периферии, и что такие неразрешимые утверждения, возможно, никогда не встретятся ни одному математику. Ведь Гёдель утверждал лишь, что такие утверждения существуют, но не привел ни одного из них в качестве примера. Но в 1963 году предсказанный Гёделем теоретический кошмар стал реальностью.

Пауль Коэн, двадцатидевятилетний математик из Стэнфордского университета, разработал метод, позволяющий проверять разрешимость того или иного вопроса. Метод Коэна работает в некоторых весьма специальных случаях, но тем не менее Коэн был первым, кому удалось обнаружить конкретные неразрешимые вопросы. Совершив это открытие, Коэн немедленно вылетел в Принстон. Он хотел, чтобы правильность его работы проверил сам Гёдель. К тому времени Гёдель был тяжело болен (диагноз медиков гласил: паранойя). Он лишь слегка приоткрыл дверь, вырвал из рук Коэна бумаги и захлопнул дверь. Через два дня Коэн получил приглашение в дом Гёделя на чай — знак того, что маэстро скрепил доказательство печатью своего авторитета. Особый драматизм ситуации придало то обстоятельство, что некоторые из неразрешимых вопросов занимают в математике центральное место. По иронии судьбы, Коэн доказал неразрешимость одной из двадцати трех проблем Гильберта — гипотезы континуума.

Работа Гёделя, дополненная неразрешимыми проблемами Коэна, стала тревожным посланием всем математикам, профессионалам и любителям, которые продолжали свои попытки доказать Великую теорему Ферма. А что, если Великая теорема Ферма неразрешима?! А вдруг Пьер де Ферма заблуждался, когда утверждал, что располагает доказательством? Если так, то доказательство Великой теоремы Ферма может оказаться не просто трудным, а невозможным. Если Великая теорема Ферма неразрешима, то математики столетиями пытались найти доказательство, которое не существует.

Интересно заметить, что если бы Великая теорема Ферма оказалась неразрешимой, то отсюда следовало бы, что она истинна. Причина заключается в следующем. Великая теорема Ферма утверждает, что уравнение

при n, бóльших 2, не имеет решений в целых числах. Если бы Великая теорема Ферма оказалась ложной, то доказать ее было бы можно, предъявив решение (контрпример). Это означало бы, что Великая теорема Ферма разрешима. Итак, если бы теорема была ложной, то это противоречило бы ее неразрешимости. Но если бы Великая теорема Ферма была истинной, то столь определенный способ ее доказательства не обязательно существовал бы, т.е. она могла бы быть неразрешимой. Следовательно, может оказаться, что Великая теорема Ферма истинна, но не существует способа доказать ее.

Заметка на полях «Арифметики» Диофанта, сделанная рукой Пьера де Ферма, породила одну из самых трудных головоломок в истории математики. Несмотря на триста лет блистательных провалов и предположение Гёделя о том, что возможно, охота идет за несуществующим доказательством, проблема Ферма по-прежнему неудержимо привлекала некоторых математиков. Великая теорема Ферма была математической сиреной, манившей гениев только для того, чтобы вдребезги разбить их надежды. Всякий математик, решивший заняться Великой теоремой Ферма, рисковал напрасно потратить свои наиболее активные годы. Но тот, кому удалось бы совершить решающий прорыв, вошел бы в историю, как человек, нашедший решение самой трудной задачи в мире.

Великая теорема Ферма захватила помыслы поколений математиков по двум причинам. Во-первых, ими двигало неудержимое желание продемонстрировать свое превосходство. Великая теорема Ферма была неоспоримым критерием, и всякий, кто сумел бы ее доказать, добился бы успеха там, где потерпели неудачу Коши, Эйлер, Куммер и многие другие математики. Подобно тому, как сам Ферма получал величайшее удовольствие от решения задач, ставивших в тупик его современников, тот, кому удалось бы найти доказательство Великой теоремы Ферма мог бы порадоваться тому, что сумел решить проблему, которая несколько веков возвышалась неприступной крепостью перед математическим сообществом. Во-вторых, каждый, кому удалось бы ответить на вызов Ферма, мог бы испытать чувство неслыханного удовлетворения от того, что сумел решить труднейшую головоломку. Восторг, получаемый от решения сложнейшей проблемы теории чисел, доступной только пониманию посвященных, мало чем отличается от простой радости от решения тривиальных головоломок Сэма Лойда. Один математик как-то поведал мне, что удовольствие, получаемое им от решения математических проблем, имеет много общего с удовольствием, получаемым от решения кроссвордов. Заполнение последних пустых клеточек особенно трудного кроссворда всегда приносит удовлетворение — но какую же радость должен испытывать тот, кто после многих лет безуспешных попыток решить головоломку, которую до него не удавалось решить никому в мире, все-таки сумел найти решение.

По этим же самым причинам Эндрю Уайлс оказался околдованным волшебными чарами Великой теоремы Ферма: «Те, кто занимаются чистой математикой, любят вызов. Они в восторге от нерешенных проблем. Когда Вы занимаетесь математикой, Вами овладевает это великое чувство. Вы начинаете с проблемы, которая представляет для вас полную загадку. Вы не можете ее понять — настолько она сложна, Вы не имеете ни малейшего понятия о том, как к ней подступиться. Но вот, наконец, Вам удается решить ее, и Вас охватывает непередаваемое ощущение ее красоты, изящества и соразмерности деталей и целого. Самыми коварными следует считать те задачи, которые кажутся простыми, но на самом деле оказываются необычайно трудными. Великая теорема Ферма — самый прекрасный пример такого рода проблем. Она выглядит так, будто доказательство должно существовать, и к тому же обладает особенной загадочностью: Ферма утверждал, что нашел ее доказательство».

Математика находит многочисленные приложения в науке и технике, но не они служат главным стимулом развития. Ученых вдохновляет радость открытия. Г. Г. Харди в своей книге «Апология математика» попытался объяснить эту особенность науки и оправдать свою деятельность чистого математика:

«Я только хочу сказать, что если шахматная задача, грубо говоря, «бесполезна», то столь же бесполезна и значительная часть самой лучшей математики... Я никогда не делал ничего "полезного". Ни одно из моих открытий ни на йоту не изменило (и вряд ли изменит), прямо или косвенно, в лучшую или в худшую сторону, прелести мира. Если судить по практическим меркам, то ценность моей математической жизни равна нулю, но в любом случае вне математики она и вовсе бессодержательна. У меня только один шанс избежать вердикта полной бесполезности — если люди сочтут, что мне удалось создать нечто, достойное быть созданным. То, что я создал кое-что, не подлежит сомнению, — вопрос лишь в том, насколько ценно то, что я создал».

В основе стремления решить любую математическую проблему лежит главным образом любопытство, а наградой служит простое, но огромное удовлетворение. Математик Э. Ч. Титчмарш однажды сказал: «От того, что мы знаем, что некоторое число иррационально, нет никакой практической пользы, но если мы можем знать нечто, то не знать этого становится невыносимо».

В случае Великой теоремы Ферма недостатка в любопытстве не было. Работа Гёделя о неразрешимости внесла элемент сомнения в вопрос о том, разрешима ли проблема Ферма, но истинных фанатиков Великой теоремы Ферма это ничуть не разочаровало. Гораздо более разочаровывающим было то, что с 30-х годов математики исчерпали все имевшиеся у них методы, а новых методов появилось явно недостаточно.

Вторая мировая война обусловила гигантский скачок в развитии со времен изобретения логарифмической линейки. И следующим этапом в направлении доказательства теоремы Ферма стало развитие вычислительной техники и криптографии.

Когда в 1940 году Г. Г. Харди заявил о том, что самая первоклассная математика в основном бесполезна, он тут же был вынужден добавить, что это не обязательно плохо: «Настоящая математика не оказывает влияния на ведение войн. Никто еще не открыл ни одного применения теории чисел в военных целях». Вскоре выяснилось, что Харди заблуждался.

В 1944 году Джон фон Нейман в соавторстве с Оскаром Моргенштерном написал книгу «Теория игр и экономическое поведение», в которой ввел придуманный им термин «теория игр». Фон Нейман попытался использовать математику для описания структуры игр и того, как люди играют в них. Он начал с шахмат и покера, а затем попытался построить модели более сложных игр — таких, как экономика. После второй мировой войны корпорация RAND оценила потенциал идей фон Неймана и пригласила его принять участие в разработке стратегии холодной войны. С той поры математическая теория игр стала основным средством, с помощью которого генералы проверяют разрабатываемые ими стратегии, рассматривая вооруженные конфликты как усложненный вариант шахматных партий. Простой иллюстрацией применения теории игр к анализу военных операций служит задача о труэли.

Труэль аналогична дуэли, но с тремя участниками вместо двух. Однажды утром м-р Блэк, м-р Грей и м-р Уайт вздумали решить конфликт труэлью на пистолетах. Стрелять условились до тех пор, пока в живых не останется только один из участников. М-р Блэк стрелял хуже всех. В цель он попадал в среднем лишь один раз из трех. М-р Уайт стрелял лучше всех — без промаха. Чтобы уравнять шансы участников труэли, м-ру Блэку разрешено стрелять первым, за ним должен стрелять м-р Грей (если он останется в живых), затем мог стрелять м-р Уайт (если он еще будет жив).

Далее все начиналось снова, и так до тех пор, пока в живых не останется только один из участников труэли. Вопрос: в кого должен выстрелить м-р Блэк, производя свой первый выстрел? Вы можете попытаться ответить на этот вопрос, опираясь на свою интуицию, но лучше все же, если ваш ответ будет основан на теории игр. Решение задачи см. в Приложении 9.

Большое значение в военное время приобрела математическая теория криптографии — наука о конструировании и «взламывании» кодов. Во время второй мировой войны союзники поняли, что математическая логика может оказаться полезной для дешифровки немецких радиограмм, если только вычисления проводить достаточно быстро. Требовалось автоматизировать математические вычисления, чтобы их могла производить машина, и более других способствовал раскрытию немецких кодов английский математик Алан Тьюринг.

В 1938 году Тьюринг вернулся в Кембридж после стажировки в Принстонском университете. Он стал свидетелем того переполоха, который вызвали теоремы Гёделя о неразрешимости, и принял участие в попытках спасти осколки мечты Гильберта.

В частности, Тьюринг захотел выяснить, существует ли способ, позволяющий определить, какие проблемы разрешимы и какие неразрешимы, и попытался разработать метод, дающий ответ на этот вопрос. В те времена вычислительные устройства были весьма примитивными и, по существу, бесполезными, когда дело касалось серьезных задач. Поэтому Тьюринг основывал свои идеи не на реальных компьютерах, а на представлении о некоторой воображаемой машине, способной неограниченно производить вычисления.

Все, что требовалось Тьюрингу для исследования абстрактных логических проблем, — гипотетическая машина, снабженная бесконечной воображаемой лентой, разделенной на клетки, и способная неограниченно производить вычисления. Тьюринг и не подозревал, что предложенная им воображаемая автоматизация решения гипотетических проблем в конечном счете приведет к перевороту в выполнении реальных вычислений на реальных машинах.

Несмотря на начавшуюся войну, Тьюринг продолжал свои исследования в Кингс Колледже до 4 сентября 1940 года, когда размеренной жизни его кембриджского дома внезапно пришел конец. Тьюринг был командирован в Правительственную школу кодов и шифров, в задачу которой входила расшифровка данных вражеских радиоперехватов. Еще в довоенные годы немцы предприняли значительные усилия для разработки великолепной системы шифрования, и достигнутые ими успехи в этой области стали предметом особых забот британской разведки, которая до того с легкостью расшифровывала вражеские радиограммы. В официальной истории войны, выпущенной издательством Ее Величества под названием «Британская разведка во второй мировой войне», состояние дел в 30-х годах описывается следующим образом:

«В 1937 году было установлено, что в отличие от своих японских и итальянских аналогов, германская армия, германский военно-морской флот, возможно, германские военно-воздушные силы вместе с другими государственными организациями, вроде железных дорог и СС, использовали для всех нужд, кроме тактических коммуникаций, различные версии одной и той же шифровальной системы — шифровальной машины «Энигма», выпущенной на рынок в 20-е годы. Надежность ее немцы повышали, внося различные усовершенствования. В 1937 году Правительственной школе кодов и шифров удалось раскрыть устройство менее модифицированной и менее надежной модели машины «Энигма», используемой германскими, итальянскими и испанскими вооруженными силами. Не считая этого случая, «Энигма» до сих пор выдерживала все попытки раскрыть ее устройство. Весьма вероятно, что эти попытки будут продолжены».

Шифровальная машина «Энигма» состояла из клавиатуры, соединенной с шифровальным узлом. Шифровальный узел содержал три отдельных ротора. Положения роторов определяли, как шифруется каждая литера на клавиатуре. Раскрыть код «Энигма» было так трудно потому, что число внутренних состояний, в которых могла находиться машина, было необычайно велико. Во-первых, три ротора в машине можно было выбирать из пяти, заменять и переставлять, чтобы сбить с толку тех, кто попытается раскрыть код. Во-вторых, каждый ротор мог находиться в одном из двадцати шести. различных положений. Все это означало, что машина может находиться более чем в миллионе различных состояний. Кроме перестановок букв, производимых роторами, соединения на плате в тыльной стороне машины можно было менять вручную, что позволяло устанавливать машину более чем в 1,5·10²⁰ возможных состояний. Чтобы еще больше увеличить надежность, три ротора постоянно изменяли ориентацию так, что после кодирования и передачи одной буквы при кодировании следующей буквы машина устанавливалась в новое состояние. Например, набрав на клавиатуре «DODO», мы получим кодированное сообщение «FGTB», так как хотя буквы «D» и «O» встречаются в сообщении дважды, кодируются они всякий раз по-другому.

Машины «Энигма» были взяты на вооружение германской армией, военно-морским флотом и военно-воздушными силами, а также использовались на железных дорогах и в других правительственных учреждениях. Подобно всем системам кодов того времени, «Энигма» имела слабое место: получатель должен был знать, как установлена машина отправителя. Для обеспечения безопасности установку «Энигмы» требовалось менять ежедневно. Один из способов, позволявших отправителю ежедневно менять код и сообщать его получателю, заключался в публикации установок машины на каждый день в секретной кодовой книге. Риск при такой системе состоял в том, что англичане могут захватить какую-нибудь немецкую подводную лодку и захватить кодовую книгу с ежедневными установками машины на следующий месяц. Альтернативный подход, который использовался на протяжении большей части войны, состоял в том, чтобы установка машины на текущий день сообщалась в преамбуле к сообщению и декодировалась с помощью кода на предыдущий день.

Когда разразилась вторая мировая война, штат Правительственной школы кодов и шифров в основном состоял из специалистов по древним языкам и лингвистов. Но вскоре британское министерство иностранных дел осознало, что специалисты по теории чисел имеют более высокие шансы подобрать ключ к немецким кодам, и тогда самые лучшие английские специалисты по теории чисел были собраны в новом здании Правительственной школы кодов и шифров в Бличли парке — викторианском здании в Бличли, в графстве Бакингхэмпшир. Тьюрингу пришлось оставить свои воображаемые машины с бесконечной лентой, разделенной на клетки, и бесконечным временем на обработку информации и заняться практической проблемой с конечными ресурсами и весьма сжатыми сроками.

Криптография представляет собой борьбу умов между составителем кода и тем, кто пытается этот код разгадать. Составитель кода видит свою задачу в том, чтобы каждое исходящее от отправителя сообщение было закодировано настолько надежно, чтобы раскодировать его было невозможно даже в том случае, если оно будет перехвачено противником. Однако существует верхний предел для количества возможных математических манипуляций, поскольку сообщения должны доходить до получателя быстро и эффективно. Сила германского кода «Энигма» заключалась в том, что кодируемое сообщение подвергалось кодировке на нескольких уровнях с очень высокой скоростью. Тот, кто стремился раскрыть, или «взломать», код, видел свою задачу, в том, чтобы взять перехваченное сообщение и разгадать код, причем скорость расшифровки была весьма существенна: германское сообщение, содержащее приказ потопить британский корабль, должно было быть декодировано до того, как корабль потонет.

Тьюринг возглавил группу математиков, в задачу которых входило воссоздать точную копию машины «Энигма». Все свои абстрактные идеи предвоенной поры Тьюринг воплотил в устройстве, которое теоретически могло методично, одну за другой, перебирать все возможные установки машины «Энигма» до тех пор, пока код не окажется раскрытым. Для проверки всех потенциально возможных состояний машины «Энигма» математики из Бличли парка использовали британские машины около двух метров в высоту и примерно столько же в ширину, работавшие на электромеханических реле. Непрестанное тиканье реле стало причиной, по которой эти машины получили свое прозвище — их стали называть бомбами. Несмотря на максимальное по тем временам быстродействие, «бомбы» не могли перебрать за разумное время все гигантское количество возможных вариантов установки «Энигма», поэтому группе Тьюринга предстояло найти способы, позволяющие существенно сократить число перестановок, по крохам собирая любую информацию, которую можно было извлечь из перехваченных сообщений.

Одно из существенных достижений группы из Бличли парка стало осознание того, что машина «Энигма» никогда не кодировала букву самой буквой, т.е. если отправитель набирал на клавиатуре литеру «R», то машина потенциально могла отправить любую другую букву (в зависимости от установки машины), кроме буквы «R». Это, на первый взгляд незначительное, обстоятельство позволило резко сократить время, необходимое для того, чтобы декодировать сообщение. Немцы нанесли ответный удар, ограничив длину предаваемых сообщений. Все сообщения неизбежно содержат в себе какие-то зацепки, позволяющие «взломщикам кодов» декодировать сообщения. Чем длиннее сообщение, тем больше зацепок оно содержит. Установив предельный объем для всех сообщений — не более 250 знаков, немцы надеялись компенсировать «нежелание» машины «Энигма» кодировать букву той же буквой.

Чтобы взломать германские коды, Тьюринг часто пытался отгадать в сообщениях ключевые слова. Если ему это удавалось, то декодирование остальной части сообщения многократно ускорялось. Например, если взломщики кода подозревали, что сообщение содержит сводку погоды (метеоданные часто передавались в кодированных сообщениях), то они могли предположить, что в сообщении содержатся такие слова, как «туман» или «скорость ветра». Если их догадка оправдывалась, то они быстро декодировали остальное сообщение и тем самым могли судить об установке «Энигмы» на день передачи сообщения. Тогда в этот день и другие, более ценные, сообщения декодировались без труда.

Если же слова о состоянии погоды не удавалось отгадать, то англичане пытались представить себя на месте немецких операторов, работавших с «Энигма», и отгадать какие-то другие ключевые слова. Оператор по рассеянности мог назвать получателя по имени или обладать какими-то известными взламывателю кода любимыми словечками. Если все попытки декодировать сообщения оказывались безуспешными, и германский радиообмен протекал бесконтрольно, Правительственная школа кодов и шифров прибегала, как рассказывают, даже к такой экстравагантной мере, как обращение к командованию Королевскими ВВС с просьбой произвести минирование какого-нибудь германского порта. Комендант порта немедленно посылал кодированное сообщение, которое англичане перехватывали. В подобных случаях взломщики кодов могли быть уверены, что в сообщении непременно содержатся такие слова, как «мины», «опасность для захода кораблей», «пеленгация мест падения мин». Декодировав такое послание, Тьюринг устанавливал установку «Энигма» на тот день, и дальнейший радиообмен немцев уже легко поддавался декодированию.

1 февраля 1942 года немцы установили дополнительный, четвертый, ротор на машине «Энигма», предназначенный для передачи особо секретной информации. Это было самое большое повышение уровня кодирования за время войны, но группа Тьюринга сумела парировать этот ход немцев, увеличив эффективность своих «бомб». Благодаря усилиям сотрудников Школы кодов и шифров, союзники знали о противнике больше, чем могли подозревать немцы. Эффективность операций германских подводных лодок сильно уменьшилась, и британцам удалось предупредить налеты германских ВВС. Взломщикам кодов из Бличли парка также удалось перехватить и декодировать сообщения, содержавшие точные координаты вспомогательных кораблей германского ВМФ, что позволило послать британские бомбардировщики и потопить эти корабли.

Союзникам приходилось принимать особые меры предосторожности для того, чтобы неожиданные атаки не выдали их осведомленности и чтобы немцы не догадались о том, что их сообщения могут быть декодированы. Если бы немцы заподозрили, что система «Энигма» поддается декодированию, то они могли бы повысить уровень кодирования, и англичане оказались бы на исходных позициях. Поэтому в ряде случаев Школа кодов и шифров информировала военных о планируемой атаке, но командование предпочитало не принимать особых контрмер. Ходили даже слухи, что Черчиллю было известно о готовящемся опустошительном налете на Ковентри, но он предпочел не принимать особых мер предосторожности, чтобы немцы ничего не заподозрили. Стюарт Милнер-Барри, работавший вместе с Тьюрингом, опровергает эти слухи и утверждает, что сообщение о готовящемся налете на Ковентри удалось декодировать, когда уже было поздно.

Ограниченное использование декодированной информации работало идеально. Даже когда англичане использовали перехваченные сообщения для предотвращения тяжелых потерь, немцы не заподозрили, что код «Энигма» раскрыт. Немцы были убеждены, что их уровень кодирования настолько высок, что раскрыть их коды абсолютно невозможно. Свои огромные потери немцы относили за счет агентов британской секретной службы, якобы проникших в высшие ряды немецкого командования.

Из-за секретности, окружавшей работу в Бличли парке, огромный вклад Тьюринга и его группы в победу союзников не мог быть признан публично даже через много лет после окончания войны. Принято говорить, что первая мировая война была войной химиков, а вторая мировая война стала войной физиков. В действительности, судя по той информации, которая стала известна за последние десятилетия, по-видимому, правильнее было бы сказать, что вторая мировая война была также войной математиков. В случае третьей мировой войны вклад математиков был бы еще более значительным.

Но и в самый разгар своей деятельности в качестве взломщика кодов Тьюринг не забывал о своих чисто математических исследованиях. На смену воображаемым машинам пришли реальные, но тонкие вопросы, доступные пониманию только посвященных, оставались нерешенными. К концу войны Тьюринг оказал помощь в постройке «Колосса» — полностью электронной вычислительной машины, на 1500 электронных лампах, работавших гораздо быстрее, чем электромеханические реле, которые использовались в «бомбах». «Колосс» был компьютером в современном смысле слова. Необычайное (по тем временам) быстродействие и достаточно высокая сложность «Колосса» навели Тьюринга на мысль рассматривать эту вычислительную машину как примитивный мозг: «Колосс» обладал памятью, он мог обрабатывать информацию, и внутренние состояния компьютера напоминали состояния человеческого мозга. Свою воображаемую машину Тьюринг превратил в первый реально действующий компьютер.

По окончании второй мировой войны Тьюринг продолжал строить все более сложные вычислительные машины, такие, как Automatic Computing Engine (ACE) — Автоматическую вычислительную машину. В 1948 году Тьюринг перешел на работу в Манчестерский университет и построил первый в мире компьютер с программой, которая хранилась в электронном виде. Благодаря Тьюрингу, Британия стала обладательницей самых мощных компьютеров в мире, но он прожил он недостаточно долго для того, чтобы увидеть наиболее выдающиеся успехи компьютерных вычислений.

В послевоенные годы Тьюринг находился под наблюдением Intelligence Service. Разведчики, считая Тьюринга гомосексуалистом и опасаясь, что человек, знающий о британских секретных кодах больше, чем кто-либо другой, может стать объектом шантажа, следили за каждым его шагом. Тьюринг даже смирился, что неотступно находится под колпаком у разведслужб, но в 1952 году был арестован за нарушение британских законов о гомосексуалистах. Это унижение стало для Тьюринга последней каплей, переполнившей его терпение. Эндрю Ходжес, биограф Тьюринга, так описывает событие, приведшее к его смерти: «Смерть Алана Тьюринга стала сильнейшим потрясением для всех, кто его знал... То, что он был несчастным человеком, находившимся в состоянии нервного напряжения, что он консультировался у психиатра и, как и многие другие, перенес удар, — все это было ясно. Но суд состоялся два года назад, лечение гормонами закончилось годом раньше, и он, казалось, стал выше всего этого.

Расследование, произведенное 10 июня 1954 года, установило, что это было самоубийство. Тьюринга нашли лежащим навзничь в постели. Вокруг его рта была пена. Патологоанатом, проводивший посмертное вскрытие, определил причину смерти как отравление цианидом калия... В доме находился сосуд с цианидом калия и еще один сосуд с раствором цианида. Рядом с кроватью лежала половинка яблока со следами укусов. Анализ яблока не производился».

Наследием Тьюринга стал компьютер, способный производить за несколько часов вычисления, которые заняли бы у человека непозволительно много времени. Современные компьютеры успевают за долю секунды произвести больше арифметических операций, чем Ферма сделал за всю свою жизнь. Те математики, которые все еще вели неравную борьбу с Великой теоремой Ферма, начали компьютерную атаку на проблему, полагаясь на компьютерную версию подхода, развитого Куммером в XIX веке.

Куммер, обнаружив пробел в работах Коши и Ламе, установил, что трудностей при доказательстве Великой теоремы Ферма удается избежать, если показатель n равен нерегулярному простому числу (при n, не превышающих числа 100, нерегулярны только простые числа 37, 59 и 67). В то же время, Куммер показал, что теоретически все случаи с нерегулярными значениями показателя n могут быть рассмотрены индивидуально. Единственная проблема заключается лишь в том, что каждый случай требует огромного объема вычислений. Сколь велик объем вычислений наглядно демонстрирует то, что Куммер и его коллега Дмитрий Мириманов потратили три недели, чтобы выполнить все вычисления для трех нерегулярных простых чисел, не превышающих числа 100. Но ни они, ни другие математики не были готовы к тому, чтобы приступить к вычислениям для следующей группы нерегулярных простых чисел в интервале от 100 до 1000.

Через несколько десятилетий проблемы, связанные с огромным объемом вычислений, стали существенно более доступными. С появлением компьютера большому объему вычислений, связанных с доказательством Великой теоремы Ферма, стало возможно противопоставить быстродействие вычислительных машин. И после второй мировой войны группы программистов и математиков доказали Великую теорему Ферма при всех значениях n до 500, затем до 1000, а позже до 10000. В 80-е годы Сэмюэль С. Вагстафф из университета Пурду поднял предел до 25 000, а совсем недавно математики заявили, что Великая теорема Ферма верна при всех значениях n до 4 миллионов.

И хотя нематематикам могло бы показаться, что положение с доказательством Великой теоремы Ферма, наконец, стало лучше, математическое сообщество сознавало, что успех носит чисто косметический характер. Даже если бы суперкомпьютеры провели десятилетия в непрерывных вычислениях, доказывая Великую теорему Ферма при значениях n одно за другим, то и тогда им не удалось бы доказать теорему для каждого значения n до бесконечности, и поэтому никто не мог бы утверждать, что Великая теорема Ферма доказана во всей общности. Ведь даже если бы теорему удалось доказать для n до миллиарда, то и тогда не было бы никаких причин, по которым она должна была бы быть верна для n, равного миллиарду плюс один. Если бы теорему удалось доказать для n до триллиона, то нет причин, по которым она должна была бы быть верна для n, равного триллиону плюс один, и т.д. до бесконечности. Бесконечность недостижима за счет одной лишь грубой силы — перемалывания чисел с помощью компьютера.

Дэвид Лодж в своей книге «Странствия в картинках» приводит красочное описание вечности, имеющее отношение к аналогичному понятию бесконечности: «Представьте себе стальной шар размером со Вселенную и муху, которая садится на него раз в миллион лет. Когда этот стальной шар обратится в пыль от трения, вечность еще даже не начнется». Тем не менее, результаты, полученные с помощью компьютеров, свидетельствовали в пользу Великой теоремы Ферма. Поверхностному наблюдателю могло показаться, что этих результатов предостаточно, но сколько бы ни было данных, любое их количество не могло удовлетворить математиков — сборище скептиков, которые не признают ничего, кроме абсолютного доказательства. Экстраполяция теории на бесконечное множество чисел, опирающаяся на результаты, полученные для конечного количества чисел, — игра рискованная (и неприемлемая).

Насколько опасна такая экстраполяция с конечного множества на бесконечное показывает одна последовательность простых чисел. В XVIII веке математики доказали, что все следующие числа простые:

Следующие числа становились все бóльшими гигантами, и проверка их на простоту потребовала бы значительных усилий. Некоторые математики поддались искушению выдать замеченную закономерность за правило и предположили, что все числа указанного вида простые. Но уже следующее число 333 333 331 оказалось составным: 333 333 331 = 17·19 607 843.

Другим хорошим примером, показывающим почему не следует доверять только результатам компьютерных расчетов, может служить гипотеза Эйлера. Эйлер предположил, что уравнение

аналогичное уравнению Ферма, не имеет ненулевых решений в целых числах. На протяжении двух столетий никому не удавалось доказать гипотезу Эйлера, как, впрочем, и опровергнуть ее контрпримером. Ни первые вычисления вручную, ни долгие годы просеивания чисел с помощью компьютеров не позволили обнаружить ни одного решения. Отсутствие контрпримера воспринималось как убедительное свидетельство в пользу гипотезы Эйлера. Но в 1988 году Наум Элькис из Гарвардского университета нашел следующее решение:

[А Роджер Фрай (как сказано в "Конкретной математике" Р. Грэхема, Д. Кнута и О. Паташника) затратив 110 часов работы суперкомпьютера Connection Machine, показал, что единственным решением для w < 1 000 000 является 95 800⁴ + 217 519⁴ + 414 560⁴ = 422 481⁴. — E.G.A.] Несмотря на все «подкрепляющие» данные гипотеза Эйлера оказалась ложной. В действительности Элькис доказал, что это уравнение имеет бесконечно много решений в целых числах. Мораль ясна: нельзя использовать результаты, полученные для первого миллиона целых чисел, как обоснование гипотезы относительно всех целых чисел.

Но обманчивый характер гипотезы Эйлера — ничто по сравнению с гипотезой о завышенной оценке количества простых чисел. Рассматривая все бóльшие и бóльшие целые числа, мы убеждаемся, что найти среди них простые числа становится все труднее. Например, между 0 и 100 расположены 25 простых чисел, тогда как между 10 000 000 и 10 000 100 — только 2 простых числа. В 1791 году Карл Гаусс, которому было тогда всего лишь четырнадцать лет, сформулировал приближенный закон, по которому уменьшается частота простых чисел. Формула Гаусса давала разумную точность, но всегда слегка завышала истинное распределение простых чисел. Проверка на простых числах до миллиона, миллиарда или триллиона показала, что гипотеза Гаусса излишне щедра, и математики испытывали сильнейшее искушение считать, что так будет и для всех чисел до бесконечности. Так родилась гипотеза о завышенной оценке распределения простых чисел.

В 1914 году Дж. И. Литлвуд, сотрудник Г. Г. Харди по Кембриджскому университету доказал, что для очень больших чисел формула Гаусса даст заниженную оценку распределения простых чисел. В 1955 году С. Скьюз показал, что недооценка количества простых чисел может наступить прежде, чем будет достигнуто число

[См. примечание 14 в статье Д. Цагира. — E.G.A.] Это число невозможно даже представить, и никаких практических приложений оно не имеет. Харди назвал число Скьюза «самым большим числом, которое когда-либо служило какой-нибудь цели в математике». Харди подсчитал, что если бы кто-нибудь вздумал сыграть в шахматы со всеми частицами во Вселенной (а их 10⁸⁷; под ходом в такой игре следовало бы понимать перестановку любых двух частиц), то число возможных партий оказалось бы приближенно равно числу Скьюза.

Не существует причин, по которым Великая теорема Ферма не могла бы оказаться столь же обманчивой, как гипотеза Эйлера или гипотеза о завышенной оценке распределения простых чисел.

В 1975 году Эндрю Уайлс поступил в аспирантуру Кембриджского университета. В ближайшие три года ему предстояло работать над диссертацией на соискание ученой степени Рh. D. (доктора философии) и за это время как бы пройти свое послушание математика-подмастерья. У каждого аспиранта имеется свой руководитель и наставник. У Уайлса им был австралиец Джон Коутс, профессор из колледжа Эммануэля, живший у себя на родине в городке Посум Браш в Новом Южном Уэльсе.

Коутс хорошо помнит, как он принял Уайлса: «Помню, что коллега сообщил мне о своем очень сильном студенте, который только что сдал последнюю часть экзаменов по математике и настоятельно рекомендовал мне взять его в аспирантуру. К счастью, я знал Эндрю еще в бытность его студентом. Еще тогда у него были очень глубокие идеи, и было ясно, что он математик с большим будущим. Разумеется, в то время не было и речи о том, чтобы какой-нибудь аспирант работал непосредственно над доказательством Великой теоремы Ферма. Она слишком трудна и для более опытного математика».

В последнее десятилетие все, что делал Уайлс, было направлено на подготовку к решающей схватке с Великой теоремой Ферма, но теперь, когда он вступил в ряды профессиональных математиков, ему приходилось быть более прагматичным. Как вспоминает Уайлс, он был вынужден временно отказаться от своей мечты. «Придя в Кембридж, я отложил Ферма в сторону. Не то, чтобы я забыл о теореме — она всегда была со мной, но я вдруг осознал, что те методы, которыми мы пытались доказать ее, существовали уже около 130 лет. По-видимому, они не позволяли дойти до корней проблемы. Работая над доказательством теоремы Ферма, вы могли потратить годы и остаться ни с чем. Работать над любимой проблемой — одно удовольствие, пока получается интересная математика, даже если проблему не удается решить к концу дня. Хорошей математической проблемой по определению считается такая, которая порождает хорошую математику. Важна математика, а не сама проблема».

Эндрю Уайлс во время обучения в колледже		Джон Коутс, научный руководитель Уайлса в 70-е годы, продолжал поддерживать отношения со своим бывшим студентом

В обязанности Джона Коутса входило найти для Эндрю новую увлекательную проблему, которая станет предметом его исследования по крайней мере на следующие три года. «Думаю, все, что руководитель может сделать для аспиранта, — это попытаться дать ему толчок в правильном направлении. Разумеется, никто не может с уверенностью знать заранее, какое направление исследования окажется плодотворным, но одно старший по возрасту математик может сделать — использовать свое чутье, свою интуицию при выборе стоящей области исследования, а от аспиранта зависит, насколько ему удастся продвинуться в указанном направлении». В конце концов Коутс решил, что Уайлсу следовало бы заняться областью математики, известной под названием теории эллиптических кривых. Как впоследствии оказалось, это решение стало поворотным пунктом в судьбе Уайлса и вооружило его теми методами, которые понадобились при выработке нового подхода к доказательству Великой теоремы Ферма. Название «эллиптические кривые» способно ввести в заблуждение потому, что они не эллипсы и даже не кривые в обычном смысле слова. Речь, скорее, идет об уравнениях вида

где a, b, c — некоторые числа.

Свое название эллиптические кривые получили потому, что некоторые функции, тесно связанные с этими кривыми, потребовались для измерения длин эллипсов (а, следовательно, и длин планетных орбит). Уравнения такого вида называются кубическими. Проблема эллиптических кривых, как и проблема доказательства Великой теоремы Ферма, заключается в вопросе, имеют ли соответствующие им уравнения целочисленные решения, и если имеют, то сколько. Например, кубическое уравнение

где a=0, b=0, c=–2, имеет только одно решение в целых числах, а именно:

Доказать, что это уравнение имеет только одно решение в целых числах — трудная задача. Этот факт доказал Пьер Ферма. В гл. 2, как вы, возможно, помните, мы упоминали о том, что 26 — единственное число во всей Вселенной, заключенное между квадратом и кубом. Доказал это также Ферма. Его доказательство эквивалентно доказательству того, что приведенное выше кубическое уравнение имеет только одно решение в целых числах, т.е. 5² и 3³ — единственные квадрат и куб, разность которых равна 2, т.е. 26 — единственное целое число, которое может быть заключено между квадратом и кубом.

Особое очарование кубическим уравнениям придает то, что образно говоря они занимают нишу между более простыми уравнениями, решения которых почти тривиальны, и более сложными, решить которые невозможно. Изменяя значения a, b и c в общем кубическом уравнении, можно получить бесконечное множество уравнений, каждое из которых обладает своими характерными особенностями, но все эти уравнения поддаются анализу.

Первыми изучали кубические уравнения древнегреческие математики, в том числе Диофант, который посвятил изучению их свойств большие разделы своей «Арифметики». Возможно, именно под влиянием Диофанта занялся изучением кубических уравнений Ферма, а поскольку его излюбленный герой исследовал такие уравнения, Уайлс был счастлив продолжить эти исследования. Для начинающих математиков, вроде Уайлса, кубические уравнения представляли крепкий орешек даже через две тысячи лет после Диофанта. По словам Уайлса, «они были очень далеки от полного понимания. Существует множество простых на первый взгляд вопросов относительно кубических уравнений, все еще остающихся нерешенными. Даже вопросы, которые рассматривал еще Ферма, до сих пор остаются без ответа. В каком-то смысле вся математика, которую мне удалось разработать, восходит если не к Великой теореме Ферма, то к другим его идеям».

В качестве первого шага исследования можно не находить решения явно, а поставить вопрос: сколько решений вообще может быть? Как правило, и на этот вопрос ответить очень сложно, однако математики придумали способ как упростить эту задачу. Например, кубическое уравнение

почти невозможно решить напрямую. Одно, тривиальное, решение очевидно: x=0 и y=0. Действительно,

Чуть больший интерес представляет собой решение x=1 и y=0:

Возможно, существуют и другие решения, но если принять во внимание, что перебору подлежит бесконечное множество целых чисел, то станет ясно, что составление полного списка решений этого уравнения в целых числах — задача невозможная. Более простой задачей является поиск решений в конечном числовом пространстве — так называемой арифметике вычетов.

Ранее мы видели, что целые числа можно мыслить как отметки на числовой прямой, простирающейся в бесконечность, как показано на рис. 16. Чтобы сделать числовое пространство конечным, арифметика вычетов отрезает от числовой прямой определенную часть и замыкает ее в петлю, образуя вместо числовой прямой числовое кольцо. На рис. 17 вы видите часы с пятью пометками: от числовой прямой отрезана часть по отметке 5, и конец ее склеен с отметкой 0. Число 5 при этом исчезает и становится эквивалентным 0, поэтому в новой арифметике — арифметике вычетов по модулю 5 — фигурируют только числа 0, 1, 2, 3, 4. ⁷

Рис. 16. Обычные арифметические действия можно представить как передвижения направо и налево по числовой оси	Рис. 17.

В обычной арифметике мы мыслим сложение как сдвиг по прямой на несколько делений — зазоров между отметками. Например, сказать: 2+4=6 — то же самое, что сказать: начните с отметки 2, сдвиньтесь вдоль числовой прямой на 4 деления и вы получите число 6. Но в арифметике вычетов по модулю 5 получаем, что

Так происходит потому, что если мы начнем с отметки 4 и сдвинемся по окружности на 2 деления, то вернемся к отметке 1. Новая арифметика может показаться непривычной, но в действительности, мы пользуемся ей ежедневно, когда речь заходит о времени. Четыре часа после 11 (т.е. 11+4) обычно принято называть не 15, а 3 часами. Это — арифметика вычетов по модулю 12.

Помимо сложения в «часовой» арифметике можно производить и все другие обычные математические операции, например, умножение. В арифметике вычетов по модулю 12 имеем: 5·7=11. Такое умножение можно представить себе следующим образом: начав с отметки 0 и сдвинувшись на 5 групп из 7 делений в каждой, вы в конце концов дойдете до отметки 11. Это лишь один из способов мысленно представить себе умножение в этой арифметике; существуют более хитрые приемы, позволяющие ускорить вычисления. Например, чтобы вычислить 5·7, мы можем для начала просто вычислить обычное произведение, которое равно 35. Разделив затем 35 на 12, мы получим остаток, который и дает ответ на интересующий нас вопрос. Число 12 содержится в 35 дважды и плюс остаток 11, поэтому произведение 5·7 в арифметике вычетов по модулю 12 равно 11. Это равносильно тому, что мы мысленно дважды обошли циферблат, и нам осталось пройти еще 11 промежутков.

Так как в арифметике вычетов конечное число элементов, то в ней сравнительно легко найти все возможные решения любого уравнения. Например, не составляет труда перечислить все возможные решения кубического уравнения

в арифметике вычетов по модулю 5. Вот они:

Хотя некоторые из этих решений не являются решениями в целых числах, в рассматриваемой арифметике вычетов все они — решения. Например, подставим значения (x=1, y=4) в наше уравнение:

Но число 20 эквивалентно 0, так как число 5 делит число 20 с остатком 0.

Поскольку найти число решений кубического уравнения в целых числах крайне трудно, математики решили сначала определить число решений в различных арифметиках вычетов. Для приведенного выше уравнения число решений в арифметике по модулю 5 равно четырем. Это записывают так: E₅ = 4. Можно подсчитать число решений и в других арифметиках. Например, в арифметике вычетов по модулю 7 число решений равно 9, т.е. E₇ = 9.

Подводя итог своим вычислениям, математики составили список числа решений в каждой из арифметик вычетов и назвали его L-рядом эллиптической кривой (или соответствующего кубического уравнения). Что, собственно, означает здесь буква L, все давно забыли. Считается, что L означает Густава Лежена Дирихле, который также занимался изучением кубических уравнений. Для ясности я буду использовать обозначение «E-ряд» — ряд, полученный для кубического уравнения. Для приведенного выше уравнения E-ряд выглядит так.

Пока не известно, сколько решений имеют кубические уравнения в обычном числовом пространстве, которое бесконечно, E-ряды заведомо лучше, чем ничего. В действительности, E-ряд содержит в себе значительную долю информации о том уравнении, которое оно описывает. Подобно тому, как биологическая ДНК несет в себе всю информацию, необходимую для построения живого организма, E-ряд несет в себе наиболее существенную информацию об эллиптической кривой. Математики питали надежду, что E-ряд — это своего рода математическая ДНК, и что при помощи его они в конечном счете смогут вычислить все, что им хотелось бы знать об эллиптической кривой.

Работая под руководством Джона Коутса, Уайлс быстро заслужил репутацию блестящего специалиста по теории чисел, глубоко разбирающегося в арифметике эллиптических кривых. С каждым новым результатом и с каждой опубликованной статьей Уайлс, сам того не ведая, набирался опыта, который несколькими годами позже привел его к возможности доказать Великую теорему Ферма.

В то время еще никому не было известно, что в послевоенной Японии уже произошла цепь событий, которые позволят установить неразрывную связь между эллиптическими кривыми и модулярными формами. Именно эта связь и приведет впоследствии к доказательству Великой теоремой Ферма. Поощряя Уайлса к изучению эллиптических кривых, Коутс дал ему средства, позволившие осуществить давнюю мечту.