Теория множеств

Теория множеств — это раздел логики и математики, в рамках которого изучаются классы (множества) элементов произвольной природы. Множество при этом понимается как произвольная совокупность определённых и различимых объектов, мысленно объединённых в единое целое и называемых его элементами (см. Множество). Методы теории множеств широко используются во всех областях современной математики и математической логики (см. Логика математическая); они имеют принципиальное значение для вопросов обоснования математики логическими средствами. Однако при обосновании самой теории множеств возникают трудности, не преодолённые и в настоящее время.

Создание теории множеств было подготовлено работами математиков XIX века, ставившими целью разработку оснований анализа. Первые работы в этой области были посвящены числовым множествам и множествам функций (Б. Больцано, Р. Дедекинд). Уже в этих работах ставился вопрос о количественном сравнении бесконечных множеств. Непосредственным основоположником учения о множествах принято считать Г. Кантора, который в 1870 году разработал программу стандартизации математики, где любой математический объект должен был оказываться тем или иным «множеством». Этот подход изложен в двух его статьях, опубликованных в 1879–1897 годах в немецком журнале «Математические анналы» (нем. «Mathematische Annalen»). В 1871–1883 годах Кантор сделал решительный шаг, изучив множества произвольных элементов, и дал почти современное изложение теории кардинальных и ординальных чисел и теории вполне упорядоченных множеств. Он ввёл понятие сравнения двух множеств, опирающееся на понятие взаимно-однозначного их соответствия. Выяснилось, что существует бесконечная шкала неравномощных множеств (например, множество натуральных чисел и множество действительных чисел имеют разные мощности). В отмеченном цикле работ 1871–1883 годах Кантор предложил носящую его имя теорию действительных чисел, доказал счётность множества действительных алгебраических чисел и несчетность континуума, ввёл общее понятие мощности, доказал равномощность континуумов разного числа измерений и высказал континуум-гипотезу; ввёл различные классы точечных множеств, определил операции пересечения и суммирования множеств, провёл различение кардинальных и ординальных чисел и их обобщение на трансфиниты. Наконец, в 1895–1897 годах Кантор дал систематизированное изложение своих трудов и положил теорию множеств в фундамент всей математики.

В теории Кантора понятие множества не определяется, а лишь поясняется на примерах (множество всех чётных натуральных чисел, множество всех натуральных решений данного алгебраического уравнения и так далее). Множество считается заданным, если указано характеристическое свойство его элементов. Основное отношение — принадлежность одного множества другому. Общность понятия «множество» дала возможность применять его в любой математической области, и практически вся математика использует язык теории множеств. Однако самому Кантору шаг обобщения дался трудно, и его идеи были встречены современниками по-разному: Р. Дедекинд и Д. Гилберт признали особое значение теории множеств, в то время как Л. Кронекер был её убеждённым противником. Широкое признание учение Кантора получило в 1897 году на Первом Международном Конгрессе математиков в Цюрихе. Однако в это же время в теории множеств обнаружились противоречия, открытие которых затронуло всё основание математики. Кризис этот продолжается и в настоящее время.

Кантор развил определённую технику оперирования с актуально бесконечными множествами и построил определённый аналог понятия количества для бесконечных множеств. Основой этой техники служит понятие взаимно-однозначного соответствия между элементами двух множеств. Говорят, что элементы двух множеств можно поставить во взаимно-однозначное соответствие, если каждому элементу первого множества можно поставить в соответствие элемент второго множества, разным — разные, и при этом каждый элемент второго множества будет соответствовать какому-то элементу первого. Про такие множества говорят, что они эквивалентны, что они имеют одинаковую мощность, или одинаковое кардинальное число. Если же можно доказать, что элементы множества А можно поставить во взаимно-однозначное соответствие с элементами подмножества B¹ множества B, а элементы множества B нельзя поставить во взаимно-однозначное соответствие с элементами A, то тогда говорят, что мощность множества B больше мощности множества A. Эти определения применимы и к конечным множествам. В этом случае мощность представляет собой аналог конечных чисел. Но бесконечные множества имеют в этом смысле парадоксальные свойства.

Бесконечное множество оказывается эквивалентным своей части, например так, как это происходит в так называемом «парадоксе Галилея»:

1, 2, 3, 4, … n, …

↑ ↑ ↑ ↑ ↑

2, 4, 6, 8, … 2n, …

Эти парадоксы были известны давно, и именно они, в частности, служили препятствием для рассмотрения актуально бесконечных множеств. То, что здесь просто сказывается специфика актуально бесконечного, объяснял в «Парадоксах бесконечного» Больцано, а Дедекинд считал это свойство актуально бесконечных множеств характеристическим.

Кантор также развил арифметику кардинальных чисел. Суммой двух кардинальных чисел является мощность объединения соответствующих им множеств, произведением — мощность так называемого множества-произведения двух данных множеств и так далее. Наиболее важным оказывается переход от данного множества к множеству-степени, то есть, по определению, к множеству всех подмножеств исходного множества. Кантор доказывает основополагающую для его теории теорему: мощность множества-степени больше мощности исходного множества. Если мощность исходного множества записать через a, то в соответствии с арифметикой кардинальных чисел мощность множества-степени будет 2^a, и мы имеем, следовательно, 2^a a. Значит, переходя от некоторого бесконечного множества, например от множества всех натуральных чисел, имеющего мощность ℵ_α (обозначение Кантора) к множеству всех подмножеств этого множества, к множеству всех подмножеств этого нового множества и так далее, мы будем получать ряд множеств все более возрастающей мощности. Есть ли какой-то предел этому возрастанию? Ответить на этот вопрос можно, только введя в рассмотрение некоторые дополнительные понятия.

Оперировать с бесконечными множествами, лишёнными всякой дополнительной структуры, вообще говоря, невозможно. Поэтому Кантор ввёл в рассмотрение упорядоченные множества, то есть множества, для любых двух элементов которых определено отношение «больше»> (или «меньше» <). Это отношение должно быть транзитивным: из a < b и b <c следует: a <c. Наиболее продуктивным для теории множеств является ещё более узкий класс множеств: вполне упорядоченные множества. Так называются упорядоченные множества, у которых каждое подмножество имеет наименьший элемент. Вполне упорядоченные множества легко сравнивать между собой: они отображаются одно на часть другого с сохранением порядка. Символы вполне упорядоченных множеств, или ординальные (порядковые) числа, также образуют вполне упорядоченное множество, и для них также можно определить арифметические действия: сложение (вычитание), умножение, возведение в степень. Ординальные числа играют для бесконечных множеств роль порядковых чисел, кардинальные — роль количественных. Множество (бесконечное) определённой мощности можно вполне упорядочить бесконечным числом способов, каждому из которых будет соответствовать своё ординальное число. Тем самым каждому кардиналу (Кантор ввёл для обозначения кардиналов «алефы» — первую букву еврейского алфавита с индексами) ℵ_α будет соответствовать бесконечно много ординалов:

0 1 2 … ω₀, ω₀ + 1 … ω₁… ω₂ … ω_n … ω_{ω 0} … Ω (ординалы).

0 1 2 … ℵ₀ … ℵ₁ … ℵ₂ ℵ_n … ℵ _{ω 0} … τ («тау-кардиналы»).

Согласно теоремам теории множеств, любой «отрезок» шкалы Ω ординальных чисел, сам как множество вполне упорядоченное, будет иметь больший ординал, чем все заключённые в этом отрезке. Отсюда вытекает, что невозможно рассматривать все Ω как множество, так как в противном случае Ω имело бы своим ординалом β, которое больше всех ординалов в Ω, но поскольку последнее содержит все ординалы, то есть и β, то было бы: β > β (парадокс Бурали — Форти, 1897). Кантор стремился обойти этот парадокс введением (с 1880-х годов) понятия консистентноссти. Не любая множественность (Vielheit) есть множество (Menge). Множественность называется консистентной, или множеством, если её можно рассматривать, как законченное целое. Если же допущение «совместного бытия» всех элементов множественности ведёт к противоречию, то множественность оказывается неконсистентной, и её, нельзя рассматривать в теории множеств. Такими неконсистентными множествами оказываются, в частности, Ω — множество всех ординальных чисел и τ («тау») — множество всех кардиналов («алефов»). Тем самым снова происходит возврат к бесконечности как к процессу. Как пишет математик XX века П. Вопенка: «Теория множеств, усилия которой были направлены на актуализацию потенциальной бесконечности, оказалась неспособной потенциальность устранить, а только смогла переместить её в более высокую сферу» (Вопенка П. Математика в альтернативной теории множеств. — «Новое в зарубежной науке. Математика», 1983, № 31, с. 124.) Это не смущало, однако, самого Кантора. Он считал, что шкала «алефов» поднимается до бесконечности самого Бога и поэтому то, что последняя оказывается математически невыразимой, было для него само собой разумеющимся: «Я никогда не исходил из какого-либо «Genus supremum» актуальной бесконечности. Совсем наоборот, я строго доказал абсолютное несуществование «Genus supremum» для актуальной бесконечности. То, что превосходит все бесконечное и трансфинитное, не есть «Genus»; это есть единственное, в высшей степени индивидуальное единство, в которое включено все, которое включает «Абсолютное», непостижимое для человеческого понимания. Это есть «Actus Purissimus», которое многими называется Богом» (Meschkowski H. Zwei Unveroffentlichte Briefe Georg Cantors. — «Der Mathematilkuntemcht», 1971, № 4, S. 30–34).

С 90-х годов XIX века начинается широкое обсуждение парадоксов теории множеств Кантора. Кроме указанного парадокса Бурали — Форти существует парадокс Б. Рассела, вскрывающий сложную логическую природу понятия бесконечного множества. Анализируя канторовскую теорему о множестве-степени, Рассел выделил понятие «множества, которое не является элементом самого себя». Например, множество всех множеств не будет таковым, а множество натуральных чисел — будет. Однако в отношении множества всех множеств, не являющихся элементами самого себя, мы уже не можем решить, будет ли оно обладать свойством не являться своим элементом или нет. Оба ответа ведут к противоречию. Подобные размышления привели Рассела к выделению предикативных и непредикативных свойств множеств, и построению так называемой теории типов, которую он развивал совместно с А. Н. Уайтхедом. Можно привести также формулировку парадокса Банаха — Тарского, который хотя и не относится непосредственно к теории множеств, но характеризует ту математику, которая вытекает из этой теории. Парадокс формулируется так: можно разбить шар на конечное число частей, которые можно переставить так, что получатся два шара такого же размера, как и исходный шар.

Теория множеств оказалась естественным языком для решения стоявшей веками задачи арифметизации континуума. Во второй половине XIX века было предложено несколько арифметических конструкций действительных чисел (К. Вейерштрасс, Р. Дедекинд, Г. Кантор). Мощность получающихся числовых моделей континуума оказывалась равна 2^ℵ0. Кантор предположил, что 2^ℵ0 = ℵ₁ — наименьшая из мощностей, больших ℵ₀ — мощности множества натуральных чисел: {1, 2, 3, …}. Это утверждение и называется континуум-гипотезой. Но несмотря на пламенную веру Кантора в истинность этого результата, ни ему, ни последующим математикам не удалось доказать этого факта. Более того, в 1963 году П. Коэн доказал, что континуум-гипотеза независима от системы аксиом теории множеств Цермело — Фрэнкеля. Другими словами, континуум-гипотеза не может быть ни доказана, ни опровергнута в теории, опирающейся на эту систему аксиом. Философский смысл этих результатов в том, что если мощность континуума равна какому-то «алефу», (не обязательно № 1, то есть обобщённая континуум-гипотеза), то континуум «конструируется из точек». Сам же Коэн считал, что континуум-гипотеза скорее всего не верна, что континуум «рассматривается как невероятно большое множество, которое дано нам какой-то смелой новой аксиомой и к которому нельзя приблизиться путём какого бы то ни было постепенного процесса построения» (Коэн П. Теория множеств и континуум-гипотеза. — М., 1969, с. 282).

Другой классической проблемой теории множеств является аксиома выбора. Она формулируется следующим образом: дано некоторое, вообще говоря, бесконечное множество множеств. Существует функция, ставящая в соответствие каждому множеству один его элемент (выбирающая из каждого множества по элементу). Несмотря на простоту формулировки аксиомы выбора, трудно представить, как бы можно было её доказать. В то же время от этой аксиомы зависит большое множество теорем анализа, а в самой теории множеств — доказательство фундаментальной теоремы Э. Цермело о возможности сравнения мощностей различных множеств. Благодаря работам К. Гёделя (1939) и П. Коэна (1963) было установлено, что аксиома выбора независима от корпуса других аксиом теории множеств Цермело — Фрэнкеля. Вместо аксиомы выбора были предложены альтернативные аксиомы, например аксиома детерминированности. При изменении аксиом теории множеств, естественно, меняется и характер математики, построенной на базе этой теории множеств.

Таким образом, из-за указанных противоречий «наивная» теория множеств, то есть в том виде, как её создал Кантор, не может быть использована в полном объёме. С одной стороны, несмотря на противоречивость, ей продолжали пользоваться в различных областях математики (как языком, удобным для изложения предмета). С другой стороны, необходимо было исправить существующее положение дел. Были предложены различные выходы из создавшейся ситуации, но их пришлось признать в конечном итоге неудовлетворительными. Кратко эти попытки «ремонта» теории множеств резюмируются в характеристике трёх основных направлений, сложившихся в основаниях математики: логицизма (см. Логицизм), интуиционизма (см. Интуиционизм) и формализма (см. Формализм).

С точки зрения логицизма математика — это область логики. Это подразумевает, что определения и теоремы математики следует давать и доказывать в терминах логических понятий. Приспосабливая логицистическое построение математики к открытиям противоречий, Рассел с помощью разветвлённой теории типов исключил непредикативные определения. Однако Рассел не смог обойтись без аксиомы сводимости, утверждающей, что для каждого ненулевого свойства высшего порядка найдётся равнообъёмное свойство порядка ноль. К числу наиболее современных работ относится работа У. Куайна, предложившего бестиповую аксиоматическую систему теории множеств (конечно-аксиоматизируемую) с ограничением на схему аксиом свёртывания ∃x ∀ y (y ∊ x ⇔ φ(y), где φ — стратифицируемая формула, то есть формула, получающаяся из формулы языка теории типов «стиранием» типов (в системе Куайна существует, например, множество всех множеств). Логицизм не смог конструктивным путём достичь своей цели.

В интуиционистской математике Л. Э. Я. Брауэр ограничил использование закона исключённого третьего (см. Закон исключённого третьего), и ввёл новую трактовку логических связок и кванторов. Была построена новая математика, включая теорию континуума. Однако эта другая математика в корне отличалась от той, которая развивалась в течение почти трёх тысяч лет. Этот путь также оказался далёк от решения вопроса обоснования математики.

Наконец, выход был предложен Д. Гилбертом в виде «финитной установки», однако и этот путь оказался неудовлетворительным. Тем не менее, именно на этом пути были сделаны, может быть, самые плодотворные и приемлемые для большинства математиков попытки преодолеть кризис. В 1904–1908 годах Э. Цермело предложил первую систему аксиом, которой оказалось достаточно, чтобы получить все важные для математики результаты и в которой не получалось ни одно из известных противоречий. В настоящее время существуют несколько общепринятых систем аксиоматической теории множеств, из которых наиболее известной является система Цермело — Фрэнкеля. К последней часто добавляют аксиому выбора, которая носит крайне неконструктивный характер и утверждает существование функции выбора для любого семейства непустых попарно дизъюнктных множеств (формулировка впервые дана Цермело в 1904 году, и он использовал аксиому выбора для доказательства теоремы о возможности вполне упорядочения любого множества). Попытки доказать или опровергнуть аксиому выбора в рамках системы Цермело — Фрэнкеля оказались тщетными (в 1940 году К. Гёдель доказал, что аксиома выбора совместна с этой системой при условии непротиворечивости последней), а в 1963 году П. Дж. Коэн доказал совместность отрицания аксиомы выбора с системой (при том же условии непротиворечивости последней). Таким образом, одной из попыток выхода из кризиса явилось создание аксиоматической теории множеств, которая занимается изучением фрагментов «наивной» теории множеств, применяя методы математической логики. Для ряда существующих систем аксиоматической теории множеств характерно ограничение схемы аксиом свёртывания так, чтобы избежать возникновения противоречий. Это системы Цермело и Цермело — Фрэнкеля. Другой ряд систем характеризуется тем, что в них противоречия устраняются как следствия непредикативных определений. Пример — теория типов Рассела.

Наконец, ряд систем преследуют специфические цели (конечность числа аксиом, нестандартные логические средства вывода и так далее). Это системы Неймана — Гёделя — Бернайса, У. Куайна и появившиеся за последние десятилетия системы, основанные на неклассических логиках (см. Логики неклассические), в первую очередь — на интуиционистской логике (см. Логика интуиционистская).

Аксиоматический подход позволил решить ряд вопросов о соотношении различных аксиоматических систем теории множеств, придать точный смысл вопросам неразрешимости ряда математических проблем (континуум-проблемы, в частности), решить некоторые трудные классические проблемы топологии, теории кардинальных и ординальных чисел. Тем не менее, вопрос о непротиворечивости всех этих систем остаётся открытым.

Тесная связь между теорией множеств и философией математики породила много вопросов о природе противоречий и аксиоматизации этой теории. Во взглядах на то, как можно было бы удовлетворительно обосновать теорию множеств, имеются большие расхождения. Но подавляющее число математиков продолжают с успехом применять понятия, методы и результаты этой теории в большинстве разделов математики и твёрдо верят в то, что усилия по устранению противоречий приведут к её реабилитации. «Эта позиция отнюдь не исключает готовности интерпретировать теорию множеств совсем не так, как это обычно делается, что соответствует, очевидно, существующей потребности в пересмотре интерпретации логики и математики вообще» (Фрэнкель А., Бар-Хиллел И. Основания теории множеств. — М., 1966, с. 416).