A halmazelmélet története a matematika történetének egy kiemelkedő fejezete. A halmazelmélet kialakulása nem csak egy matematikai elmélet kifejlődését jelenti, hanem egy olyan korszakot, amikor a matematikai szigorúság a mai fokát érte el. A modern matematika a huszadik század elejétől kezdve elképzelhetetlen a halmazelméleti fogalmak és módszerek használata nélkül.
Előzmények Problémák a valós számok és függvények elméletében
A halmazelmélet megalkotásának indítéka a 19. század végi matematika azon törekvése volt, hogy a matematikai analízisben olyan nagy szerepet játszó valós szám és irracionális szám fogalmak a lehető legjobban meghatározott, matematikai eszközökkel jól körülbástyázott fogalmak legyenek. Ezt a matematikában kicsit is járatosak számára ma már nyilvánvalónak tűnő, de valójában nem is olyan magától értetődő követelményt azért fogadták el, mert a valós számok és függvények egyre több gondot okoztak és vitát keltettek. Ezek a problémák sokszor összefüggőnek látszottak, s legtöbbjük valamilyen kapcsolatban volt a végtelen fogalmának ősi problematikájával. A főbb problémák közé tartozik az irracionális számok definiálásának kérdése, a függvény (Eulerhez és korához) köthető felfogásának olyan újragondolása, amely alkalmassá teszi a fogalmat a modern soranalízis, illetve Fourier-analízis kezelésére – ez az elmélet a fizikai rezgő húr leírásából keletkezett – valamint a valós függvények differenciálhányadosának a sok kritikában részesült „végtelen kis mennyiségektől” mentes elméletének megalkotására, továbbá a divergens végtelen sorok elméletében felmerült ellentmondások kiküszöbölése. Akadtak más paradoxonok is (ezek motiváló hatása azonban kevéssé feltárt, illetve bizonyított). Zénón paradoxonjai ősidők óta talányokat okoztak a végtelen fogalmát használó filozófusoknak; azt pedig már Galileo Galilei is felfedezte, hogy a természetes számok és a négyzetszámok egy-egyértelműen megfeleltethetőek egymásnak, tehát Euklidesz részről és egészről szóló alapvető geometriai axiómájának érvényessége („az egész nagyobb a részénél”) már a természetes számok „diszkréten végtelen” sokaságára is megkérdőjelezhető.
A szigorúság forradalma
Fő szócikk: A szigorúság forradalma
Bár a halmazelméletet végül is a valós analízis rendbehozásának igénye szülte, a matematika fogalmainak és tételeinek kritikai revíziója iránti igény az 1800-as évek elejétől kezdődően a matematikai kutatások egyre erősödő áramlatává vált. Ez nemcsak a valós analízisen belül, hanem más tudományágakban is jelentkezett (illetőleg ezek kialakulásának fontos formáló erejévé vált), mint például a szintetikus geometria, a topológia, a matematikai logika. Ezen ágak problémái, ahogyan a megoldásukra irányuló kutatások is, sokszor váratlan módon fonódtak össze.
Az analízis fogalmainak és tételeinek vizsgálatát A. L. Cauchy, B. Bolzano és K. Weierstrass indította el az 1800-as évek első évtizedeiben. Sikerült olyan alapvető topológiai fogalmakat megszabadítani a végtelennel kapcsolatos ellentmondásoktól és vitáktól, mint például a határérték vagy a folytonosság; vagy a végtelen matematikai alkalmazásai; ezek nagyfokú aritmetizálásával. Ám az is kiderült, hogy az ilyesfajta fogalmak a kulcsai az irracionális számok definiálhatóságának, s ezért maguknak a valós számoknak a fogalmát is revízió alá vonták.
Ez már (bár például Bolzano és Weierstrass is foglalkozott a problémávalWeierstrass például megjegyezte, hogy önhivatkozó az irracionális számok valós számsorozatok határértékeként való definiálása, mivel a valós számok közt az irracionálisak is ott vannak.) egy másik nemzedék alapvető feladata lett: Georg Cantor és Richard Dedekind jártak benne az élen, valamint más kutatók, akik alapvető célként nem a valós analízis, hanem a matematikai logika és az aritmetika „rendbetételét” tűzték ki céljukul, mint Gottlob Frege és Bertrand Russell. Nevük mégis összefonódott, mert mindannyian a halmazhoz hasonló fogalmakra, a halmazelméletre vagy a hozzá hasonló matematikával rendelkező logikai módszerekre alapoztak (a halmazelmélet legtöbb fogalmának egy az egyben megvan a logikai megfelelője), s így mind belebonyolódtak az általuk felépített új matematika azon ellentmondásaiba, amiket többnyire még maguk fedeztek fel (a leghíresebb ilyen Russell antinómiája). E „második nemzedék” tagjainak sorsa általában abban is közös, hogy évtizedekig küzdeniük kellett a meg nem értéssel: a támadásokkal, vagy agyonhallgatással.
A huszadik század első évtizedeire azonban „eljött az ő idejük”, s eredményeik hatására sokan gondolták úgy, hogy ha sem az aritmetika (illetőleg az ennél bővebb analízis), sem a geometria évezredes tételeiben nem lehetünk biztosak, akkor ildomos lenne az egész matematika legvégső alapjait is megvizsgálni és újragondolni, sőt a matematikának vitáktól és problémáktól mentes megalapozását adni (fundacionalizmus).
Még Leibnizre vezethető vissza az a nézet, hogy a matematika részben vagy egészben a logika része (logicizmus), amelynek fő képviselői épp Frege és Russell voltak. Mindketten megpróbálták az egész matematika újraaxiomatizálását, bár nem a halmazelméletre, hanem a matematikai logikára építettek. A századforduló környékén, noha logicista nézeteiket ellenezték, sokan csatlakoztak a matematika „megtisztítására” irányuló munkásságukhoz, így például az azelőtt a geometria megalapozásával is foglalkozó Hilbert, aki a logicizmus helyett a finitizmus képviselője volt, vagy a topológus L. E. J. Brouwer és intuicionista követői. A huszadik század végéig egy sereg matematikus vagy filozófus tette hozzá a magáét ezen problémák megoldásához, például Alfred Tarski, Alonzo Church, Ernst Zermelo, Neumann János és még rengetegen.
A halmazelmélet születése Az első lépések
A halmazelmélet a tizenkilencedik század elejétől kezdve már ugyanúgy a „levegőben lógott”, ahogyan a nemeuklideszi geometria. Ezt bizonyítja, hogy néhány alapgondolatát – a nemeuklideszi geometriával analóg módon – tulajdonképp már megszületésük előtt felfedezték, csak éppen nem matematikai eredményekként, hanem elvetendő paradoxonként tartották őket számon; valamint az is, hogy több kutató egymástól függetlenül alkotta meg, csak más elnevezésekkel, gyakorlatilag ugyanazokat a fogalmakat (a számosságazonosság fogalma például Bolzanónál, Dedekindnél, Cantornál és Fregénél is ugyanarra az alapelvre, a bijektív leképezés létezésére épül; a „végtelen halmaz” mint ami definíció szerint egy valódi részhalmazára bijektálható, szintén megjelenik Bolzanonál, Dedekindnél és Cantornál is stb.).
bélyegkép|100px|jobbra|Bolzano, a „halmaz” fogalom szülőatyja
A végtelen halmazok általános tudománya már „majdnem” világra jött 1851-ben. Ekkor jelent meg B. Bolzano cseh matematikus végtelennel kapcsolatos ellentmondásokról szóló Paradoxien des Unendlichen című könyve, bár egy tanítványa adta ki (a szerző már három éve halott volt). E kötetben található a halmaz (ném. Menge) szó első mai matematikai értelméhez hasonlatos megjelenése, és ebben sikerült olyan halmazokra példát adnia, amelyek kölcsönösen egyértelműen megfeleltethetőek valamely valódi részhalmazukkal. A végtelen fogalmának tárgyalása során Bolzano sok Cantor későbbi megállapításait visszhangzó eredményre jutott. Ám Bolzano visszariadt paradoxnak érzett eredményeitől – a rész és egész viszonyáról szóló euklideszi axióma megsértését nem tudta elfogadni – és így arra a következtetésre jutott, hogy a matematikába az aktuális végtelen nem engedhető be. Lehangoló eredményei miatt munkáját ő maga nem is adta ki, pedig halála előtt egy évvel befejezte (1847-ben).Máté András: „Egy matematikafilozófiai bevezető ”. Oktatási segédanyag (Word dokumentum).
bélyegkép|120px|jobbra|Richard Dedekind, számos nehéz fogalmat sikerült definiálnia
A következő lépéseket két fiatal kutató tette meg, akik a 19. század utolsó évtizedeiben magán a fogalmak szigorúbb definícióján túlmutató jelentőségű eredményeket értek el a valós számok elméletében. Richard Dedekind egy 1872-ben kiadott értekezésében (Folytonosság és az irracionális számok) bebizonyította, hogy a racionális és irracionális számok mindenhol sűrűn helyezkednek el a valós számok között, azaz minden intervallumban van akár irracionális, akár racionális szám; bevezette továbbá az irracionális számok definiálására az ún. „szeletek” fogalmát.I. W. R. Dedekind: Stetigkeit und irrationale Zahlen , Braunschweig, 1872. Dedekind sok munkájában alapfogalomként épített az ún. „rendszer”-ekre, ezek gyakorlatilag a halmazokkal azonosak. Georg Cantor pedig azt bizonyította be, hogy a valós számok halmaza nem lehet megszámlálhatóan végtelen (a Cantor-tétel egy speciális esete, melyet az átlós eljárással igazolt).
Cantor cikkének 1874-es publikálását tekinthetjük a halmazelmélet megszületésének. A Cantor-féle (ún. naiv vagy intuitív) halmazelmélet fogalmait, illetve hasonló fogalmakat már ekkor használta a Cantorral szoros munkakapcsolatban lévő Dedekind és a tőlük függetlenül dolgozó (bár munkásságukat jól ismerő) matematikai logikai vizsgálatokat végező Gottlob Frege. A halmazelmélet ezen úttörői a részletekben ugyan általában gyakran eltértek egymástól, sőt nem is mindenben értettek egyet, az új szigorúság követelményét és a valamilyen sokaságfogalomra alapozást mint munkájuk egyik alapparadigmáját azonban egyaránt elfogadták.
A halmazelmélet kezdeti sikerei mellett két párhuzamos folyamatban is a kritikák kereszttüzébe jutott. Használói forradalmi topológiai felfedezéseket tettek, teljesen átalakítva a valós függvényekről és a két- ill. többdimenziós tér szerkezetéről addig közkeletű képet. Ez azonban csak a matematika egy nagyon fontos, de körülhatárolható szeletét érintette, és a kritikák nem az egész megalapozási elv, hanem csak a halmazelmélet használata ellen irányultak. Lassabb folyamat volt azon ellentmondások felfedezése és megoldása, amelyek az egész matematikát romba dőléssel fenyegették, és a megalapozási paradigma minden ismert formáját megkérdőjelezték.
Megdöbbentő topológiai eredmények
A matematikusok többsége a nemeuklideszi geometriák súlyos megrázkódtatást jelentő és sokszor a személyeskedéstől sem mentes vitákat kiváltóLd. például Tóth Imre: Palimpszeszt. Typotex, Bp., 2001. felfedezéséig és elfogadásáig nem tulajdonítottak túl nagy jelentőséget a számfogalom megalapozásának, és a folytonos függvények elmélete nagyrészt továbbra is hagyatkozott a – most már irracionális számokkal „bővített” – számegyenes folytonosságának szemléletére. A nemeuklideszi geometriák felfedezése ugyan sokak számára egyértelmű volt annak az évezredes euklideszi, de például Immanuel Kant tekintélyének is köszönhetően erős hagyománynak a megdőlésével, miszerint a geometria axiómái a valóságot leíró, abszolút igaz állítások. Mégis, ha ez a geométerek, illetve a filozófusok afféle belügye maradt volna, talán sosem tértek volna el végleg a geometriai szemléletre való hagyatkozástól, és megelégedtek volna Cauchy és Weierstrass elterjedt újításaival, miszerint a szemléletes geometriai sejtések az aritmetika formulanyelvére hagyatkozva egzakttá alakíthatóak. Ezt mutatja éppenséggel a fundacionalizmus képviselőinek munkásságával szembeni nagyfokú kezdeti érdektelenség vagy ellenállás is.
De hamarosan megmutatkozott, hogy ha a szintetikus geometria végtelen számosságú objektumokról szóló, de ettől eltekintve általában finit módon kezelhető állításain túllépünk, és az eddig jobbára a függvényekre és számokra alkalmazott transzfinit módszereket a geometriára is elkezdjük alkalmazni, akkor a megszokott szemlélettől és a sokak által várttól eléggé eltérő „igazságokra” is juthatunk. Így aztán a legújabb topológiai eredmények a matematikusok körében a nemeuklideszi geometriák felfedezéséhez hasonlóan megrázónak bizonyultak, bár az ezzel kapcsolatos viták, ideológiai vonatkozásaik csekélyebb volta miatt, jobbára megmaradtak a tudományos és filozófiai vélemények kifejtése átlagos stílusának szintjén.