A káoszelmélet olyan egyszerű nemlineáris dinamikai rendszerekkel foglalkozik, amelyek viselkedése az őket meghatározó determinisztikus törvényszerűségek ellenére sem jelezhető hosszú időre előre. Az ilyen rendszerek érzékenyek a kezdőfeltételekre (lásd pillangóhatás). A sok összetevőből álló, bonyolult rendszerekről (például légkör, turbulens folyadékáramlás, lemeztektonika, gazdasági folyamatok stb.) régóta ismert, hogy bonyolult lehet a viselkedésük. A káoszelmélet nagy eredménye azonban annak kimutatása, hogy egyszerű, néhány állapotjelzővel leírható determinisztikus rendszerek is mutathatnak összetett, megjósolhatatlan viselkedést. Determinisztikus voltuk ellenére a kaotikus rendszerek állapotjelzői elsősorban statisztikus módszerekkel írhatóak le.
A kaotikus viselkedést mutató rendszerek determinisztikusak, ellentétben a káosz szó hétköznapi jelentésével, ami totális rendetlenséget sugall. Valójában a káosz a viselkedés lokális instabilitásának és a globális keveredésnek az együttese. A viselkedés lokálisan instabil, ha egymáshoz közeli kezdőhelyzetből indítva a rendszert a különbségek gyorsan nőnek. Globális keveredésen azt értjük, hogy tipikus kezdőfeltételekkel indítva hosszú idő alatt az összes lehetséges állapothoz közel kerül a rendszer.
Klasszikusan a káoszelmélet a determinisztikus rendszereket tanulmányozza, de létezik a fizikának egy kvantumkáosz-elméletnek nevezett területe, amely a kvantummechanika törvényeit követő nemdeterminisztikus rendszerekkel foglalkozik.
A kaotikus viselkedés jellemzése Diszkrét és folytonos dinamikai rendszerek thumb|Összetett inga a Csodák palotájában. A gomb segítségével elforgatható inga szabadon hagyva kaotikus mozgást végez Amikor a vizsgált dinamikai rendszert folytonos egyenletek (rendszerint differenciálegyenletek) írják le, a fázistérben görbék jellemzik a rendszer sorsát. Megtehető, hogy ennek a görbének csak azokat a pontjait jegyezzük fel, amelyek a fázistér egy alterébe esnek, vagy csak bizonyos adott időközönként jegyezzük fel a rendszer fázistérbeli helyzetét, állapotát. Előbbi esetben Poincaré-metszetről beszélünk, utóbbi a stroboszkópikus metszet. Ekkor a folytonos pályák helyett egy pontsorozatot kapunk. A pontsorozat egymást követő pontjai között a dinamikai rendszer teremt kapcsolatot, az egyértelműen megadja, hogy egy adott pontból melyik pontba jut a rendszer legközelebb. Ezt a törvényszerűséget Poincaré-leképezésnek illetve stroboszkópikus leképezésnek nevezzük.
Egy példa Poincaré-leképezésre, ha egy inga sebességét feljegyezzük akkor, amikor a függőleges helyzeten áthalad. Mivel az inga nem kaotikus rendszer, ezért mindig ugyanazt a sebességet fogjuk feljegyezni. Kaotikus rendszer esetében azonban, ha például az inga felfüggesztési pontját periodikusan fel-le mozgatjuk (gerjesztett inga), ez a sebesség mindig más lehet. Elkészíthetjük az inga stroboszkópikus leképezését is, ha például csak az inga periódusidejének megfelelő időközönként jegyezzük fel az inga helyzetét és sebességét. Ezek az adatok is mindig ugyanazok lesznek az egyszerű ingánál, de gerjesztett inga esetén szabálytalannak látszó adatsort fogunk kapni. Megmutatható, hogy a Poincaré- illetve stroboszkópikus leképezések pontosan akkor kaotikusak, ha az eredeti folytonos rendszer is az volt. Emiatt elegendő diszkrét dinamikai rendszerekkel foglalkozni, ha a kaotikus viselkedés általános tulajdonságaira, törvényszerűségeire vagyunk kíváncsiak. A diszkrét dinamikai rendszerek egy alkalmasan választott fázistér pontjaihoz valamilyen rögzített szabály szerint ugyanannak a fázistérnek a pontjait rendelik, vagyis a fázisteret önmagára leképezik. A diszkrét dinamikai rendszerek tehát leképezések.
A kaotikus rendszerek legfontosabb jellemzői a következők: szabálytalan mozgás; kis kezdeti eltérések gyorsan megnőnek; szokatlan, bonyolult, de jól meghatározott fázistérbeli geometria.
Ezeket a jellemzőket számszerűsíteni is lehet, a bonyolult viselkedést a topologikus entrópia, a kezdeti eltérések gyors növekedését a Ljapunov-exponens, a szokatlan geometriát a fraktáldimenzió jellemzi. thumb|A közönséges differenciál-egyenletekkel leírható Lorenz-rendszer egy megoldása Topologikus entrópia A topologikus entrópia () a rendszerben levő periodikus pályák számáról ad információt. Kaotikus rendszerekben minél hosszabb periodikus pályákat keresünk, annál többet fogunk találni. A periodikus pályák száma exponenciálisan nő a periódus hosszának növekedésével:
ahol jelöli az hosszúságú periodikus pályák számát, és a topologikus entrópia. Nem kaotikus rendszerek esetében a periodikus pályák száma az exponenciálisnál lassabban nő, ekkor a topologikus entrópia.
Ha a fázistérben kezdőfeltételek egy halmazáról, mondjuk egy kis vonalszakaszról indítunk pályákat, akkor a vonalszakasz hossza exponenciálisan nőni fog, és ennek a növekedésnek a mértékét is a topologikus entrópia írja le:
ahol a vonalszakasz hossza időlépés után. Tehát a topologikus entrópia azt jellemzi, hogy mennyire "terül szét" a kezdőfeltételek egy halmaza a fázistérben, a mozgás bonyolultságának a mérőszáma. A kaotikus viselkedést a fázistérben a topologikus entrópiával jellemezhető nyújtás, valamint a hajtogatás jellemzi: kezdőfeltételek egy összefüggő halmaza rövid idő alatt szálas szerkezetűvé nyúlik, és bonyolult alakúra gyűrődik.
Ljapunov-exponens Kaotikus rendszerekben két tetszőlegesen választott, egymáshoz közeli kezdőhelyzetből indított pálya tipikusan exponenciálisan távolodik egymástól a fázistérben. A távolodás mértékét a lokális Ljapunov-exponens jellemzi:
ahol a két kiválasztott kezdőpontból indított pályák távolsága időlépéssel az indítás után, pedig a lokális Ljapunov-exponens, ami függ attól, hogy honnan választottuk a két kezdőpontot. A lokális Ljapunov-exponensek átlaga a Ljapunov-exponens (), ami a közeli kezdőpontok tipikus távolodási rátáját írja le. Kaotikus rendszerekben a Ljapunov-exponens pozitív, tehát exponenciális a pályák távolodása. Ha a rendszer nem kaotikus, akkor általában a távolodás exponenciálisnál lassabb, vagyis a Ljapunov-exponens nem pozitív.
Ezen a módon a rendszer leggyorsabb tágulásához tartozó Ljapunov exponens határozható meg. Ha a kezdőpontok úgy helyezkednek el, hogy nincs köztük eltérés a leggyorsabb távolodáshoz tartozó irányban, akkor a megfelelő pályák akár közeledhetnek is. Az ilyen kezdőfeltétel-párok tipikusan a második legnagyobb Ljapunov-exponens által megadott rátával közelednek illetve távolodnak. Ha ezeket az irányokat is kiküszöbölve választunk kezdőfeltételeket, akkor megkapható a harmadik legnagyobb Ljapunov-exponens, és így tovább. Annyi Ljapunov-exponens létezik, ahány változóval leírható a rendszer, vagyis ahány dimenziós a fázistér. A kezdőfeltételekre való érzékenységet a legnagyobb Ljapunov-exponens határozza meg.
Fraktáldimenzió Kaotikus disszipatív rendszerekben a mozgás hosszú idő után egy bonyolult geometriájú alakzaton, különös attraktoron zajlik. Kaotikus konzervatív rendszerekben a fázistérben kaotikus tengert találunk, és abban egymás körül hierarchikus rendszerbe foglalt reguláris szigetek vannak. A kaotikus viselkedés tehát bonyolult geometriai struktúrák felbukkanásával jár. Ezt a bonyolult struktúrát a fraktáldimenzióval lehet jellemezni.
Fedjük le a fázistérben keletkező alakzatot azonos méretű "dobozokkal", amelyek oldalainak hossza . Az alakzat lefedéséhez darab doboz kell. A lefedéshez szükséges dobozok száma természetesen függ a dobozok méretétől, ennek az összefüggésnek a matematikai alakja
ahol a dimenzió. Hagyományos alakzatoknál a dimenzió a szokásos értéket veszi fel, például egy négyzetre adódik. A kaotikus rendszerekben felbukkanó különös attraktorok esetében azonban az így definiált dimenzió nem egész szám lesz, ami azt fejezi ki, hogy az alakzat például többet lefed a síkból, mint egy egyszerű görbe, de mégsem fed le teljesen egy területet. Az így definiált dimenzió a fraktáldimenzió. Megjegyezzük, hogy ennél bonyolultabb, általánosabb definíció is létezik a fraktálok meghatározására, de a leggyakoribb esetekben az is ugyanazt a dimenziót adja.
Konzervatív rendszerekben az így definiált dimenziók nem mutatnának fraktáltulajdonságot, a reguláris szigetek úgynevezett kövér fraktált alkotnak.
Természetes eloszlás A bonyolult mozgás, a kezdőfeltételektől való erős függés és a komplikált geometriai alakzatok együttes jellemzésére szolgál a természetes eloszlás. A természetes eloszlás megadja, hogy a tipikus pályák a fázistér egyes pontjaihoz milyen gyakran kerülnek közel. Ez a gyakoriság nem homogén, általában pontról pontra változik, egyes állapotokat "jobban szeret" a rendszer, másokat kevésbé. Disszipatív rendszerek esetén az eloszlás fraktáltulajdonságokat mutat.
Általánosított dimenzió Disszipatív rendszerek esetén megvizsgálható, hogy a természetes eloszlás szerint adott gyakoriságú pontok halmaza milyen fraktáltulajdonságokkal rendelkezik. Ezek alapján minden gyakorisághoz tartozik egy dimenzió, ez az általánosított dimenzió. Például az azonos gyakoriságú pontokból álló halmazok közül a leglátogatottabbnak a fraktáldimenziója az információs dimenzió. Az általánosított dimenziók segítségével definiálhatók általánosított entrópiák is. Ezek közül kitüntetett szerepe van a természetes eloszlás szerint tipikus pályák alapján bevezetett információs entrópiának (vagy Kolmogorov entrópiának).
Összefüggések a jellemzők között A kaotikus viselkedést leíró mennyiségek között alapvető összefüggések vannak. Az egyik ilyen összefüggés a Pesin-reláció, amely az információs entrópia (avagy Kolmogorov-entrópia) és a Ljapunov-exponensek között teremt kapcsolatot:
ahol az információs entrópia, pedig a pozitív Ljapunov-exponensek száma. Tehát az információs entrópia a pozitív Ljapunov-exponensek összege. Ezt az összefüggést a dinamikai rendszerek egy széles osztályára sikerült bebizonyítani.
A másik ismert eredmény a Kaplan-Yorke-összefüggés:
ahol a legnagyobb egész szám, amire teljesül, hogy , és jelölik a Ljapunov-exponenseket csökkenő sorrendben.
Történelem Magnus Gösta Mittag-Leffler ötlete alapján 1887-ben versenyt írtak ki II. Oszkár svéd király 1889-ben esedékes hatvanadik születésnapja alkalmából egy matematika tárgyú cikk megírására. Karl Weierstrass javaslata alapján a kidolgozandó témát négy addig megoldatlan, jelentős probléma közül kellett kiválasztani, ezek egyike a Naprendszer stabilitásának problémája volt. A verseny díja egy aranyérem és 2500 svéd korona volt, amit a francia matematikus Henri Poincaré nyert el dolgozatával. Ebben a dolgozatban bebizonyította, hogy a háromtest-probléma, vagyis a három kicsiny, egymás gravitációs terében mozgó test leírására szolgáló egyenletrendszer nem integrálható, a három test mozgása nemperiodikus pályákhoz vezethet.
Azonban Poincaré eredménye nagyrészt feledésbe merült, csak Neumann János, George David Birkhoff és Eberhard Frederich Ferdinand Hopf ergodelméleti és statisztikus mechanikai munkáiban élt tovább. Az ergodelmélet a statisztikus mechanika alapfeltevését támasztja alá, nevezetesen, hogy egy egyensúlyi rendszer azonos valószínűséggel tartózkodik minden lehetséges (mikro)állapotában.
A második világháború alatt a rádió és a radar nemlineáris áramköreinek leírására használt differenciálegyenletek vizsgálata során Dame Mary Cartwright és John Edensor Littlewood kaotikus viselkedést találtak. Az 1960-as évek közepére Andrej Nyikolajevics Kolmogorov, Vlagyimir Igorevics Arnold és Jürgen Moser megalkotta a Kolmogorov–Arnold–Moser-tételt (KAM-tételt), amely konzervatív rendszerek esetében mutatja meg a kaotikus viselkedés feltételeit. Lassan világossá vált, hogy az addig uralkodó lineáris modellek nem tudnak megmagyarázni bizonyos bonyolult viselkedésfajtákat még viszonylag egyszerű rendszerek esetében sem.