Інститут математики НАН України — науково-дослідний інститут в структурі Національної академії наук України.

З історії інституту Заснований 13 лютого 1934 року, директором Інституту математики було призначено Д. О. Граве.

Період становлення охоплює період з 1934 до 1944 року — директорами Інституту математики були Д. О. Граве (1934—1939 рр.), М. О. Лаврентьєв (1939—1941 рр.) та Г. В. Пфейффер (1941—1944 рр.). Кадровий склад науковців в цей період включав: академіки Д. О. Граве, М. П. Кравчук, Г. В. Пфейффер, М. О. Лаврентьєв, члени-кореспонденти Н. І. Ахієзер, В. Є. Дяченко, М. Г. Крейн, М. Х. Орлов, Є. Я. Ремез, Ю. Д. Соколов, І. Я. Штаєрман. Протягом 1935—1936 років наукові ступені доктора фізико-математичних наук без захисту докторської дисертації присуджено Н. І. Ахієзеру, Є. Я. Ремезу, Ю. Д. Соколову, І. Я. Штаєрману. Ще раніше, в 1930 році, науковий ступінь доктора фізико-математичних наук було присуджено М. М. Боголюбову, а в 1938 році — М. Г. Крейну (також без захисту докторських дисертацій).

Діяльність інституту в цей період була спрямована на наукові дослідження в галузі алгебри та теорії чисел, математичного і функціонального аналізу, теорії інтегральних і диференціальних рівнянь, теорії ймовірностей та математичної статистики, теорії функцій, прикладної математики і механіки.

Значних втрат у 1930-ті роки зазнала Академія наук, у тому числі й Інститут математики. Протягом 1936–1937 рр. було розстріляно вченого секретаря інституту члена-кореспондента М. Х. Орлова, наукового співробітника відділу математичної статистики проф. В. І. Можара, заарештовано ряд науковців інституту. У 1938 році академіка М. П. Кравчука було засуджено і заслано на Колиму, де він і помер у 1942 році.

У 1939 році Інститут реорганізовано: замість 3 наукових підрозділів було створено 6 наукових відділів: теорії функцій комплексної змінної та її застосувань (керівник М. О. Лаврентьєв), математичного аналізу (Г. В. Пфейффер), механіки (Ю. Д. Соколов), прикладної математики (І. Я. Штаєрман), алгебри та функціонального аналізу (М. Г. Крейн) Львівський відділ функціонального аналізу Інституту математики (С. Банах), в якому розроблялись основи функціонального аналізу (С. Банах, С. Мазур, В. Орліч, Ю. Шаудер).

У цей період М. О. Лаврентьєв отримав істотні результати в гідродинаміці та в теорії квазіконформних відображень, розробив наближені методи розрахунку фільтрації в неоднорідному середовищі.

У 1941 році Інститут математики було об'єднано з Інститутом фізики і евакуйовано до м. Уфи. У спільному інституті залишалося лише 29 співробітників. У воєнний період основна увага приділялась виконанню урядових завдань щодо забезпечення обороноздатності країни.

У травні 1943 року об'єднаний інститут переїхав до Москви, а восени 1944 року повернувся до Києва, де було відновлено статус Інституту математики АН України.

Повоєнне відновлення (1945–1959 рр.)

Керівниками Інституту математики у цей період були: М. О. Лаврентьєв (з 1945), О. Ю. Ішлінський (1948–1955 рр.) та Б. В. Гнєденко (1955–1958 рр.).

Тематика Інституту в цей період включала: дослідження з конформних та квазіконформних відображень, спектральної теорії операторів, нелінійних задач математичної фізики, якісної теорії диференціальних рівнянь, розробки методів апроксимації функцій та з механіки суцільного середовища, вивчення ефектів вибуху.

У 1946 році за розробку варіаційно-геометричного методу розв'язування нелінійних задач теорії диференціальних рівнянь із частинними похідними, які мають важливе значення для гідро- і аеромеханіки, М. О. Лаврентьєву було присуджено Державну премію СРСР, а в 1949 році він був вдруге удостоєний Державної премії СРСР за дослідження в галузі гідромеханіки.

У 1945–1949 рр. М. М. Боголюбов спільно з М. М. Криловим розв'язав складні проблеми теорії нелінійних коливань, створив метод усереднення, одночастотний метод та метод інтегральних многовидів і отримав фундаментальні результати в теорії майже періодичних функцій та метричній теорії динамічних систем. У 1947 році наукові результати М. М. Боголюбова цього періоду відзначено Державною премією СРСР.

У цей же період М. М. Боголюбов виконав роботи, присвячені питанням статистичної механіки класичних та квантових систем, розвитку методів побудови розв'язків рівнянь для функцій розподілу та виведенню кінетичних рівнянь, методу наближеного вторинного квантування. У 1947 році було створено мікроскопічну теорію надплинності. На цій основі згодом було побудовано послідовну мікроскопічну теорію надпровідності та надплинності ядерної матерії.

Інститут структурно перебудовувався відповідно до актуальних проблем, які становили основу програми його досліджень. Так у 1949 р. до складу інституту входило 7 відділів: теорії функцій комплексної змінної (керівник М. О. Лаврентьєв), алгебри і функціонального аналізу (М. Г. Крейн), асимптотичних методів і теорії ймовірностей (М. М. Боголюбов), прикладної математики (О. Ю. Ішлінський), механіки (Ю. Д. Соколов), Львівський відділ теорії ймовірностей (Б. В. Гнєденко), Львівський відділ математичної теорії пружності (Г. М. Савін).

Згодом були створені: лабораторія обчислювальної математики і техніки (Б. В. Гнєденко) лабораторія моделювання вищої нервової діяльності (М. М. Амосов).

У 1949–1958 рр. було отримано фундаментальні результати з подальшого розвитку асимптотичних методів нелінійної механіки, а саме: теорії нестаціонарних коливних процесів, одночастотного методу і методу інтегральних многовидів (Ю. О. Митропольський); асимптотичних і операційних методів у теорії лінійних рівнянь із повільно змінними коефіцієнтами (М. З. Штокало, І. М. Рапопорт, С. Ф. Фещенко); математичних методів сучасної квантової теорії поля і елементарних частинок (О. С. Парасюк); теорії банахових алгебр та їх застосувань, геометрії банахових просторів, теорії розширень симетричних операторів, теорії цілих операторів, спектральної теорії диференціальних операторів, проблеми моментів, теорії розкладів за власними векторами самоспряжених операторів, теорії операторів у просторах з індефінітною метрикою, нормованих алгебр (М. Г. Крейн, Г. Є. Шилов, М. О. Красносельський, С. Г. Крейн, Ю. М. Березанський); аналітичної теорії диференціальних рівнянь та її застосувань до задач небесної механіки (Ю. Д. Соколов); теорії квазіконформних відображень та їх застосувань до задач фільтрації (П. Ф. Фільчаков); закладено основи загальної теорії крайових задач для лінійних систем еліптичного типу (Я. Б. Лопатинський); розроблено методи аналізу статистичних критеріїв та випадкових блукань із границями (В. С. Королюк, К. Л. Ющенко, В. С. Михалевич), розроблено теорію нільпотентних топологічних груп (В. М. Глушков).

У 1952 році за дослідження з питань концентрації напруження навколо отворів Г. М. Савін був удостоєний Державної премії СРСР.

Дослідження у галузі обчислювальної математики та математичного моделювання і створення обчислювальних машин дали непересічний результат — у 1956 році в лабораторії обчислювальної математики і техніки під керівництвом Б. В. Гнєденка розпочато роботу зі створення універсальної обчислювальної машини «Київ», що завершилася під керівництвом В. М. Глушкова у створеному на базі цієї лабораторії Обчислювальному центрі. У 1962 році Обчислювальний центр було перетворено на Інститут кібернетики.

Розвиток інституту (1960—1989 рр.)

У 1958—1988 роках директором Інституту математики був Ю. О. Митропольський, а з 1988 року інститут очолює А. М. Самойленко.

Структура Інституту математики цього періоду включала 9 відділів та 2 лабораторії: відділ математичної фізики (Ю. О. Митропольський), диференціальних рівнянь (Ю. Д. Соколов), функціонального аналізу (О. С. Парасюк), математичного аналізу (Ю. М. Березанський), теорії ймовірностей і математичної статистики (Б. В. Гнєденко), загальної механіки (О. Ю. Ішлінський), математичної теорії пружності (Г. М. Савін), історії математики (Й. З. Штокало), Харківський відділ з геометрії (А. В. Погорєлов), лабораторію обчислювальної математики і техніки (В. М. Глушков) лабораторію вищої нервової діяльності (М. М. Амосов).

Напрямки наукових досліджень цього періоду: теорія нелінійних коливань і математична фізика, теорія диференціальних рівнянь, теорія ймовірностей і математична статистика, функціональний аналіз, теорія функцій, топологія, алгебра, динаміка спеціальних механічних систем, геометрія, обчислювальна математика та історія математики.

У 1962 році за дослідження в галузі механіки М. М. Ситий був удостоєний Ленінської премії.

У теорії диференціальних рівнянь і теорії нелінійних коливань було встановлено загальні закономірності побудови асимптотичних методів нелінійної механіки, розвинуто математичну теорію багаточастотних коливань; подальшого розвитку набув метод усереднення; асимптотичні методи поширено на нові класи рівнянь із частинними похідними, на рівняння із запізненням та інші; на основі теоретико-групового підходу розроблено метод асимптотичного розщеплення диференціальних систем; подальшого розвитку набув метод інтегральних многовидів та метод послідовних замін із прискореною збіжністю ітерацій (Ю. О. Митропольський, А. М. Самойленко, О. Б. Ликова, В. І. Фодчук).

У 1965 році за цикл робіт, присвячений суттєвому розвитку і строгому математичному обґрунтуванню теорії нелінійних коливань, Ю. О. Митропольський був удостоєний Ленінської премії.

У 1970 році за розробку електроінтеграторів ЕГДА і впровадження в практику моделювання методів електрогідродинамічної аналогії П. Ф. Фільчаков і В. Г. Панчишин були удостоєні Державної премії УРСР.

У цей період було обґрунтовано теорію віднімання в квантовій теорії поля і повністю розв'язано проблему регуляризації розбіжних інтегралів, обґрунтовано метод перенормування квантової теорії поля (М. М. Боголюбов, О. С. Парасюк).

Доведено теорему про неможливість побудови аксіоматичної квантової теорії поля з додатним спектром оператора енергії-імпульсу та встановлено критерій голоморфності амплітуд розсіювання за енергією та переданим імпульсом (Д. Я. Петрина).

Важливі результати одержано в теорії динамічних систем та структурній стійкості (О. М. Шарковський).

Розроблено новий метод дослідження групових властивостей диференціальних рівнянь і побудувано багатопараметричні сім'ї точних розв'язків багатовимірних нелінійних рівнянь математичної фізики (В. І. Фущич).

Запропоновано варіаційні методи розв'язування основних крайових задач динаміки обмеженого об'єму ідеальної рідини. Досліджено властивості спектра та власних функцій задачі на власні значення з параметром у граничних умовах, що описує вільні коливання рідини в ємностях довільної геометричної форми (С. Ф. Фещенко, І. О. Луковський, М. Я. Барняк, О. Н. Комаренко).

Створено новий перспективний напрямок — асимптотичне фазове укрупнення випадкових процесів, орієнтованих на дослідження еволюції складних стохастичних систем. Набула розвитку теорія обслуговування і теорія надійності, метод факторизації в граничних задачах для процесів із незалежними приростами, доведено низку граничних теорем для напівмарковських процесів (В. С. Королюк, М. С. Братійчук, І. І. Єжов, А. Ф. Турбін, Д. В. Гусак).

У теорії мультиплікативних стохастичних півгруп побудовано загальну теорію випадкових операторів, отримано значні результати в теорії стохастичних диференціальних рівнянь з узагальненими коефіцієнтами переносу, досліджено операторні стохастичні рівняння і випадкові ряди в нескінченновимірних просторах, доведено загальну ергодичну теорему для марковських процесів (А. В. Скороход, М. І. Портенко, В. М. Шуренков, В. В. Булдигін, Г. П. Буцан).

Нові результати, одержані в теорії лінійних нерівностей, дозволили розв'язати чимало задач оптимізації, економіки та розпізнавання образів (С. М. Черніков).

У термінах диференціальних градуйованих категорій було побудовано загальну теорію матричних задач, розв'язано важливу проблему Бауера — Трелля (А. В. Ройтер, Л. О. Назарова).