Потокова нестійкість — гіпотетичний механізм утворення планетезималей, за якого опір, що діє на тверді частинки, які обертаються в газовому диску, призводить до їх спонтанної концентрації у згустки, які можуть гравітаційно колапсувати. Малі початкові згустки збільшують орбітальну швидкість газу, уповільнюючи локальний радіальний дрейф, що призводить до їх зростання, оскільки до них приєднуються швидше дрейфуючі ізольовані частинки. Утворюються масивні нитки, які досягають густини, достатньої для гравітаційного колапсу в планетезималі розміром з великі астероїди, минаючи ряд бар'єрів для традиційних механізмів формування планет. Утворення потокових нестійкостей вимагає твердих тіл, які помірно зв'язані з газом, та локального співвідношення твердої речовини до газу, що дорівнює одиниці або більше. Зростання твердих частинок, достатньо великих, щоб стати помірно зв'язаними з газом, більш імовірне поза снігової лінією та в регіонах з обмеженою турбулентністю. Початкова концентрація твердих частинок відносно газу необхідна для достатнього придушення турбулентності, щоб співвідношення твердої речовини до газу досягло більшого за одиницю значення в серединній площині. Було запропоновано широкий спектр механізмів для вибіркового видалення газу або концентрації твердих частиннок. У внутрішній частині Сонячної системи формування потокових нестійкостей вимагає більшої початкової концентрації твердих частинок або зростання твердих частинок до розмірів, більших за хондри.
Контекст Традиційно вважають, що планетезималі та більші тіла формувалися шляхом ієрархічної акреції, тобто великі об'єкти виникали внаслідок зіткнень і злиття менших. Цей процес починається з зіткнень пилинок, спричинених броунівським рухом, у результаті чого утворюються більші агрегати, утримувані силами Ван дер Ваальса. Агрегати осідають до серединної площини диска й, рухаючись через турбулентність газу, злипаються у камінці та більші тіла. Подальші зіткнення і злиття зрештою формують планетезималі діаметром 1–10 км, утримувані власною гравітацією. Зростання найбільших планетезималей прискорюється, оскільки гравітаційне фокусування збільшує їхній ефективний переріз, що спричиняє самоприскорювану акрецію () і формування більших астероїдів. Згодом гравітаційне розсіювання великими тілами збурює відносні рухи, що переводить систему в повільніший режим олігархічної акреції, який завершується утворенням зародків планет. У зовнішній частині Сонячної системи ці зародки виростають настільки, що починають захоплювати газ і формують планети-гіганти. У внутрішній частині їхні орбіти стають нестійкими, що призводить до гігантських зіткнень і формування планет земної групи.
Для цього процесу виявлено низку перешкод, так званих «бар'єрів», спричинених руйнуванням частинок під час зіткнень, радіальним дрейфом частинок і турбулентними збуреннями планетезималей. У міру зростання частинки збільшується час, за який її рух реагує на зміни руху газу в турбулентних вихорах. Тому відносні швидкості частинок і швидкості їхніх зіткнень зростають разом із масою. Для силікатів це призводить до ущільнення пилових агрегатів у тверді частинки, які відскакують замість злипання, що обмежує їхній ріст розмірами хондр — приблизно 1 мм у діаметрі. Крижані тіла можуть не зазнавати впливу цього бар'єра, але їхній ріст може зупинятися на більших розмірах через фрагментацію зі зростанням швидкостей зіткнень. Радіальний дрейф виникає через те, що газ, частково підтримуваний тиском, обертається повільніше за тверді частинки. Тіла, що рухаються в такому газі, втрачають кутовий момент і спіральною траєкторією наближаються до центральної зорі зі швидкістю, що зростає разом з їхнім розміром. На відстані 1 а.о. це створює «метровий бар'єр»: великі тіла швидко втрачаються — іноді менш ніж за ~1000 обертів — і випаровуються, наближаючись до зорі. На більших відстанях ріст крижаних тіл може обмежуватися дрейфом уже на менших розмірах, коли характерний час дрейфу стає коротшим за час росту. Турбулентність у протопланетному диску створює флуктуації густини, які діють на планетезималі й підвищують їхні відносні швидкості. Великі випадкові швидкості можуть руйнувати менші планетезималі й відкладати початок самоприскорюваного росту до моменту, коли їхній радіус досягає близько 100 км.
Існують свідчення, що формування планетезималей могло обійти ці бар'єри поступового ієрархічного росту. У внутрішній частині поясу астероїдів усі астероїди з низьким альбедо, які не належать до жодної сім'ї астероїдів, мають розміри понад 35 км. Зміну нахилу розподілу розмірів астероїдів поблизу 100 км можна відтворити в моделях, якщо припустити, що мінімальний діаметр планетезималей становив 100 км, а менші астероїди є уламками від зіткнень. Подібну зміну нахилу спостерігають і в розподілі за розмірами об'єктів поясу Койпера. Невелика кількість малих кратерів на Плутоні також свідчить, що найбільші об'єкти поясу Койпера формувалися безпосередньо. Крім того, якщо динамічно холодні класичні об'єкти поясу Койпера сформувалися на місці з диска малої маси, на що вказує наявність слабко зв'язаних подвійних систем, то їх навряд чи сформував традиційний механізм. Пилова активність комет свідчить про низьку міцність на розрив, що вказує на їх формування в м'яких умовах — через зіткнення зі швидкостями, близькими до швидкостей вільного падіння.
Опис Потокову нестійкість, яку вперше описали Ендрю Юдін і Джеремі Гудмен, зумовлює різниця в русі газу та твердих частинок у протопланетному диску. Газ ближче до зорі гарячіший і щільніший, що створює градієнт тиску, який частково компенсує гравітацію зорі. Завдяки цьому газ обертається приблизно на 50 м/с повільніше за кеплерівську швидкість на відповідній відстані. Тверді частинки, натомість, не підтримуються градієнтом тиску і за відсутності газу рухалися б із кеплерівською швидкістю. Різниця швидкостей створює зустрічний потік, який змушує тверді частинки втрачати імпульс через аеродинамічний опір і наближатися по спіралі до центральної зорі. Опір також спричиняє зворотну реакцію з боку газу, збільшуючи його швидкість. Коли тверді частинки зосереджуються в газі, ця реакція локально зменшує зустрічний потік, даючи змогу скупченню рухатися швидше й зазнавати меншого радіального дрейфу. Повільніші скупчення наздоганяють поодинокі частинки, що підвищує локальну густину та ще більше зменшує дрейф, запускаючи експоненційне зростання початкових скупчень. У чисельних моделях ці скупчення утворюють масивні волокна (філаменти), які можуть зростати або розсіюватися, зіштовхуватися й зливатися або розпадатися на кілька структур. Відстань між філаментами в середньому становить 0,2 зведеної висоти газу, тобто приблизно 0,02 а.о. на відстані поясу астероїдів. Густина філаментів може перевищувати густину газу більш ніж у тисячу разів, чого достатньо для запуску гравітаційного колапсу та фрагментації на зв'язані скупчення.
Скупчення стискаються внаслідок втрати енергії через газовий опір і непружні зіткнення, що приводить до формування планетезималей розміром із великі астероїди. Під час колапсу менших скупчень, що утворюють астероїди діаметром 1–10 км, швидкості зіткнень залишаються обмеженими, тому частинки менше руйнуються і формуються пористі планетезималі типу «купи щебеню» (хондрити) з низькою густиною. Газовий опір уповільнює падіння найдрібніших частинок, а рідші зіткнення — найбільших, що спричиняє сортування за розмірами: частинки середнього розміру формують пористе ядро, тоді як суміш різних розмірів утворює щільніші зовнішні шари. Із зростанням маси скупчень збільшуються швидкості зіткнень і ступінь фрагментації частинок, що зменшує пористість і підвищує густину більших об'єктів, таких як астероїди діаметром близько 100 км, сформовані з суміші каменів та їх уламків. Колапсуючі рої з надлишком кутового моменту можуть фрагментуватися, утворюючи подвійні або інколи потрійні системи, подібні до об'єктів поясу Койпера. У чисельних моделях початковий розподіл мас планетезималей, сформованих через потокову нестійкість, описується степеневим законом: dn/dM ~ M−1.6, дещо крутішим, ніж для малих астероїдів, із експоненційним відсіканням на великих масах. Подальша акреція хондр із диска може змістити розподіл розмірів найбільших об'єктів у бік розподілу сучасного поясу астероїдів. У зовнішній Сонячній системі найбільші об'єкти можуть і далі зростати через акрецію камінців, формуючи, ймовірно, ядра планет-гігантів.
Умови Потокова нестійкість виникає лише за наявності обертання та радіального дрейфу твердих частинок. Початкова лінійна фаза потокової нестійкості, починається з тимчасової області підвищеного тиску в протопланетному диску. Підвищений тиск змінює локальний градієнт тиску, що підтримує газ: на внутрішньому краї області він зменшується, а на зовнішньому — зростає. Унаслідок цього газ рухається швидше біля внутрішнього краю й повільніше біля зовнішнього. Сили Коріоліса, що виникають через ці відносні рухи, підтримують підвищений тиск, формуючи геострофічну рівновагу. Рух твердих частинок поблизу областей підвищеного тиску також змінюється: на зовнішньому краї вони зазнають сильнішого зустрічного потоку і швидше дрейфують до центра, тоді як на внутрішньому краї цей потік слабший і дрейф уповільнюється. Такий диференційний радіальний дрейф спричиняє накопичення твердих частинок у зонах підвищеного тиску. Аеродинамічний опір, що діє на частинки, які рухаються до цієї області, створює зворотну реакцію газу, підсилюючи підвищений тиск і запускаючи самопідсилювальний процес. У міру того як дедалі більше частинок переноситься в цю область радіальним дрейфом, формується концентрація твердих тіл, достатня для збільшення швидкості газу й зменшення локального радіального дрейфу, що характерно потокової нестійкості.
Потокова нестійкість виникає тоді, коли тверді частинки помірно зчеплені з газом, маючи число Стокса у межах 0,01–3; локальне відношення маси твердих частинок до газу становить близько 1 або перевищує 1; а інтегроване по вертикалі відношення «тверде–газ» у кілька разів більше за сонячне. Число Стокса характеризує відносний вплив інерції та газового опору на рух частинки; у цьому контексті це добуток характерного часу експоненційного згасання швидкості частинки через опір і кутової частоти її орбіти. Малі частинки, як-от пил, сильно зв'язані з газом і рухаються разом із ним, тоді як великі тіла, наприклад планетезималі, слабко зв'язані й майже не відчувають впливу газу. Помірно зв'язані частинки, які часто називають «галькою», мають розміри від сантиметрів до метрів на відстанях поясу астероїдів і від міліметрів до дециметрів за межами 10 а.о. Вони рухаються в газі подібно до планетезималей, але зазнають гальмування через зустрічний потік і значного радіального дрейфу. Саме такі частинки реагують на зміни руху газу на масштабах, порівнянних із дією сили Коріоліса, що дає змогу їм концентруватися в областях підвищеного тиску в обертовому диску. Водночас вони зберігають здатність впливати на рух газу. Якщо локальне відношення «тверде–газ» близьке до 1 або більше, цей вплив достатній, щоб підсилювати області підвищеного тиску, збільшувати орбітальну швидкість газу та сповільнювати радіальний дрейф. Щоб досягти такого співвідношення на серединній площині, потрібно, щоб середнє значення у вертикальному перерізі диска в кілька разів перевищувало сонячне. Якщо середнє співвідношення становить близько 0,01 (як у сучасній Сонячній системі), турбулентність у серединній площині створює хвилеподібну структуру, що «роздуває» шар твердих частинок і зменшує їхню концентрацію до значень менше 1, пригнічуючи утворення щільних скупчень. За більших значень маса твердих частинок пригнічує турбулентність, дозволяючи сформуватися тонкому шару. Зорі з вищою металічністю частіше досягають потрібного співвідношення, тому є сприятливішими для формування планетезималей і планет.