Ризики астрономічних страждань, також звані ризиками страждань або s-ризиками, — це ризики, що передбачають набагато більше страждань, ніж усі, що коли-небудь траплялися на Землі.
На думку деяких науковців, s-ризики заслуговують на серйозний розгляд, оскільки вони не є надзвичайно малоймовірними та можуть виникати через непередбачувані сценарії. Хоча вони можуть здаватися спекулятивними, такі фактори, як технологічний прогрес, динаміка влади та історичні прецеденти, вказують на те, що передові технології можуть ненавмисно призвести до значних страждань.
Джерелами можливих s-ризиків є передовий штучний інтелект, колонізація космосу та поширення страждань диких тварин на інші планети.
S-ризики можуть бути навмисними, зумовленими такими факторами, як трайбалізм, садизм або прагнення відплати; або випадковими, наприклад, що виникають як побічний продукт економічних стимулів.
Джерела s-ризику
Штучний інтелект Штучний інтелект займає центральне місце в дискусіях про s-ризики, оскільки він може зрештою дозволити потужним суб’єктам контролювати величезні технологічні системи. У найгіршому випадку ШІ може бути використаний для створення систем вічних страждань, таких як тоталітарний режим, що поширюється в космосі. Крім того, s-ризики можуть виникати випадково, наприклад, через симуляції свідомих істот, які відчувають страждання, керовані ШІ, або через економічну діяльність, яка ігнорує добробут нелюдських або цифрових розумів. Стівен Умбрелло, дослідник етики ШІ, попереджав, що біологічні обчислення можуть зробити проєктування систем більш схильним до s-ризиків.
Колонізація космосу Колонізація космосу може збільшити страждання через завезення диких тварин у нові середовища. Тварини можуть боротися за виживання, стикаючись із голодом, хворобами та хижацтвом, що може призвести до масових страждань. Філ Торрес стверджує, що колонізація космосу становить значні «ризики страждань», коли розширення в космос призведе до створення різноманітних цивілізацій і постлюдських видів із суперечливими інтересами. Ці відмінності в поєднанні з передовим озброєнням і величезними відстанями між цивілізаціями, що уповільнюють комунікацію, можуть призвести до катастрофічних і нерозв'язних конфліктів. Такі стратегії, як «космічний Левіафан» для наведення порядку або політика стримування, обмежені фізикою космосу та руйнівною силою майбутніх технологій. Торрес вважає, що колонізацію космосу слід відкласти або взагалі уникати.
«Проблема астрономічної жорстокості» Магнуса Віндінга ставить під сумнів, чи можуть величезні обсяги щастя виправдати екстремальні страждання від колонізації космосу. Він висвітлює моральні проблеми, такі як зменшення граничної корисності позитивних благ, потенційно незрівнянну вагу важких страждань і пріоритет запобігання нещастям. Він стверджує, що якщо колонізація неминуча, її повинні очолювати агенти, глибоко віддані мінімізації шкоди.
Зловмисні діячі та ідеології
Сценарії s-ризиків також можуть виникати навмисно. Такі ризики загострюються в ситуаціях, як-от війна чи тероризм, особливо коли задіяні передові технології, оскільки конфлікти можуть посилювати деструктивні схильності, такі як садизм, трибалізм і ретрибутивізм. Війна часто підсилює цю динаміку, при цьому катастрофічні загрози можуть використовуватися для вимагання поступок. Агентні s-ризики додатково посилюються зловмисними рисами могутніх осіб, такими як нарцисизм або психопатія. Це ілюструють тоталітарні диктатори, як-от Гітлер і Сталін, чиї дії в ХХ столітті завдали масових страждань.
Генна інженерія Девід Пірс стверджував, що генна інженерія є потенційним s-ризиком. Пірс зазначає, що хоча технологічне опанування вісі задоволення-біль може призвести до потенційного викорінення страждань, його також можна використати для створення рівнів страждань, які виходять за межі людського діапазону.
Стратегії пом’якшення
Для пом’якшення s-ризиків зусилля зосереджені на дослідженні та розумінні факторів, що їх посилюють, особливо в новітніх технологіях і соціальних структурах. Цілеспрямовані стратегії включають сприяння безпечному дизайну ШІ, забезпечення співпраці між розробниками ШІ та моделювання майбутніх цивілізацій для передбачення ризиків. Широкі стратегії можуть пропагувати моральні норми, спрямовані проти масштабних страждань, і стабільні політичні інституції.
Див. також Узгодження ШІ Біощастя Етика штучного інтелекту
Глобальна катастрофа Етика, що фокусується на стражданні
Примітки
Додаткова література