Василиск Роко () — мысленный эксперимент, предложенный участником сайта LessWrong с ником Roko.
Суть эксперимента Согласно эксперименту, Василиск — будущий могущественный недоброжелательный искусственный интеллект, который захочет наказать тех, кто в прошлом знал о возможности его появления, но не способствовал его созданию. Сам факт этого знания подвергает человека риску наказания.
Многие авторы называют этот опыт «самой жуткой дилеммой технофутуризма».
Задача эксперимента
Пари Паскаля Дилемма Василиска близка к «пари Паскаля» — аргументу, предложенному математиком и философом XVII века Блезом Паскалем: человек должен посвятить себя христианскому Богу, даже если он не уверен в его существовании, так как Бог может предложить вечный «выигрыш» (в раю) или вечное наказание (в аду). Согласно Паскалю, вероятность существования Бога не так важна, так как любые конечные затраты перевешиваются перспективой вечного вознаграждения или вечного наказания. Исходя из этого, наиболее рациональное эгоистичное решение — начать помогать появлению Василиска, социальное — наоборот.
Запрет обсуждения Основатель Less Wrong, Элиэзер Юдковский, удалил посты Roko по этой теме, назвав его «глупым»: Обсуждение теории Roko было запрещено на LessWrong на несколько лет, прежде чем запрет был снят в октябре 2015.
См. также The Game (игра) Теория принятия решений Технологическая сингулярность
Примечания
Категория:Мысленные эксперименты Категория:Искусственный интеллект