Искусственное сознание (сокр. ИС), также известное как машинное сознание (МС), синтетическое сознание или цифровое сознание — это сознание, гипотетически возможное в искусственном интеллекте. Это также соответствующая область исследований, которая черпает идеи из философии разума, философии искусственного интеллекта, когнитивной науки и нейронаук. Та же терминология может быть использована с термином «чувства» вместо «сознание» при конкретном обозначении феноменального сознания (способности ощущать квалиа (qualia)).
Некоторые учёные считают, что сознание возникает в результате взаимодействия различных частей мозга; эти механизмы обозначаются как нейронные корреляты сознания (neural correlates of consciousness или NCC). Некоторые также полагают, что создание системы (например, компьютерной), способной эмулировать это взаимодействие NCC, приведёт к появлению системы, обладающей сознанием.
Философский взгляд Поскольку существует множество гипотетических типов сознания, существует и множество потенциальных реализаций искусственного сознания. В философской литературе, возможно, наиболее распространена систематизация сознания на «доступное» и «феноменальное». Сознание доступа касается тех аспектов опыта, которые могут быть восприняты, в то время как феноменальное сознание касается тех аспектов опыта, которые, по-видимому, не могут быть восприняты, а вместо этого характеризуются качественно в терминах «сырых ощущений», «того, на что это похоже» или квалиа.
Дебаты о правдоподобии Теоретики тождества типов и другие скептики придерживаются мнения, что сознание может быть реализовано только в определённых физических системах, потому что сознание обладает свойствами, которые обязательно зависят от физической конституции .
В своей статье «Искусственное сознание: Утопия или реальная возможность» Джорджио Буттаццо говорит, что общее возражение против искусственного сознания состоит в том, что «работая в полностью автоматизированном режиме, они [компьютеры] не могут проявлять креативность, непрограммируемость (что означает невозможность перепрограммирования, переосмысления), эмоции или свободу воли. Компьютер, как и стиральная машина, — это раб, управляемый своими компонентами»Artificial consciousness: Utopia or real possibility? Buttazzo, Giorgio, July 2001, Computer, ISSN 0018-9162.
Для других теоретиков (например, функционалистов), которые определяют ментальные состояния в терминах каузальных ролей, любая система, которая может инстанцировать один и тот же паттерн каузальных ролей, независимо от физической конституции, будет инстанцировать одни и те же ментальные состояния, включая сознание.
Аргумент «вычислительной техники» Один из самых явных аргументов в пользу правдоподобности искусственного разума принадлежит Дэвиду Чалмерсу. Его предложение сводится к тому, что для обладания сознанием достаточно правильных видов вычислений.
Чалмерс считает, что система реализует вычисления, если «каузальная структура системы отражает формальную структуру вычислений», и что любая система, реализующая определённые вычисления, является разумной.
Наиболее спорной частью предложения Чалмерса является то, что ментальные свойства «организационно инвариантны». Психические свойства бывают двух видов — психологические и феноменологические. Психологические свойства, такие как вера и восприятие, — это те, которые «характеризуются своей каузальной ролью». Опираясь на предыдущие работы , он говорит, что «системы с одинаковой каузальной топологией… будут иметь общие психологические свойства».
Феноменологические свойства, в отличие от психологических, не поддаются определению в терминах их каузальных ролей. Поэтому установление того, что феноменологические свойства являются следствием каузальной топологии, требует аргументации. Для этого Чалмерс приводит свой аргумент Dancing Qualia.
Чалмерс начинает с предположения, что его принцип инвариантности организации ложен: агенты с идентичной каузальной организацией могут иметь разный опыт. Затем он просит нас представить себе изменение одного агента в другого путём замены частей (нейронных частей на кремниевые, скажем) с сохранением его каузальной организации. Опыт агента, подвергшегося трансформации, изменится (по мере замены частей), но не произойдёт никаких изменений в каузальной топологии и, следовательно, не будет средств, с помощью которых агент сможет «заметить» изменение опыта; Чалмерс считает такое положение дел неправдоподобным reducto ad absurdum, устанавливающим, что его принцип организационной инвариантности должен быть почти наверняка истинным.
Критики искусственного сознания возражают, что предложение Чалмерса ставит вопрос ребром, предполагая, что все ментальные свойства и внешние связи уже в достаточной степени охвачены абстрактной каузальной организацией.
Противоречия В 2022 году инженер Google Блейк Лемуан сделал вирусное заявление о том, что чатбот LaMDA компании Google является разумным. В качестве доказательства Лемуан привел человекоподобные ответы чатбота на многие свои вопросы; однако поведение чатбота было оценено научным сообществом как скорее всего следствие мимикрии, а не машинного разума. Утверждение Лемуана было осмеяно как нелепое.
Однако, хотя философ Ник Бостром утверждает, что LaMDA вряд ли обладает сознанием, он дополнительно ставит вопрос: «Какие основания есть у человека для уверенности в этом?» Нужно было бы иметь доступ к неопубликованной информации об архитектуре LaMDA, а также понимать, как работает сознание, и затем придумать, как перенести философию на машину: «[В отсутствие этих шагов], похоже, следует быть немного неуверенным… вполне возможно, что сейчас или в относительно ближайшем будущем появятся другие системы, которые начнут удовлетворять этим критериям».
Тестирование Наиболее известным методом проверки машинного интеллекта является тест Тьюринга. Но если трактовать этот тест только как наблюдательный, то он противоречит принципам философии науки о зависимости теории от наблюдений. Также высказывается мнение, что рекомендацию Алана Тьюринга об имитации сознания человеческого ребёнка вместо сознания взрослого человека следует воспринимать всерьёз.
Квалиа, или феноменологическое сознание, по своей сути является феноменом первого лица. Хотя различные системы могут демонстрировать многочисленные признаки поведения, коррелирующего с функциональным сознанием, не существует мыслимого способа, с помощью которого тесты от третьего лица могли бы получить доступ к феноменологическим характеристикам от первого лица. Из-за этого, в дополнение к отсутствию эмпирического определения сознания«Consciousness». In Honderich T. The Oxford companion to philosophy. Oxford University Press. , тесты на наличие сознания в ИС могут быть невозможны.
В 2014 году Виктор Аргонов предложил нетьюринговский тест на разумность машины, основанный на её способности производить философские суждения. Он утверждает, что детерминированная машина должна считаться сознательной, если она способна производить суждения обо всех проблемных свойствах сознания (таких как квалиа и проблеме привязки), не имея врождённых (предварительно загруженных) философских знаний по этим вопросам, не ведя философских дискуссий в процессе обучения и не имея в своей памяти информационных моделей других существ (такие модели могут имплицитно или эксплицитно содержать знания о сознании этих существ).
Однако этот тест может быть использован только для обнаружения, но не для опровержения существования сознания. Положительный результат доказывает, что машина обладает сознанием, а отрицательный — ничего не доказывает. Например, отсутствие философских суждений может быть вызвано отсутствием интеллекта машины, а не отсутствием сознания.
Этические вопросы
Если бы возникло подозрение, что конкретная машина обладает сознанием, её права стали бы этическим вопросом, который необходимо было бы оценить (в том числе, какие права она имела бы по закону).
Например, компьютер с сознанием, который принадлежал и использовался как инструмент или центральный компьютер в составе более крупной машины, представляет собой особую двусмысленность. Должны ли быть приняты законы для такого случая? Сознание требует юридического определения в этом конкретном случае.
Поскольку искусственное сознание все ещё остаётся в значительной степени теоретической темой, подобная этика не обсуждалась и не разрабатывалась в значительной степени, хотя она часто становилась темой в фантастике.
В 2021 году немецкий философ Томас Метцингер выступил за введение глобального моратория на синтетическую феноменологию до 2050 года. Метцингер утверждает, что люди обязаны заботиться о любых разумных ИИ, которые они создают, и что слишком быстрое развитие рискует привести к «взрыву искусственных страданий».
Аспекты сознания, считающиеся необходимыми и другие утверждают, что существуют различные аспекты сознания, необходимые для того, чтобы машина могла быть искусственно сознательной.
Функции сознания, предложенные Баарсом: определение и установление контекста, адаптация и обучение, редактирование, отметка и отладка, привлечение и контроль, определение приоритетов и контроль доступа, принятие решений или исполнительная функция, функция формирования аналогии, метакогнитивная функция и функция самоконтроля, а также функция автопрограммирования и самообслуживания.
предложил 12 принципов искусственного сознания: «Мозг — машина состояний», «Внутреннее разделение нейронов», «Сознательные и бессознательные состояния», «Перцептивное обучение и память», «Предсказание», «Осознание себя», «Репрезентация смысла», «Обучение высказываниям», «Обучение языку», «Воля», «Инстинкт» и «Эмоция».
Цель ИС — определить, могут ли эти и другие аспекты сознания быть синтезированы в инженерном артефакте (цифровом компьютере). Этот список не является исчерпывающим; существует множество других не охваченных тем.
Осознанность Осознанность могла бы быть одним из необходимых аспектов, но с точным определением этого элемента существует множество проблем. Результаты экспериментов по нейросканированию на обезьянах свидетельствуют о том, что нейроны активируются не только состоянием или объектом, но и процессом. Осознание включает в себя создание и проверку альтернативных моделей каждого процесса на основе информации, полученной через органы чувств или воображение, а также полезно для составления прогнозов. Подобное моделирование требует большой гибкости. Создание такой модели включает в себя моделирования физического мира, собственных внутренних состояний и процессов, а также других сознательных сущностей.
Существует как минимум три типа осознанностиJoëlle Proust in Neural Correlates of Consciousness, Thomas Metzinger, 2000, MIT, pages 307—324: агентное осознание, осознание цели и сенсомоторное осознание, которые также могут быть осознанными или нет. Например, при агентном осознании вы можете знать, что вчера выполнили определённое действие, но сейчас не осознаете этого. В осознании цели вы можете знать, что должны искать потерянный предмет, но сейчас не осознаете этого. В сенсомоторном сознании вы можете знать, что ваша рука лежит на каком-то предмете, но сейчас не осознаете этого.
Поскольку объекты осознания часто являются сознательными, различие между осознанием и сознанием часто размывается или они используются как синонимыChristof Koch, The Quest for Consciousness, 2004, page 2 footnote 2.
Память