“Экзистенциальный риск” – Искусственный интеллект развивается быстрее, чем наше понимание Сознания

По мере стремительного развития искусственного интеллекта и обострения этических дискуссий учёные утверждают, что понимание сознания стало как никогда актуальным.

_{По мере того как машины становятся всё более способными имитировать мыслительные процессы, учёные стремятся разгадать тайну, которая всё ещё отделяет нас от них: тайну сознания. Фото: Shutterstock}

Поскольку искусственный интеллект (ИИ) продолжает развиваться, а этические проблемы становятся всё более актуальными, многие учёные говорят, что понимание сознания стало насущной научной задачей.

В недавней статье, опубликованной в Frontiers in Science, исследователи предупреждают, что прогресс в области искусственного интеллекта и нейротехнологий стремительно опережает наше понимание того, как работает сознание, что создаёт значительные этические риски.

Они подчёркивают, что раскрытие происхождения сознательного опыта, которое в конечном счёте может позволить учёным разработать надёжные методы его обнаружения, должно стать приоритетной задачей как с научной, так и с моральной точки зрения. Достижение этого понимания может повлиять на широкий спектр областей, включая развитие искусственного интеллекта, дородовую политику, благополучие животных, медицину, психическое здоровье, юриспруденцию и новые нейротехнологии, такие как интерфейсы «мозг — компьютер».

«Наука о сознании больше не является чисто философским направлением. Она имеет реальное значение для всех сфер жизни общества и для понимания того, что значит быть человеком», — сказал ведущий автор исследования профессор Аксель Клиреманс из Свободного университета Брюсселя. «Понимание сознания — одна из самых серьёзных задач науки XXI века, и сейчас она стоит особенно остро в связи с развитием искусственного интеллекта и других технологий.

«Если мы сможем создать сознание — пусть даже случайно, — это повлечёт за собой огромные этические проблемы и даже экзистенциальный риск», — добавил Клиреманс, получивший грант от Европейского исследовательского совета (ERC).

Тест на чувствительность

Сознание, то есть осознание себя и окружающего мира, по-прежнему остаётся одной из самых сложных научных загадок. Даже после десятилетий исследований учёные не пришли к единому мнению о том, как субъективный опыт возникает в результате биологической активности мозга.

Хотя учёные выявили определённые области мозга и нейронные механизмы, связанные с сознанием, до сих пор ведутся споры о том, какие из них действительно важны и как они взаимодействуют друг с другом, формируя опыт. Некоторые эксперты даже сомневаются в том, что такой подход может полностью объяснить природу сознания.

В этом новом обзоре рассказывается о том, на каком этапе развития находится наука о сознании, в каком направлении она может развиваться и что может произойти, если людям удастся понять или даже создать сознание — будь то в машинах или в выращенных в лаборатории системах, подобных мозгу, таких как «мозговые органоиды».

Авторы утверждают, что тесты на сознание — научно обоснованные способы определения того, обладает ли существо или система сознанием, — могут помочь выявить наличие сознания у пациентов с черепно-мозговой травмой или деменцией, а также определить, когда оно возникает у плода, животных, органоидов мозга или даже у искусственного интеллекта.

Хотя это стало бы крупным научным прорывом, учёные предупреждают, что это также повлечёт за собой серьёзные этические и юридические проблемы, связанные с тем, как относиться к любой системе, обладающей сознанием.

«Прогресс в науке о сознании изменит наше представление о себе и о нашем отношении как к искусственному интеллекту, так и к миру природы, — сказал соавтор исследования профессор Анил Сет из Университета Сассекса, получивший грант от Европейского исследовательского совета. — Вопрос о сознании древний, но сейчас он актуален как никогда».

Широкие последствия

Более глубокое понимание сознания могло бы:

Трансформация медицинского обслуживания для пациентов, которые ранее считались находящимися без сознания. Измерения, основанные на теории интегрированной информации и теории глобального рабочего пространства, уже выявили признаки сознания у некоторых людей с диагнозом «синдром бесчувственного бодрствования». Дальнейшее развитие этих инструментов позволит оценивать сознание у пациентов в коме, на поздних стадиях деменции и при анестезии, а также изменит подход к лечению и уходу в конце жизни
Новые методы лечения психических расстройств, таких как депрессия, тревожность и шизофрения, где понимание биологии субъективного опыта может помочь преодолеть разрыв между моделями на животных и человеческими эмоциями
Уточните наши моральные обязательства по отношению к животным, определив, какие существа и системы обладают сознанием. Это может повлиять на то, как мы проводим исследования на животных, разводим сельскохозяйственных животных, потребляем продукты животного происхождения и подходим к охране окружающей среды. «Понимание природы сознания у конкретных животных изменит наше отношение к ним и к новым биологическим системам, которые создаются учёными», — сказал соавтор исследования профессор Лиад Мудрик из Тель-Авивского университета, получивший грант ERC.
Переосмыслите то, как мы интерпретируем закон, проливая свет на сознательные и бессознательные процессы, участвующие в принятии решений. Новое понимание может поставить под сомнение такие правовые идеи, как mens rea — «виновное сознание», необходимое для установления умысла. Поскольку нейробиология показывает, насколько наше поведение обусловлено бессознательными механизмами, судам, возможно, придётся пересмотреть границы ответственности.
Формируйте развитие нейротехнологий. Достижения в области искусственного интеллекта, органоидов мозга и интерфейсов «мозг — компьютер» открывают перспективы создания или изменения сознания за пределами биологической жизни. Некоторые предполагают, что сознание может поддерживаться только вычислениями, другие утверждают, что необходимы биологические факторы. «Даже если создание „сознания ИИ“ с помощью стандартных цифровых компьютеров невозможно, ИИ, который производит впечатление сознательного, ставит перед обществом множество социальных и этических проблем», — сказал Сет.

Авторы призывают к скоординированному, основанному на фактах подходу к изучению сознания. Например, в рамках состязательного сотрудничества конкурирующие теории противопоставляются друг другу в экспериментах, разработанных их сторонниками. «Нам нужно больше командной работы, чтобы разрушить теоретические барьеры и преодолеть существующие предубеждения и предположения, — говорит соавтор исследования профессор Лиад Мудрик. — Этот шаг может продвинуть науку вперёд».

Исследователи также призывают уделять больше внимания феноменологии (изучению того, что чувствует сознание), чтобы дополнить изучение того, что оно делает (его функций).

«Совместные усилия необходимы для достижения прогресса и для того, чтобы общество было готово к этическим, медицинским и технологическим последствиям понимания и, возможно, создания сознания», — сказал Клиреманс.

Ссылка:

«Наука о сознании: где мы находимся, куда движемся и что будет, если мы доберёмся до цели?» Аксель Клиреманс, Лиад Мудрик и Анил К. Сет, 15 сентября 2025 г., Frontiers in Science. DOI: 10.3389/fsci.2025.1546279