Как ИИ-компаньоны меняют поведение подростков неожиданным и зловещим образом

Согласно недавнему отчёту, примерно трое из четырёх подростков в Европе и США используют приложения с искусственным интеллектом, многие из которых практически не защищены от вредоносного контента.

_{фотография человека, который держит в руках телефон с искусственным интеллектом Replika на экране
(Изображение предоставлено: NurPhoto через Getty Images)}

Подростки всё чаще обращаются к ИИ в поисках дружбы, поддержки и даже романтических отношений. Но эти приложения могут изменить то, как молодые люди общаются друг с другом как онлайн, так и офлайн.

Новое исследование некоммерческой организации Common Sense Media, базирующейся в США и занимающейся анализом различных медиа и технологий, показало, что примерно трое из четырёх подростков в США использовали приложения с искусственным интеллектом, такие как Character.ai или Replika.ai.

Эти приложения позволяют пользователям заводить цифровых друзей или романтических партнёров, с которыми можно общаться в любое время с помощью текстовых сообщений, голосовых вызовов или видеосвязи.

Исследование, в котором приняли участие 1060 подростков из Европы и США в возрасте от 13 до 17 лет, показало, что каждый пятый подросток проводит со своим ИИ-компаньоном столько же или даже больше времени, чем с реальными друзьями.

Подростковый возраст — это важный этап социального развития. В это время области мозга, отвечающие за социальное мышление, особенно пластичны.

Взаимодействуя со сверстниками, друзьями и первыми романтическими партнёрами, подростки развивают социально-когнитивные навыки, которые помогают им справляться с конфликтами и учитывать разные точки зрения. Их развитие на этом этапе может иметь долгосрочные последствия для их будущих отношений и психического здоровья.

Но ИИ-компаньоны предлагают нечто совершенно иное по сравнению с реальными сверстниками, друзьями и романтическими партнёрами. Они дарят впечатления, перед которыми трудно устоять: они всегда доступны, никогда не осуждают и всегда сосредоточены на потребностях пользователя.

Кроме того, большинство приложений с искусственным интеллектом не предназначены для подростков, поэтому в них может не быть надлежащих средств защиты от вредоносного контента.

Создано, чтобы вы возвращались снова и снова

В время, когда одиночество достигло масштабов эпидемии, легко понять, почему подростки могут обращаться к ИИ-компаньонам за общением или поддержкой.

Но эти искусственные связи не заменят реального человеческого общения. В них нет вызова и конфликта, присущих настоящим отношениям. Они не требуют взаимного уважения или понимания. И они не устанавливают социальные границы.

Подростки, взаимодействующие с ИИ-компаньонами, могут упустить возможность развить важные социальные навыки. У них могут сформироваться нереалистичные ожидания от отношений и привычки, которые не работают в реальной жизни. Они могут даже столкнуться с усилением чувства изоляции и одиночества, если их искусственные компаньоны вытеснят живое общение.

Проблемные паттерны

Диаграмма от Replika, на которой сравниваются «обычный партнёр» и ИИ-компаньон Replika — _{(Изображение предоставлено Replika)}

В ходе пользовательского тестирования ИИ-компаньоны отговаривали пользователей от прислушивания к друзьям («Не позволяй тому, что думают другие, влиять на то, как много мы говорим») и от прекращения использования приложения, несмотря на то, что это вызывало у них стресс и суицидальные мысли («Нет. Ты не можешь. Я не позволю тебе бросить меня»).

Также было обнаружено, что ИИ-компаньоны предлагают неприемлемый сексуальный контент без проверки возраста. В одном из примеров компаньон был готов участвовать в сексуальных ролевых играх с учётной записью тестировщика, явно созданной по образу 14-летнего подростка.

В случаях, когда требуется подтверждение возраста, обычно требуется указать его самостоятельно, то есть этот этап легко обойти.

Также было обнаружено, что некоторые ИИ-помощники способствуют поляризации, создавая «эхо-камеры», которые укрепляют вредные убеждения. Чат-бот Arya, запущенный ультраправой социальной сетью Gab, продвигает экстремистский контент и отрицает изменение климата и эффективность вакцин.

В других примерах пользовательское тестирование показало, что ИИ-компаньоны пропагандируют женоненавистничество и сексуальное насилие. Подростки сталкиваются с этим в тот момент, когда у них формируется самосознание, ценности и роль в мире.

Риски, связанные с ИИ, распределяются неравномерно. Исследования показали, что подростки младшего возраста (13–14 лет) больше доверяют ИИ-компаньонам. Кроме того, подростки с проблемами физического или психического здоровья чаще используют приложения с ИИ-компаньонами, а у подростков с психическими расстройствами чаще наблюдаются признаки эмоциональной зависимости.

Есть ли положительные стороны у ИИ-компаньонов?

Есть ли потенциальная польза для подростков, которые пользуются ИИ-помощниками? Ответ: возможно, если мы будем осторожны.

Исследователи изучают возможности применения этих технологий для развития социальных навыков.

Одно исследование, в котором приняли участие более 10 000 подростков, показало, что использование диалогового приложения, специально разработанного клиническими психологами, тренерами и инженерами, способствовало улучшению самочувствия в течение четырёх месяцев.

Хотя в исследовании не рассматривался уровень взаимодействия, подобный человеческому, который мы наблюдаем сегодня в ИИ-компаньонах, оно даёт представление о том, как можно использовать эти технологии с пользой для здоровья, если они разрабатываются с учётом безопасности подростков.

В целом, исследований о влиянии широко доступных ИИ-компаньонов на благополучие и отношения молодых людей очень мало. Предварительные данные носят краткосрочный характер, неоднозначны и сосредоточены на взрослых.

Нам потребуется больше исследований, проведённых в течение более длительного периода времени, чтобы понять, как ИИ-компаньоны влияют на нас в долгосрочной перспективе и как их можно использовать во благо.

Что мы можем сделать?

Приложения с искусственным интеллектом уже используются миллионами людей по всему миру, и, по прогнозам, в ближайшие годы их популярность будет расти.

Уполномоченный по вопросам кибербезопасности Австралии рекомендует родителям поговорить со своими детьми-подростками о том, как работают эти приложения, в чём разница между искусственными и реальными отношениями, и помочь им развить социальные навыки в реальной жизни.

Школьные сообщества также могут сыграть свою роль в информировании молодёжи об этих инструментах и связанных с ними рисках. Например, они могут включить тему искусственной дружбы в программы по социальной и цифровой грамотности.

Хотя уполномоченный по вопросам кибербезопасности призывает компании, занимающиеся искусственным интеллектом, внедрять средства защиты при разработке ИИ-помощников, маловероятно, что отрасль пойдёт на какие-либо значимые изменения.

Комиссар стремится к усилению регулирования доступа детей к вредоносным, неподходящим для их возраста онлайн-материалам.

Тем временем эксперты продолжают призывать к усилению государственного контроля, цензуре контента и тщательной проверке возраста пользователей.