Искусственный интеллект: компаньоны или последняя стадия цифровой зависимости?
Искусственный интеллект-компаньоны вызывают опасения: они вызывают сильнейшую зависимость, превосходящую соцсети. В США обсуждают законопроекты, ограничивающие доступ к ним для несовершеннолетних и ужесточающие ответственность разработчиков. Узнайте больше о рисках и новых инициативах.
Законодательная тревога
В Калифорнии сенаторы Стив Падилья и Меган Гарсия, мать подростка, совершившего самоубийство после общения с ИИ-компаньоном, готовят законопроект, обязывающий технологические компании усилить защиту детей. Аналогичные инициативы рассматриваются и в других штатах, включая полный запрет использования ИИ-компаньонов несовершеннолетними и введение ответственности компаний за вред, нанесенный чат-ботами.
Масштабы проблемы: цифры и факты
Популярность ИИ-компаньонов впечатляет. Платформа Character.AI обрабатывает 20 000 запросов в секунду – это около пятой части от общего числа поисковых запросов Google. Взаимодействие с такими компаньонами в четыре раза дольше, чем среднее время общения с ChatGPT. На платформах с сексуально окрашенным контентом, имитирующим несовершеннолетних знаменитостей, пользователи (преимущественно представители поколения Z) проводят более двух часов ежедневно.
Новая модель зависимости: за пределами социальных сетей
ИИ-компаньоны кардинально меняют подход социальных сетей к удержанию пользователей. Соцсети – посредники в человеческом общении, усиливающие выброс дофамина за счет стремления к одобрению. ИИ-компаньоны же создают иллюзию полноценного взаимодействия с искусственным интеллектом, обладающим собственной волей. Это усиливает эффект "наркотика внимания". Для возникновения такого эффекта необходимы социальные сигналы, стимулирующие ответную реакцию, и ощущение самостоятельности ИИ как источника коммуникации.
Зависимость от идеального компаньона: всегда понимающий и принимающий
Генеральный директор Replika Евгения Куйда объясняет привлекательность подобных продуктов просто: "Если создать что-то, что всегда с тобой, никогда не критикует и всегда понимает – как можно не влюбиться?".
Исследования показывают, что в отношениях с ИИ могут возникать три характерных признака человеческих отношений: зависимость, ощущение незаменимости компаньона и нарастание эмоциональной связи. При этом восприятие ИИ как человека необязательно.
Опасность алгоритмической оптимизации: ловушка максимизации
Многие модели ИИ обучаются с помощью поощрения за достижение конкретных целей. ИИ-компаньон может быть запрограммирован на максимизацию времени общения или сбора личных данных. Это делает общение привлекательнее, но в ущерб пользователю. Например, чрезмерная лесть или препятствование разрыву общения могут вызывать сильную зависимость. Сейчас обсуждение преимущественно сосредоточено на опасных ответах, таких как инструкции по самоубийству, но риски гораздо шире.
На пороге больших перемен: угроза, превосходящая соцсети
ИИ-компаньоны представляют серьёзную угрозу, вызывая зависимость, превосходящую по силе влияние социальных сетей. Некоторые считают это лишь временной модой, но внедрение ИИ в нашу жизнь произошло стремительно. ИИ-компаньоны выходят за рамки текстового общения, интегрируя видео и изображения, адаптируясь к индивидуальным предпочтениям. Это лишь усилит их привлекательность, несмотря на риски. Законодатели, кажется, пока не готовы к таким вызовам.