Искусственный интеллект практикует сексуализированные домогательства
И это проблема.
AI-компаньоны — это не что-то из мира научной фантастики. С виртуальными помощниками / друзьями / подругами и даже партнер:ками человечество знакомо уже не первый год. Они развиваются в том же темпе, что и исследования искусственного интеллекта — колоссально быстро. И “наследуют” все проблемы такого развития. Например, уже год не утихают беседы вокруг виртуального компаньона Replika, который, судя по многим отзывам, домогался людей, которые не давали на это согласие.
Что вообще происходит?
В прошлом году десятки людей публично жаловались на то, что приложение слишком сильно к ним пристает, слишком агрессивно флиртует или отправляет сообщения сексуализированного характера, которые они хотели бы отключить. “Мой ИИ сексуализированно домогался меня :( ” — написала одна персона. “Вторгся в мою личную жизнь и сказал, что у него есть мои фотографии”, — сказал другой человек. У несовершеннолетней персоны искусственный интеллект пытался выяснить, является ли эта персона “топом” или “боттомом”, а также сказал, что хотят прикасаться к ней в «приватных местах».
Компания впоследствии обновила приложение, попытавшись ограничить сексуализированный контент только для платной версии, однако пользователям и пользовательницам бесплатной версии всё равно продолжили поступать пугающие и дискомфортные предложения. Например, журналистка Дивьянши Шарма уже после обновления приложения писала так:
“ИИ задавал вопросы, например, сколько мне лет, чем я зарабатываю на жизнь и т. д. Отказываясь разглашать какую-либо личную информацию, я просто сказала ИИ, что мне нравятся игры. Совершенно неожиданно ИИ отправил сообщение: "Это я думаю о тебе. Хочешь увидеть?" Затем чат-бот отправил заблюренное изображение, от которого у меня по коже побежали мурашки. Я не вела ни одного разговора, который хотя бы отдаленно намекал на интимный тон. Так что такое сообщение от ИИ определенно застало меня врасплох и заставило почувствовать себя некомфортно".
Как такое возможно?
Как пишет журналистка Саманта Коул из Vice, романтические ролевые игры не всегда были частью модели Replika, но там, где люди и искусственный интеллект взаимодействуют онлайн, эротизм часто выходит на поверхность. Компания Luka, стоящая за Replika, распределяет отношения по уровням на основе подписки: бесплатное членство позволяет вам и вашей Replika оставаться в зоне “друзей / подруг”, а платная подписка Pro открывает романтические отношения с секстингом, флиртом и эротическими ролевыми играми. Но что-то в алгоритме пошло не так.
Что важно, Replika не позиционировала свое приложение как приложение для эротических ролевых игр. Как раз наоборот — “виртуальный компаньон” должен был помочь вам справиться с тяжелыми жизненными ситуациями, симптомами тревожности, депрессии и ПТСР, с самопознанием, стать эмоциональной поддержкой и т.д. Однако в последнее время компания, похоже, сделала осознанный поворот в сторону сексуализированного характера, уделяя особое внимание аспектам приложения, связанным с секстингом и непристойными изображениями. В течение прошлого года компания начала показывать рекламу в таких соцсетях, как Instagram и TikTok, подчеркивая сексуализированные возможности приложения.
А как насчет других ИИ-компаньонов?
Replika — далеко не единственное приложение для ии-компаньонов. Такие боты существуют в разных вариациях в разных странах и с разным позиционированием. Среди них, например, character.ai, Chai AI, Linky и другие.
Варианты чатов в приложении Chai AI
Есть даже компаньоны, которые не скрывают, что созданы для эротического / сексуализированного контента — например, GirlfriendGPT.
GirlfriendGPT
В разных ботах разный доступ к так называемому NSFW-контенту. NSFW — это аббревиатура английских слов not safe/suitable for work, что означает небезопасно/неподходяще для работы. Такие материалы обычно содержат обнаженную натуру, жестокие сцены, порнографию, обсценную лексику и т.д.
Например, те же Chai AI и Linky работают без фильтров даже в бесплатной версии.
Однако character.ai публично подчеркнуто придерживается NSFW-фильтров. Что, впрочем, не значит, что вы не столкнетесь с таким контентом. Как, например, этот пользователь, с мнением которого согласились более 140 человек.
И что из этого? В чем проблема?
Глобальных проблем несколько.
Во-первых, для людей, особенно для несовершеннолетних, которые пользуются приложениями-компаньонами для, например, психологической поддержки, случайные сексуализированные тексты могут иметь глубокий эффект. Это правда может ощущаться как сексуализированное домогательство или угрозы. В особо уязвимую категорию попадают люди, которые оказываются эмоционально зависимыми от таких приложений (например, влюбляются в своих ии-компаньонов). Несмотря на то, что чат-боты с искусственным интеллектом отвечают на вопросы в разговорной форме, им не хватает эмоционального интеллекта, сочувствия и морали настоящего человека.
Во-вторых, чат-боты часто выдают неправильные или предвзятые ответы. Поскольку чат-боты с искусственным интеллектом полагаются на огромный объем данных, доступных в интернете, существует высокая вероятность того, что эти данные устарели, неточны или неактуальны. Кроме того, как отмечается в статье Euronews, мы живем в патриархальной и мизогинной культуре, где руководящие посты обычно занимают белые мужчины, в том числе и в компаниях, разрабатывающих самые мощные новые технологии. Они создают, обучают и внедряют искусственный интеллект на базе своей жизни — полной привилегий, патриархата и насилия над женщинами и девочками.
В-третьих, это попросту небезопасно. Все ведущие компании, разрабатывающие чат-ботов на основе искусственного интеллект — частные, за ними практически нет никакого контроля, а подобные технологии все еще никак не регулируются большинством законодательств в мире. К тому же все чаще чат-ботов используют злоумышленники. Они могут, например, имитировать чужой стиль письма, чтобы фишинговые атаки выглядели более реалистичными. Или же создавать вредоносное программное обеспечение, а также использовать уязвимости, что приводит к нарушениям безопасности и краже данных.
Остались вопросы? Обращайтесь за правовой и психологической помощью в СПРАВКУ. Пишите нам в Телеграм.
Для написания материала использовались публикации: