В июле прошлого года Meta представила AI Studio, инструмент для пользователей мета-платформ Facebook и Instagram (Признаны в России экстремистскими организациями. ФЗ 114 от 25.07.2002г. (Закон о противодействии экстремистской деятельности), Решение Тверского районного суда г. Москвы от 21.03.2022г. N 02-2473/2022)по созданию чат-ботов на базе искусственного интеллекта (ИИ). Боты могут использоваться для выполнения конкретных задач, таких как создание подписей к публикациям, или, в более широком смысле, в качестве “аватара” — непосредственного взаимодействия с пользователями платформы посредством сообщений и комментариев. Инструменты, аналогичные AI Studio, также были внедрены в Snapchat и TikTok.
В интервью Financial Times в декабре вице-президент Meta по продуктам для генеративного ИИ сказал: “Мы ожидаем, что со временем эти ИИ действительно появятся на наших платформах, примерно так же, как это происходит с аккаунтами. …У них будут биографии и фотографии профиля, и они смогут создавать контент на платформе с помощью искусственного интеллекта и делиться им”.
Поскольку боты с искусственным интеллектом становятся все более распространенными на платформах, особенно боты, способные генерировать новый контент, существуют риски того, что эти боты будут делиться ложной информацией и перегружать социальные сети пользователей автоматически сгенерированным контентом.
Это вызвало дискуссию о роли ботов на платформах социальных сетей. Несмотря на то, что Meta (Признана в России экстремистской организацией, ФЗ 114 от 25.07.2002г. (Закон о противодействии экстремистской деятельности), Решение Тверского районного суда г. Москвы от 21.03.2022г. N 02-2473/2022), удалила со своих платформ некоторые из своих собственных ботов с искусственным интеллектом, на платформах все еще есть боты, созданные пользователями. Кроме того, благодаря значительным инвестициям в технологии генеративного искусственного интеллекта (GenAI) — программы, которые используют искусственный интеллект для создания контента и интерактивного взаимодействия с пользователями, — компании могут продолжать искать способы повышения вовлеченности пользователей на платформах за счет использования ИИ-ботов.
Боты GenAI — не единственные боты, которые могут взаимодействовать с пользователями. Аккаунты ботов на таких платформах, как Reddit и X, следуют ряду заранее запрограммированных правил для взаимодействия с пользователями или модерирования обсуждений.
Согласно новому исследованию, проведенному Университетом Нотр-Дам, в сообществах Reddit эти аккаунты ботов оказывают глубокое влияние на взаимодействие между людьми.
Боты повышают вовлеченность пользователей, но за счет более глубокого взаимодействия между людьми, говорится в статье Джона Лалора, доцента кафедры информационных технологий, аналитики и операций, и Николаса Беренте “Влияние ботов на взаимодействие людей в онлайн-сообществах”, недавно опубликованной в журнале MIS Quarterly и операционной деятельности, оба в бизнес-колледже Мендосы при Нотр-Дам, вместе с Хани Сафади из Университета Джорджии.
Недавняя работа позволила определить таксономию ботов — систему классификации и категоризации различных типов ботов на основе их функциональных возможностей, поведения и операционной среды.
Боты могут быть очень простыми или очень продвинутыми. С одной стороны, боты, основанные на правилах, выполняют простые задачи, руководствуясь конкретными рекомендациями. Например, аккаунт WikiTextBot на Reddit отвечает на сообщения, содержащие ссылку на Википедию с кратким описанием страницы Википедии. Автоматизированный характер работы бота позволяет ему просматривать каждую публикацию на Reddit через интерфейс прикладного программирования (API), чтобы проверить каждую публикацию на соответствие жестко заданному правилу: “Если публикация содержит ссылку на Википедию, скопируйте краткое содержание с вики-страницы и опубликуйте его в качестве ответа”. Эти боты называются “рефлексивными” ботами.
Другие боты на Reddit модерируют обсуждения в сообществах, например, удаляя посты, содержащие контент, противоречащий рекомендациям сообщества, на основе специально определенных правил. Они известны как “контролирующие” боты.
“Хотя эти боты жестки из-за своей природы, основанной на правилах, они могут стать и будут становиться более совершенными, поскольку будут внедрять технологии генеративного искусственного интеллекта”, — сказал Лалор, который специализируется на машинном обучении и обработке естественного языка. “Поэтому важно понимать, как присутствие этих ботов влияет на взаимодействие между людьми в этих онлайн-сообществах”.
Лалор и его команда проанализировали коллекцию сообществ (субреддитов) Reddit, в которых активность ботов возросла в период с 2005 по 2019 год. Они проанализировали структуру общения между людьми в сообществах социальной сети по мере увеличения активности ботов.
Команда заметила, что по мере увеличения числа рефлексивных ботов (тех, кто генерирует контент и делится им) между пользователями устанавливается больше связей. Рефлексивные боты публикуют контент, который предоставляет пользователям больше возможностей для поиска нового контента и взаимодействия с другими пользователями. Но это происходит ценой более глубокого взаимодействия между людьми.
“В то время как люди взаимодействовали с более широким кругом других людей, их взаимодействие включало больше отдельных сообщений и меньше взаимных обсуждений”, — объяснил Лалор. “Если один пользователь публикует посты на Reddit, теперь существует более высокая вероятность того, что бот ответит или вмешается в разговор вместо двух пользователей-людей, ведущих содержательную переписку”.
В то же время включение ботов-наблюдателей, запрограммированных для обеспечения соблюдения политик сообщества, привело к уменьшению роли модераторов-людей, которые устанавливают и обеспечивают соблюдение норм сообщества.
При меньшем количестве ботов ключевые участники сообщества могли бы координировать свои действия друг с другом и с сообществом в целом для установления и обеспечения соблюдения норм. При автоматизированной модерации это менее необходимо, и эти люди играют меньшую роль в сообществе.
По мере совершенствования технологий искусственного интеллекта, особенно генеративного, пользователи могут использовать ботов для создания новых аккаунтов, а компании — для координации модерации контента и повышения уровня вовлеченности на своих платформах.
“Компаниям важно понимать, как такая повышенная активность ботов влияет на то, как люди взаимодействуют друг с другом на этих платформах, — сказал Лалор, — особенно в том, что касается их миссии — например, заявления Meta о ”построении будущего человеческих связей и технологий, которые делают это возможным“. Компаниям также следует подумать о том, следует ли считать ботов «пользователями» и как лучше всего представить любые учетные записи ботов на платформе обычным пользователям”.
Источник: Университет Нотр-Дам
