На поле битвы онлайн-обзоров есть AI против AI.
ИИ, обученный обнаруживать поддельные отзывы, встречается с генеративным ИИ, который может выдавать человеческие отзывы. Это своего рода столкновение, которое имеет значение как для потребителей, так и для будущего онлайн-контента.
Сауд Халифа, основатель и генеральный директор Fakespot, стартапа, который использует искусственный интеллект для обнаружения мошеннических отзывов, сказал, что его компания столкнулась с притоком поддельных отзывов, созданных искусственным интеллектом. Fakespot работает над способом обнаружения контента, написанного платформами искусственного интеллекта, такими как ChatGPT.
«Что сегодня очень отличается, так это то, что модели настолько хорошо осведомлены, что могут написать о чем угодно», — сказал он.
Поддельные онлайн-обзоры существуют столько же, сколько и настоящие онлайн-обзоры, но проблема приобрела новую актуальность благодаря более широкой озабоченности по поводу передовых технологий искусственного интеллекта, которые теперь широко доступны в Интернете.
В прошлом месяце Федеральная торговая комиссия предложила новое правило для борьбы с мошенническими отзывами после нескольких лет наблюдения за этой проблемой с помощью индивидуальных приложений. Если правило будет одобрено, оно запретит написание поддельных отзывов, навязывание отзывов, маскировку честных комментариев и другие вводящие в заблуждение методы, а также налагает большие штрафы на тех, кто его нарушает.
Но что является поддельным отзывом, а что нет, теперь менее ясно, а технология обнаружения мошеннических отзывов все еще находится в стадии разработки.
«Мы не знаем — на самом деле у нас нет возможности узнать, — сколько злоумышленников на самом деле использует какой-либо из этих инструментов, и какая часть из них может быть создана роботами, а какая — людьми», — сказал Майкл Атлесон, юрист отдела рекламной практики FTC. «Это действительно огромная проблема, и это всего лишь микрокосм опасений, что эти чат-боты будут использоваться для создания всех видов поддельного контента в Интернете».
Есть некоторые признаки того, что обзоры, созданные ИИ, уже стали обычным явлением. Об этом в апреле сообщил телеканал CNBC. В некоторых обзорах на Amazon есть явные указания на участие ИИ, многие из которых начинаются с фразы «Как языковая модель ИИ…».
Amazon входит в число многих онлайн-продавцов, которые годами боролись с поддельными отзывами. Представитель компании сказал, что компания получает миллионы отзывов каждую неделю и что в 2022 году она активно заблокировала 200 миллионов подозреваемых фальшивых отзывов. Компания использует комбинацию следователей-людей и искусственного интеллекта для выявления поддельных отзывов, используя модели машинного обучения, которые анализируют такие факторы, как история просмотров пользователя, активность входа в систему и связь с другими учетными записями.
Это еще более осложняется тем фактом, что обзоры, созданные ИИ, не совсем противоречат правилам Amazon. Представитель Amazon сказал, что компания позволяет клиентам публиковать отзывы, созданные с помощью ИИ, если они являются оригинальными и не нарушают правила политики.
Гигант электронной коммерции также указал, что ему может понадобиться помощь. В июне Дхармеш Мехта, вице-президент Amazon по международным продажам партнеров, связался с одной из компаний. Сообщение блога Для более тесного сотрудничества между «частным сектором, группами потребителей и правительствами» для решения растущей проблемы поддельных отзывов.
Критический вопрос заключается в том, сможет ли обнаружение ИИ опередить ИИ, создающий поддельные отзывы. Халифа сказал, что первые поддельные обзоры, сгенерированные искусственным интеллектом, обнаруженные Fakespot, поступили из Индии несколько месяцев назад и были созданы тем, что он называет «фермами поддельных обзоров» — компаниями, которые массово продают мошеннические обзоры. Генеративный ИИ может значительно облегчить их работу.
«Это определенно сложный тест для этих инструментов обнаружения», — сказал Бхаван Дхингра, доцент кафедры компьютерных наук в Университете Дьюка. «Потому что, если формы точно такие же, как то, как люди что-то пишут, вы не можете их отличить друг от друга. Я не ожидаю, что какой-либо детектор пройдет тест с честью в ближайшее время».
Несколько исследований показали, что люди не особенно хорошо разбираются в отзывах, написанных ИИ. Многие технологи и компании работают над системами обнаружения контента, генерируемыми ИИ, а некоторые, такие как OpenAI, компания, стоящая за ChatGPT, даже работают над собственным обнаружением контента, генерируемым ИИ.
Бен Чжао, профессор компьютерных наук Чикагского университета, сказал, что для ИИ «почти невозможно» справиться с задачей исключения обзоров, созданных ИИ, потому что обзоры, созданные ботами, часто неотличимы от отзывов людей.
«Это постоянная погоня в кошки-мышки, — сказал он, — но, в конце концов, нет ничего фундаментального, что отличало бы контент, созданный ИИ». «Вы найдете системы, которые утверждают, что могут отличить текст, написанный человеком, от текста ChatGPT. Но технологии, лежащие в основе всего этого, довольно просты по сравнению с тем, что они пытаются догнать».
с 90% потребителей Утверждая, что они читают отзывы во время покупок в Интернете, некоторые защитники прав потребителей обеспокоены этой возможностью.
«Это ужасно для потребителей», — сказала Тереза Мюррей, возглавляющая Бюро по наблюдению за потребителями Американской исследовательской группы по общественным интересам. «ИИ уже помогает нечестным компаниям за считанные секунды формировать фактические мнения на основе тысяч разговоров».
«Писатель. Внештатный исследователь твиттера. Будущий кумир подростков. Заядлый пивной ниндзя».