OpenAI заблокувала 2 операції впливу з Росії та Ірану, учасники яких використовували ChatGPT для створення пропагандистського контенту та приховування його походження. Російська кампанія була спрямована, зокрема, на дискредитацію України в Латинській Америці, а іранська — на поширення матеріалів про конфлікт зі США.
Про це повідомляє OpenAI.
За даними компанії, російська операція під назвою “Темна Кларк” використовувала пов’язані акаунти ChatGPT для підготовки внутрішніх звітів, створення фейків і підтримки діяльності так званого Центру соціологічних досліджень (SRC). Ця структура позиціонувала себе як дослідницька платформа в Латинській Америці.
Оператори, які, ймовірно, перебували в Росії, використовували VPN для доступу до ChatGPT. Вони намагалися дискредитувати Україну та місцевих політичних лідерів, а також впливати на внутрішньополітичні процеси в Аргентині й Болівії.
У звітах учасники операції стверджували, що поширювали фальшиві повідомлення, підроблені аудіозаписи та документи. Зокрема, вони заявляли про створення неправдивих повідомлень щодо України, які нібито спонукали школи в Перу проводити заходи, присвячені Україні, та про фейкові матеріали щодо вербування еквадорців до української армії.
OpenAI зазначила, що частину цих тверджень вдалося підтвердити за відкритими джерелами. Деякі фейки привернули увагу фактчекерів і спричинили офіційні спростування. Водночас компанія наголосила, що оператори також приписували собі події, до яких не мали стосунку, тому їхні внутрішні оцінки впливу не можна вважати достовірними без додаткової перевірки.
Російська операція також використовувала вигадану особу на ім’я “Мія Кларк” для управління SRC та взаємодії з місцевими працівниками. За оцінкою OpenAI, працівники в Латинській Америці, імовірно, не знали, що працюють на російську групу. На сайті центру компанія виявила понад 60 статей, більшість із яких, схоже, були оригінальними матеріалами.
Другу операцію, названу “Фальшиві автори”, OpenAI пов’язала з Іраном. Її учасники використовували ChatGPT для редагування статей, підготовки листів до редакцій, створення коментарів у соцмережах і внутрішньої звітності.
Оператори пропонували матеріали від імені 7 вигаданих авторів, які видавали себе за західних журналістів. Статті переважно стосувалися конфлікту між США та Іраном. За даними OpenAI, компанія виявила майже 100 таких публікацій або передруків приблизно в 12 онлайн-виданнях у різних країнах.
Іранські оператори також генерували серії коментарів англійською та перською мовами. Вони публікували їх у соцмережах, зокрема у відповідь на дописи про конфлікт між Іраном, США та Ізраїлем. Водночас виявлені коментарі зазвичай отримували небагато реакцій і становили лише невелику частину відповідей під дописами.
OpenAI оцінила російську операцію за шкалою поширення на рівні 5 із 6, а іранську — на рівні 4 із 6. Компанія пояснила, що обидві кампанії змогли розмістити матеріали в реальних онлайн-виданнях, що забезпечувало їм потенційно ширше охоплення, ніж публікації лише у фальшивих акаунтах соцмереж.
У компанії наголосили, що штучний інтелект може спрощувати окремі етапи прихованих операцій впливу, зокрема створення й редагування текстів та підготовку звітів. Водночас OpenAI заявила, що заблокувала виявлені групи акаунтів і передала інформацію про обидві операції відповідним органам.
Раніше,Центр протидії дезінформації заявив, що російська пропаганда поширює новий фейк про нібито перепродаж Україною західної зброї та ударних безпілотників італійській мафії. У Центрі наголосили, що ці твердження не відповідають дійсності та є частиною інформаційної кампанії Кремля.
