Американська компанія з кібербезпеки Recorded Future у своєму нещодавньому звіті повідомила про російську кампанію, спрямовану на підрив підтримки України з боку Європи. У так званій операції «Підрив» широко використовувалися голоси, згенеровані штучним інтелектом, у фейкових «новинних» відеороликах.
У відеороликах, орієнтованих на європейську аудиторію, серед іншого, містилися нападки на українських політиків як корумпованих або ставилася під сумнів корисність військової допомоги Україні. Наприклад, в одному з відеороликів стверджувалося, що «навіть глушилки не можуть врятувати американські танки «Абрамс», щоби підкреслити безглуздість надсилання високотехнологічної бронетехніки в Україну, пише TechCrunch.
У звіті йдеться про те, що творці відеороликів «дуже ймовірно» використовували штучний інтелект, що генерує голос, зокрема технологію ElevenLabs, щоб надати своєму контенту більш легітимного вигляду. Щоб перевірити це, дослідники Recorded Future подали кліпи до власного AI Speech Classifier ElevenLabs, який дає можливість будь-кому «визначити, чи був аудіокліп створений за допомогою ElevenLabs», і отримали збіг.
Хоча Recorded Future відзначила ймовірне використання кількох комерційних інструментів генерації голосу штучного інтелекту, він не назвав інших, окрім ElevenLabs.
Російські організатори кампанії випустили кілька відеороликів зі справжніми людськими голосами, що мали «помітний російський акцент». На противагу цьому, голоси, згенеровані штучним інтелектом, розмовляли кількома європейськими мовами, зокрема англійською, французькою, німецькою та польською, без іноземних акцентів.
Відповідно до Recorded Future, штучний інтелект також дозволив швидко оприлюднити оманливі кліпи кількома мовами, поширеними в Європі, як-от англійською, німецькою, французькою, польською та турецькою (до речі, усі мови підтримуються ElevenLabs).
Recorded Future приписує цю діяльність «Агентству соціального дизайну» — російській організації, на яку уряд США наклав санкції в березні цього року за те, що вона керувала «мережею з понад 60 вебсайтів, які видавали себе за справжні новинні організації в Європі, а потім використовували фальшиві акаунти в соціальних мережах для посилення оманливого контенту підроблених вебсайтів». Все це робилося «від імені уряду рф», — заявив тоді Державний департамент США.
Загальний вплив кампанії на громадську думку в Європі був мінімальним, дійшли висновку в Recorded Future.
