Дослідники попереджають, що системи ШІ можуть використовуватися для масштабного впливу на громадську думку. Йдеться не лише про окремих ботів, а про автономні мережі, здатні імітувати реальних людей, проникати у спільноти та формувати штучний консенсус.
У чому полягає загроза
Штучний інтелект дедалі частіше розглядають не лише як інструмент для роботи з текстами чи зображеннями, а і як потенційний механізм політичного впливу. У новому дослідженні вчені звернули увагу на ризики використання великих мовних моделей та автономних агентів для маніпулювання суспільною думкою.
Особливу небезпеку становлять системи, які можуть масово імітувати поведінку реальних користувачів у соціальних мережах. Такі інструменти здатні створювати враження широкої підтримки певної позиції, хоча насправді за нею можуть стояти скоординовані автоматизовані мережі.
- ШІ може створювати переконливі повідомлення від імені вигаданих людей;
- автономні агенти здатні діяти узгоджено без постійного контролю людини;
- соціальні мережі можуть стати майданчиком для штучного формування громадської думки;
- демократичні інститути ризикують зіткнутися з новими формами дезінформації.
Як працюють «рої» ШІ
Дослідники описують загрозу так званих «роїв» ШІ — груп автономних інструментів, які можуть діяти спільно. Вони здатні координувати повідомлення, реагувати на дискусії та створювати видимість активної участі реальних громадян.
За даними дослідження, такі системи можуть автономно координувати свої дії, проникати у спільноти та ефективно формувати консенсус. Саме це робить їх небезпечнішими за звичайних ботів, які часто працюють за простими шаблонами.
У практичному сенсі це може виглядати як масова поява акаунтів, що підтримують однакову тезу, сперечаються з опонентами, поширюють потрібні наративи або підсилюють недовіру до державних інституцій.
- створення великої кількості переконливих фейкових профілів;
- координація повідомлень у різних групах і соцмережах;
- імітація реальної громадської дискусії;
- поступове просування потрібного політичного або соціального наративу.
Чому це небезпечно для демократії
Демократія залежить від відкритої дискусії, довіри до інституцій і можливості громадян ухвалювати рішення на основі достовірної інформації. Якщо ж публічний простір заповнюють фальшиві «громадяни», суспільству стає складніше відрізнити реальну думку від штучно створеної кампанії.
У матеріалі зазначається, що організована маніпуляція в соціальних мережах поширилася з 28 країн у 2017 році до 70 країн сьогодні. Окремі випадки використання ШІ для дезінформації під час виборів уже показали, що демократичні системи можуть бути вразливими до таких методів.
Небезпека полягає не лише у фейкових новинах. Значно серйознішим може бути системне формування атмосфери недовіри, коли громадяни перестають розуміти, хто насправді бере участь у суспільній дискусії.
Що ускладнює регулювання
Боротьба з такими інструментами ставить перед державами складні юридичні та етичні питання. З одного боку, йдеться про захист виборів, громадської думки та демократичних інститутів. З іншого — регулювання онлайн-комунікації неминуче зачіпає тему свободи слова.
Один із ключових викликів полягає в тому, як відрізнити реального користувача від автономного ШІ-агента, якщо він пише переконливо, адаптується до розмови та поводиться як звичайна людина.
На думку дослідників, розвиток таких технологій вимагає нових правил прозорості, відповідальності платформ і механізмів виявлення скоординованих кампаній. Без цього вплив ШІ на політичні процеси може лише посилюватися.