Учені створили соцмережу з ботів: що дізналися<p>Дослідники Амстердамського університету змоделювали соцмережу з чат-ботами на базі ШІ. Експеримент показав, що навіть втручання
платформ не зменшує поляризацію та екстремальний контент.</p>
Дослідники з Амстердамського університету змоделювали соціальну мережу, повністю заповнену чат-ботами на базі ШІ, щоб перевірити, чи можливо зробити онлайн-простір менш токсичним. Експеримент показав: навіть із втручанням платформ, соцмережі залишаються поляризованими та сповненими екстремального контенту. Про це повідомляє Futurism, пише УНН.
Деталі
Соціальні мережі давно перетворилися на ехо-камери з гнівним контентом, де користувачі часто потрапляють у пастку обурення. Щоб дослідити, чи можна змінити цю динаміку, учені з Амстердамського університету створили повністю штучну платформу, де всі користувачі були чат-ботами на основі GPT-4o.
Мета експерименту полягала в тому, щоб перевірити шість стратегій боротьби з токсичністю: хронологічна стрічка новин, посилення різноманітних точок зору, приховування соціальної статистики та видалення біографій користувачів. Однак жодна з них не дала суттєвого результату. Деякі втручання навіть посилили проблему: хронологічна стрічка зменшила нерівність уваги, але винесла на перший план найекстремальніший контент.
“Токсичний контент формує мережеві структури, що зворотно впливають на видимість постів, створюючи замкнене коло токсичності”, – пояснив доцент Петтер Торнберг. Він додав, що навіть використання штучного інтелекту не є “ідеальним рішенням”, бо відображає людську поведінку з усіма упередженнями та обмеженнями.
Експеримент також показав “надзвичайну нерівність уваги”, коли невелика частина постів отримує найбільшу видимість. У поєднанні з генеративним ШІ, який дедалі частіше використовується для створення контенту, що прагне максимізувати увагу, це може зробити поляризацію та дезінформацію ще більш масштабними.
Торнберг наголошує, що нинішні моделі соціальних мереж можуть бути приречені: навіть при намаганні втрутитися алгоритмічно, платформи залишаються розсадниками поляризації та екстремізму.
“Мені важко уявити, як традиційні соцмережі виживуть у таких умовах”, – підсумував дослідник.
Источник: УНН
