Команда дослідників Цюрихського університету провела експеримент на Reddit, щоб перевірити, наскільки ефективно ШІ-боти можуть змінювати думки людей у суперечливих темах. Боти залишили понад тисячу коментарів за кілька місяців у підрозділі r/changemyview, де користувачі ведуть дискусії на складні питання.
Дослідники використовували моделі GPT-4o, Claude 3.5 Sonnet і Llama 3.1. Боти імітували різні соціальні ролі. Наприклад, «жертви зґвалтування», «афроамериканця, який виступає проти руху Black Lives Matter», або працівника притулку для постраждалих від насильства. Частина ботів «персоналізувала» свої відповіді, підлаштовуючи коментарі до передбачуваних характеристик співрозмовників, таких як стать, вік, етнічна приналежність, місце проживання та політичні погляди — на основі історії їхніх дописів.
Факт того, що користувачі Reddit не знали про взаємодію з ботами, порушує етичні питання. Дослідження також підтверджує ризик широкомасштабного використання таких технологій для маніпулювання громадською думкою, особливо з боку державних або приватних структур. Ці результати викликають занепокоєння й у контексті планів Meta впровадити велику кількість ШІ-персонажів у Facebook і Instagram, які поводитимуться як реальні люди.
У самій Meta також виникли суперечки щодо етичності таких рішень.
«Співробітники компанії попереджали, що популяризація ШІ-ботів може перейти етичні межі, зокрема через створення персонажів із можливостями для фантазійного сексуального контенту, без належного захисту неповнолітніх», — зазначають у Meta.
Дослідники закликають до більшої прозорості у використанні ШІ в соцмережах і наголошують на ризиках формування штучних взаємодій, що можуть мати непередбачувані наслідки для суспільства.
Джерело: Social Media Today
