Дослідники Джорджтаунського та Вашингтонського університетів з’ясували, що помилки в текстах, створених штучним інтелектом, можуть впливати на людську пам’ять. Після прочитання неточного переказу люди частіше помилялися, коли намагалися пригадати події, які бачили раніше. Про це повідомляє Gizmodo.
У дослідженні взяли участь 328 дорослих американців. Спочатку вони переглянули 25-секундне відео автомобільної аварії, а наступного дня прочитали його переказ, який підготували за допомогою ChatGPT. Частина учасників отримала правильний опис, а інші — текст із помилковою інформацією про дорожній знак на перехресті.
Серед учасників, які прочитали точний переказ, 83,6% правильно пригадали дорожній знак. У групі, яка отримала текст із неправдивою деталлю, цей показник становив лише 44,8%.
Науковці також перевірили, чи впливає авторство тексту на сприйняття інформації. Серед людей, які вважали, що помилковий переказ створив ШІ, правильну відповідь дали 46,3%. У групі, якій той самий текст представили як написаний людиною, — 43,4%.
Це свідчить, що неправдива інформація може змінювати спогади незалежно від того, кого людина вважає автором тексту. Водночас дослідження не довело, що люди більше довіряють помилкам ШІ, ніж помилкам у текстах інших людей.
Окремо дослідники перевірили, наскільки точно ChatGPT і Gemini описують відео. Вони попросили моделі переказати два короткі ролики та проаналізували 20 відповідей. Кожен текст містив від 7 до 21 помилки, а в середньому моделі пропускали 51,6% важливих деталей. У 95% переказів ШІ не згадав центральну подію — зіткнення автомобіля з пішоходом.
Результати дослідження вказують на ризики використання ШІ для підготовки звітів за відео та аудіозаписами, зокрема в медицині й правоохоронній діяльності. Якщо людина перевіряє такий документ після перегляду оригіналу, помилкова інформація може вплинути на її подальші спогади про подію.
Автори зазначають, що дослідження має обмеження. Для перевірки моделей вони використали лише два короткі анімовані відео, а під час експерименту оцінювали вплив однієї неправдивої деталі. Крім того, дослідники відібрали переказ після кількох запитів до ChatGPT і додатково його відредагували.
Скорочену версію наукової роботи опублікували в матеріалах конференції AAAI/ACM з етики та суспільства.
Джерело: Gizmodo
