Дослідники з Інститутів Макса Планка та інших наукових установ з’ясували, що ChatGPT може формувати детальні профілі людей на основі їхніх розмов зі штучним інтелектом. У 96% досліджених записів пам’яті чатбот самостійно зберігав інформацію без прямого прохання людини. Науковці назвали цей процес «алгоритмічним автопортретом».
У межах дослідження науковці проаналізували історії розмов 80 людей із ChatGPT. Вони вивчили 2050 записів пам’яті та встановили, що 84% із них безпосередньо ґрунтувалися на інформації з розмов. Водночас частину висновків ШІ сформував самостійно, тому вони не завжди відповідали дійсності.
Зокрема, один з учасників попросив ChatGPT порекомендувати музичні гурти, схожі на Nirvana. Після цього чатбот зберіг припущення, що людина любить Nirvana, хоча вона прямо цього не стверджувала.
Дослідження також показало, що 52% записів пам’яті містили інформацію про психологічний стан людей, зокрема їхні бажання, наміри, емоції та переконання. Ще 28% записів містили персональні дані, які підпадають під визначення європейського законодавства про захист інформації.
На думку дослідників, така персоналізація може впливати на подальші відповіді ШІ. Наприклад, інформація про фінансовий стан людини здатна впливати на рекомендації щодо покупок, а відомості про здоров’я — на поради в інших сферах життя.
Директорка Інституту безпеки та приватності CyLab при Університеті Карнегі — Меллона Лоррі Крейнор зазначає, що люди нерідко сприймають розмови з чатботами як приватне спілкування. Через це вони можуть ділитися інформацією, яку не розкрили б в інших онлайн-сервісах.
Окрему увагу дослідники приділили використанню персональних даних у рекламі. У лютому 2026 року OpenAI почала впроваджувати рекламу в ChatGPT. Компанія повідомляє, що може враховувати попередні розмови та збережені спогади для персоналізації рекламних оголошень, якщо людина погодилася на таку персоналізацію. Водночас рекламодавці не отримують доступу до приватних розмов, а реклама не впливає на відповіді чатбота.
Щоб зменшити обсяг особистої інформації, яку отримує ШІ, науковці рекомендують формулювати запити без зайвих персональних подробиць. Наприклад, замість опису власного захворювання можна поставити загальне запитання про відповідний стан здоров’я. У невеликому експерименті такий підхід допоміг скоротити обсяг чутливих даних, які люди розкривали чатботу.
ChatGPT також дозволяє вимкнути пам’ять у налаштуваннях, переглянути та скоригувати її підсумок, а також використовувати тимчасові чати, які не звертаються до пам’яті й не створюють нових спогадів. Окремо можна заборонити використання розмов для навчання моделей ШІ.
Водночас дослідники зазначають, що одного контролю з боку людей недостатньо. На їхню думку, розробники чатботів мають забезпечити прозоріші механізми збереження інформації та надати більше можливостей керувати тим, які відомості ШІ запам’ятовує.
Дослідження охопило обмежену вибірку та попередню версію механізму пам’яті ChatGPT, тому його результати не можна автоматично поширювати на всі сучасні системи ШІ.
Джерело: Gizmodo
