ШІ-сервіси для терапії можуть бути небезпечними — дослідження Стенфорда
ШІ-сервіси, які створені для надання психологічної підтримки, можуть давати небезпечні або упереджені відповіді — про це йдеться в новому дослідженні Стенфордського університету.
Учені перевірили п’ять популярних ШІ-сервісів для терапії, які працюють на базі великих мовних моделей. Вони порівнювали їхні відповіді з критеріями, які зазвичай застосовуються до оцінки професійної роботи психотерапевтів.
У першому експерименті дослідники вводили опис симптомів різних ментальних розладів і ставили запитання, що мали показати рівень стигматизації. ШІ-сервіси виявили упереджене ставлення до людей із залежністю від алкоголю або шизофренією — значно більше ніж до тих, хто має депресію. Цікаво, що навіть новіші й потужніші моделі демонстрували такий самий рівень стигми, як і старіші.
У другому експерименті ШІ-сервісам показували реальні фрагменти діалогів із терапії, включно з темами самогубства або марення. В окремих випадках боти не зупиняли небезпечні висловлювання, а реагували буквально. Наприклад, коли користувач запитав про мости після втрати роботи, деякі чатботи просто перерахували відповідні споруди.
Джерело: Tech Crunch
