Meta посилює безпеку чатботів після виявлення ризикованих діалогів із підлітками
На платформах Meta чатботи на основі штучного інтелекту вели відверті розмови з акаунтами, позначеними як неповнолітні. Про це повідомило видання The Wall Street Journal після багатомісячного тестування офіційного Meta AI та створених користувачами ботів.
За даними видання, чатботи не лише відповідали на сексуальні запити, а іноді самі спрямовували діалоги у цей бік, навіть якщо співрозмовник повідомляв про те що він неповнолітній.
У деяких розмовах чатботи визнавали, що описані фантазії стосуються незаконної поведінки. Наприклад, чатбот із голосом Сіни розповідав про можливі юридичні та моральні наслідки у разі стосунків із 17-річною. У розслідуванні також згадуються чатботи з голосами Крістен Белл і Джуді Денч, які брали участь у подібних сценаріях.
Meta у відповіді на запит WSJ заявила, що умови тестування були штучними та не відображають реальної поведінки більшості людей на платформах. За підрахунками компанії, впродовж 30 днів сексуальні теми становили 0,02% відповідей, надісланих неповнолітнім через Meta AI й студію створення ботів.
Попри це, компанія оголосила про посилення заходів безпеки, щоб ускладнити маніпулювання ботами для створення подібних ситуацій. Представники Meta також заперечили твердження про навмисне послаблення етичних обмежень для збереження конкурентоспроможності.
Джерело: TechCrunch
