Meta оголосила про запуск нових систем модерації контенту на базі штучного інтелекту. Компанія планує поступово замінювати частину роботи сторонніх підрядників автоматизованими рішеннями.
Йдеться про виявлення і видалення контенту, пов’язаного з тероризмом, експлуатацією дітей, наркотиками, шахрайством та іншими порушеннями правил. Нові системи почнуть масштабно впроваджувати після того, як вони стабільно перевищать ефективність чинних методів модерації.
У Meta пояснюють, що ШІ зможе виконувати завдання, які краще підходять для автоматизації: повторювані перевірки або ситуації, де зловмисники постійно змінюють підходи — наприклад, у схемах шахрайства чи продажу заборонених товарів.
За результатами тестів, системи показали кращі показники порівняно з командами модерації. Вони виявляють удвічі більше контенту з ознаками сексуальних домагань і знижують кількість помилок більш ніж на 60%.
Також ШІ допомагає знаходити фейкові акаунти, що видають себе за публічних осіб, і запобігати зламам акаунтів. Системи аналізують підозрілі дії: вхід із нових локацій, зміну пароля або редагування профілю.
Окремо компанія повідомляє, що щодня блокує близько 5 000 спроб шахрайства, пов’язаних із викраденням даних для входу.
При цьому Meta не відмовляється від участі людей у модерації. Фахівці навчатимуть системи, контролюватимуть їхню роботу та ухвалюватимуть складні рішення — зокрема щодо оскаржень блокувань або взаємодії з правоохоронними органами.
Оновлення відбувається на тлі змін у підході компанії до модерації контенту. Раніше Meta відмовилася від сторонніх фактчекерів і перейшла до моделі Community Notes, а також пом’якшила обмеження щодо частини політичного контенту.
Крім того, компанія запустила ШІ-асистента підтримки, який працює цілодобово. Він уже доступний у Facebook та Instagram на iOS, Android і у вебверсії.
Джерело: TechCrunch
