Meta впроваджує нові ШІ-системи модерації контенту та скорочує підрядників
Meta оголосила про запуск нових систем модерації контенту на базі штучного інтелекту. Компанія планує поступово замінювати частину роботи сторонніх підрядників автоматизованими рішеннями.
Йдеться про виявлення і видалення контенту, пов’язаного з тероризмом, експлуатацією дітей, наркотиками, шахрайством та іншими порушеннями правил. Нові системи почнуть масштабно впроваджувати після того, як вони стабільно перевищать ефективність чинних методів модерації.
У Meta пояснюють, що ШІ зможе виконувати завдання, які краще підходять для автоматизації: повторювані перевірки або ситуації, де зловмисники постійно змінюють підходи — наприклад, у схемах шахрайства чи продажу заборонених товарів.
За результатами тестів, системи показали кращі показники порівняно з командами модерації. Вони виявляють удвічі більше контенту з ознаками сексуальних домагань і знижують кількість помилок більш ніж на 60%.
Також ШІ допомагає знаходити фейкові акаунти, що видають себе за публічних осіб, і запобігати зламам акаунтів. Системи аналізують підозрілі дії: вхід із нових локацій, зміну пароля або редагування профілю.
Окремо компанія повідомляє, що щодня блокує близько 5 000 спроб шахрайства, пов’язаних із викраденням даних для входу.
При цьому Meta не відмовляється від участі людей у модерації. Фахівці навчатимуть системи, контролюватимуть їхню роботу та ухвалюватимуть складні рішення — зокрема щодо оскаржень блокувань або взаємодії з правоохоронними органами.
Оновлення відбувається на тлі змін у підході компанії до модерації контенту. Раніше Meta відмовилася від сторонніх фактчекерів і перейшла до моделі Community Notes, а також пом’якшила обмеження щодо частини політичного контенту.
Крім того, компанія запустила ШІ-асистента підтримки, який працює цілодобово. Він уже доступний у Facebook та Instagram на iOS, Android і у вебверсії.
Джерело: TechCrunch
