OpenAI розробляє інструмент виявлення текстів, згенерованих ChatGPT

OpenAI вагається щодо публікації інструменту виявлення згенерованих текстів ChatGPT

Компанія OpenAI розробляє інструмент для виявлення текстів, створених штучним інтелектом. Проте, компанія поки що не вирішила, чи публікувати його. Інструмент зміг би допомогти викрити студентів, які використовують ChatGPT для написання навчальних робіт.

Представник компанії підтвердив розробку технології водяних знаків для тексту, але зазначив, що компанія обережно підходить до її публікації через потенційні ризики та складність проблеми.

«Цей метод виглядає перспективним, але ми бачимо значні ризики, зокрема можливість обходу захисту та негативний вплив на не носіїв англійської мови», — представник компанії OpenAI

Новий підхід передбачає впровадження невидимих водяних знаків у тексти, створені ChatGPT, шляхом незначних змін у виборі слів. Ці водяні знаки потім можна виявити за допомогою окремого інструменту.

Нещодавно OpenAI оновила свій блог із дослідженнями щодо виявлення ШІ-текстів. Хоча водяні знаки виявилися ефективними проти перефразування, вони виявилися менш стійкими до складніших методів обходу: використання перекладачів чи інших генеративних моделей. Саме тому компанія визнає, що цей захист легко можна обійти. 

Джерело: TechCrunch

Читайте також
  • Новини
    DuckDuckGo запустив розширення для пошуку без ШІ через зростання популярності сервісу
    Софія Старк
  • Новини
    Українці рідше відвідують заклади, але витрачають більше — Опендатабот
    Софія Старк
  • Новини
    Оскар транслюватиметься виключно на YouTube з 2029 року
    Гнатюк Дмитро
  • Новини
    YouTube почав запускати рекламу під час пауз відео
    Ольга Беспалько
  • Новини
    YouTube запровадив додаткову перевірку відео з обмеженою монетизацією
    Софія Старк
  • Новини
    Підручники як стрічка TikTok — стартап ScrollEd створив новий формат навчання
    Софія Старк