Дослідники британського видання The Guardian виявили, що новий ШІ-пошуковик ChatGPT Search, який запустили цього місяця, має вразливість до маніпуляцій. Штучний інтелект можна змусити ігнорувати негативні відгуки та створювати лише позитивні підсумки, якщо на сайті розміщено прихований текст.
Подібні способи маніпуляції вже відомі як ризики для мовних моделей, але в роботі реального пошукового сервісу їх виявили вперше. У виданні The Guardian нагадали, що Google, як лідер на ринку пошуку, має значно більше досвіду у боротьбі з подібними загрозами.
Представники компанії OpenAI поки не коментували цей випадок. Однак компанія заявила, що постійно вдосконалює систему безпеки та застосовує механізми для блокування шкідливих сайтів.
Виявлена вразливість ChatGPT Search демонструє ризики, пов’язані з використанням ШІ для обробки інформації. Відповідно цей випадок підкреслює: важливо завжди перевіряти дані, навіть якщо вони згенеровані високотехнологічними системами.
Джерело: TechCrunch
