AI Overviews пояснює вигадані фразеологізми наче вони справжні

Система AI Overview у пошуковику Google продовжує розповсюджувати дезинформацію, на цей раз користувачі помітили, що система вразлива до вигаданих ідіом.

Британський історик Грег Дженнер звернув увагу на випадок, коли Google видав значення фрази You can’t lick a badger twice (Не можна облизати борсука двічі), трактуючи її як метафору про неможливість обдурити когось повторно.

Someone on Threads noticed you can type any random sentence into Google, then add “meaning” afterwards, and you’ll get an AI explanation of a famous idiom or phrase you just made up. Here is mine

[image or embed]

— Greg Jenner (@gregjenner.bsky.social) 23 квітня 2025 р. о 13:15

Проблема полягає в тому, що такого виразу не існує — він був вигаданий навмисно, щоб перевірити реакцію алгоритму.

Схожі ситуації виявились і з іншими запитами: You can’t open a peanut butter jar with two left feet (Не можна відкрити банку з арахісовою пастою з двома лівими ногами) AI пояснив як вказівку на необхідність практики у чомусь. У всіх випадках алгоритм намагався знайти логіку там, де її не існувало.

Ці випадки підтверджують, що мовні моделі не завжди здатні відрізнити справжню інформацію від вигадки. Вони не ставлять під сумнів зміст, якщо він сформульований у звичній граматичній формі.

Показовим прикладом стала історія з адвокатами Стівеном Шварцем і Пітером ЛоДукою, які у 2023 році використали ChatGPT для підготовки судового документа. Модель згенерувала посилання на неіснуючі справи, за що юристи отримали штраф у 5 000 доларів.

Помилки такого типу — не виняток, а характерна риса сучасних генеративних моделей. Вони не мають критичного мислення і спираються на ймовірнісне прогнозування тексту, а не перевірку фактів. Це варто враховувати при роботі зі ШІ як джерелом інформації: його відповіді потребують перевірки, навіть якщо виглядають логічними.

Джерело: Engadget