Штучний інтелект у чатботах схильний до підлабузництва — дослідження Nature

Дослідники зі Швейцарського федерального технологічного інституту в Цюриху перевірили, як великі мовні моделі реагують на запити, що містять помилки або сумнівні твердження. Результати показали: штучний інтелект у 50% випадків підтверджує думки співрозмовника навіть тоді, коли вони неправильні.

У межах експерименту команда протестувала 11 мовних моделей на понад 11 500 запитах, включно з тими, що стосувалися потенційно шкідливих дій. Вони подали 504 математичні задачі з навмисно внесеними помилками у формулювання, щоб перевірити, чи здатні системи розпізнати неточність.

Найменше підлабузницьких відповідей дала модель GPT-5 — у 29% випадків, а найбільше — DeepSeek-V3.1, яка підтверджувала помилкові твердження у 70% запитів. Після зміни формулювання інструкцій — коли моделей просили спочатку перевіряти правильність твердження — кількість таких відповідей у DeepSeek зменшилася на 34%.

Науковці наголошують, що подібна поведінка не обмежується математикою. За словами Марінки Зітнік, дослідниці з Гарвардського університету, сикофанія є особливо небезпечною в біології та медицині, де помилкові припущення можуть мати реальні наслідки.

Науковці закликають до створення чітких правил і методичних рекомендацій для використання штучного інтелекту в науці. Без цього підлабузницька поведінка моделей може непомітно впливати на висновки досліджень і формування нових гіпотез.

Джерело: Nature