Моделі штучного інтелекту обирають випадкові числа так само як і люди, демонструючи упередженість.
Люди часто борються зі справжньою випадковістю. Наприклад, коли просять передбачити 100 підкидань монети, проявляються патерни. Хоча підкидання монети часто включає послідовності, такі як випадання шести чи семи аверсів або реверсів поспіль, які людські прогнози рідко відображають.
Так само, обираючи число від 0 до 100, люди уникають цифр 1 або 100. А також кратних 5 і цифр, що повторюються, надаючи перевагу числам на кшталт 7 і тим, що знаходяться в середньому діапазоні.
Ця людська передбачуваність поширюється і на ШІ-моделі. Інженери з Gramener провели неофіційний експеримент, попросивши відомі мовні моделі (LLM) вибрати випадкові числа від 0 до 100. Результати виявилися далеко не випадковими.
OpenAI GPT-3.5 Turbo часто обирала число 47, або віддавала перевагу числу 42, відомому з книги Дугласа Адамса «Путівник автостопом по Галактиці».
Модель Anthropic Claude 3 Haiku також віддавала перевагу 42, а Gemini — 72. Ці моделі також демонстрували людські упередження: вони уникали низьких і високих чисел, чисел, кратних 10, і цифр, що повторюються, причому вподобання групувалися навколо певних «фаворитів».
Причина такої поведінки криється в навчальних даних. ШІ-моделі генерують відповіді на основі шаблонів, отриманих під час навчання, імітуючи звичайну людську поведінку, яку можна побачити в даних. Коли їх запитують про випадкове число, вони відтворюють відповіді зі своєї навчальної бази. Тому такі числа, як 100, обираються рідко, оскільки вони рідко з’являються в навчальних даних.
ШІ-моделі, хоч і несвідомо, але імітують людські патерни. Вони не розуміють випадковості чи чисел, але відтворюють людські реакції на основі навчальних даних. Така поведінка підкреслює залежність моделей від шаблонів даних і наголошує на необхідності уникати антропоморфізації можливостей ШІ.
Джерело: TechCrunch
