ШІ поступово заходить у всі сфери життя: від роботи й навчання до вибору подарунків і планування відпустки. Спершу ми передаємо йому рутину: листи, підсумки зустрічей, пошук інформації. Але дедалі частіше делегуємо й саме мислення: просимо ШІ вирішити, оцінити чи сформулювати думку замість нас.
У науковців для цього вже є назва — когнітивна атрофія. Проблема перестала бути лише особистою. Директорка з персоналу Dropbox Мелані Розенвассер розповіла на конференції Fortune, що компанія вивчає цей ризик і тестує спеціальні практики для команди.
Розповідаємо, що відомо про когнітивну атрофію, як на неї реагують компанії і що можна зробити, щоб її не допустити.
Що таке когнітивна атрофія
Принцип той самий, що з мʼязами: без навантаження вони слабшають. Найчастіше йдеться про критичне мислення, памʼять, увагу і здатність довго працювати над складною задачею.
Ще до генеративного ШІ дослідники вивчали, як пошуковики змінюють памʼять: коли людина знає, що інформацію можна легко знайти, вона гірше її запамʼятовує. На це дослідження Sparrow та колег спираються сучасні огляди. Схожі ефекти давно описані в авіації, де автопілот послаблює ручні навички пілотів.
Щодо чатботів термін «когнітивна атрофія, спричинена ШІ-чатботами» запропонували 2024 року. Так назвали поступове послаблення судження через звичку приймати відповіді чатбота без перевірки.
Чому виникає когнітивна атрофія
Люди завжди передавали частину розумової роботи інструментам: записникам, калькуляторам, пошуковикам. Різниця в тому, що ШІ не лише зберігає інформацію, а й сам її опрацьовує: аналізує, робить висновки, формулює думку і видає результат.
Дослідники виділяють три механізми, через які це послаблює мислення:
- Когнітивне розвантаження. Аналітична робота переходить до алгоритму, а людина стає пасивним споживачем готової відповіді, часто не перевіряючи її. Саме розвантаження у дослідженнях і пояснювало звʼязок між частим використанням ШІ та слабшим критичним мисленням.
- Схильність до автоматизації. Людина звикає приймати відповіді ШІ без перевірки, бо вони здебільшого правильні й звучать переконливо, підсилюються графіами та діаграмами, джерелами. Через цю начебто переконливу мову люди можуть не помічати, як ШІ поступово послаблює їхні когнітивні навички.
- Зникнення продуктивної боротьби. Навички мислення розвиваються, коли людина докладає зусиль: шукає рішення, помиляється, пробує знову. ШІ дозволяє цей етап пропустити, оскільки може знайти готове рішення, без необхідності помилятися. Через це людина навчається гірше.
Ці механізми підсилюють один одного. Що менше людина думає сама, то складніше їй помітити помилку ШІ, і то частіше вона приймає його відповідь без перевірки. При цьому відчуття легкості й продуктивності може приховувати те, що навички поступово слабшають.
Як вона проявляється
Когнітивна атрофія розвивається поступово і не має чітких симптомів. Вона проявляється в дрібних змінах поведінки, дослідження описують кілька таких ознак.
Складніше довго працювати над задачею самостійно. Людина тягнеться до ШІ, щойно щось не виходить з першої спроби. Якщо ШІ раптом недоступний, задачу простіше відкласти чи кинути, ніж розібратися самому. Саме це зафіксували дослідники у Берклі: у групі, де посеред завдання забрали ChatGPT, учасники розвʼязали 57% задач, а в групі, яка працювала без ШІ від початку, — 73%. Користувачі ШІ також частіше пропускали задачі, хоча працювали з ним лише близько 10 хвилин.
Відповідь ШІ сприймається як остаточна. Людина перестає перевіряти цифри, факти й логіку, якщо відповідь звучить упевнено. Так розрахунок від ШІ може потрапити у звіт без звірки з даними. Дослідники Wharton назвали це «когнітивною капітуляцією»: коли ШІ помилявся, точність учасників падала на 15 відсоткових пунктів порівняно з людьми без ШІ. При цьому вони почувалися впевненіше, навіть коли помилялися.
Гірше памʼятаєш і розумієш те, що зробив сам. Після роботи над текстом із ШІ складно переказати його головну думку чи пояснити, чому він побудований саме так. У дослідженні MIT Media Lab учасники, які писали есе з ChatGPT, гірше памʼятали власні тексти і менше відчували їх своїми.
У команді стає менше різних ідей і дискусій. Коли всі користуються однаковими інструментами, пропозиції стають схожими, а обговорення коротшають. Майже 90% керівників в опитуванні BCG назвали першою ознакою втрати навичок надмірну довіру до результатів ШІ без перевірки. 49% помічають, що в командах менше різноманіття думок, а 43% — що менше конструктивних дискусій.
Чи насправді проблема настільки глобальна
Справжні масштаби когнітивної атрофії поки невідомі. Жодне дослідження ще не відстежувало тих самих людей упродовж кількох років використання ШІ. Більшість висновків спирається на короткі лабораторні експерименти й опитування.
Тож когнітивну атрофію поки варто називати можливим ризиком, ніж доведеним масовим явищем. Але сигналів уже достатньо, щоб компанії почали на них реагувати.
Як компанії попереджають виникнення когнітивної атрофії у співробітників
Для бізнесу когнітивна атрофія — це насамперед питання якості роботи, оскільки здебільшого людина стає тим, хто перевіряє результат за ШІ.
Під час конференції щодо ШІ, представниця Dropbox, Мелані Розенвассер, зазначила, що компанія залучає працівників виконувати вправи на памʼять, тренування уваги та розвʼязувати головоломки. За її словами, вони вже пробували аналогові виїзди без ґаджетів на природу і запрошували фахівця з дихальних практик для керівної команди.
Bristol Myers Squibb розробляє «коефіцієнт добробуту». Він має визначити, яку частину приросту продуктивності від ШІ компанія забирає собі, а яку повертає працівникам, пояснила директорка з персоналу Аманда Пул.
EY виділили 100 млн доларів у винагороди для працівників, які демонструють людські навички: бізнесове чуття, судження та адаптивність.
На фоні цього BCG опитала 70 топменеджерів різних галузей: половина вже помічає втрату навичок у своїх командах, а понад 60% вважають, що протягом трьох–пʼяти років це може стати загрозою для найму та розвитку компаній. Водночас лише кожна десята компанія має стратегію чи окремі ініціативи проти цього, а третина взагалі не обговорювала тему.
Що варто робити компаніям, аби попередити когнітивну атрофію у співробітників
Більшість практик, які вже тестують великі компанії, не потребує великого бюджету: вони змінюють не інструменти, а порядок роботи.
Визначте зони, де не варто використовувати ШІ
Варто чітко зафіксувати, як використовуати ШІ у роботі. Це стосується не лише заборон, а того:які інструменти дозволені, хто і як перевіряє результат, коли перевірка людиною обовʼязкова. Окремо варто визначити задачі без ШІ — ті, де найважливіші оригінальність, етичне судження чи вміння звести різні дані докупи. Для маркетингової команди це можуть бути позиціонування бренду, вибір головної ідеї кампанії чи відповіді на складні звернення клієнтів.
Змініть порядок роботи для новачків
Shell перебудувала навчання молодших спеціалістів: спершу вони самостійно формулюють проблему, перевіряють припущення й готують базовий аналіз, і лише потім використовують ШІ, щоб його доопрацювати. За першими результатами, новачки стали ставити якісніші питання, чіткіше пояснювати свої рішення і швидше переходити до самостійної роботи.
Ефект втрати наполегливості виникає саме тоді, коли людина звертається по відповідь до ШІ, ще не спробувавши впоратися сама. Тому новачкам варто кілька разів виконати типову задачу вручну, а вже потім передавати її частину ШІ.
Збережіть наставництво
Зараз працівники часто йдуть по пораду до ШІ, а не до колег. Тому варто подумати про те, щоб частіше ділитися порадами, організовувати групи людей, які б разом навчалися, спостерігаючи за досвідченим колегою у неформальній атмосфері.
Оцінюйте не лише результат, а й шлях до нього
Коли ШІ вирівнює якість видимих результатів, керівникам складніше відрізнити справжню експертизу. Тому вато оцінювати не лише, що людина зробила, а й як: які навички застосувала і розвинула. У французькому регуляторі CNIL менеджери оцінюють, чи вміють працівники заперечувати відповіді ШІ, а не лише користуватися ним. Salesforce змінила систему винагород і відзначає тих, хто знаходить інсайти за межами своїх прямих обовʼязків і ділиться знаннями з командою.
Налаштуйте ШІ-інструменти так, щоб вони змушували думати
Компанії, які створюють власних асистентів, можуть закласти в них підштовхування до роздумів. Асистент, який спершу дає підказку, а вже потім рішення, краще зберігає наполегливість. Ще один інструмент — тренування на збоях: деякі компанії навмисно додають у навчальні модулі галюцинації та неочікувані відповіді ШІ, щоб працівники звикали перевіряти результат.
Що робити кожному самостійно
Когнітивна атрофія стосується не лише робочих процесів. Дослідження показують, що результат залежить не від самого факту використання ШІ, а від того, як саме людина з ним працює. Тому кілька звичок можна змінити без допомоги роботодавця.
Спершу подумайте самі
Перед тим як питати ШІ, сформулюйте власну відповідь, гіпотезу чи план, хоча б у кількох реченнях. Так у вас буде з чим порівняти відповідь ШІ. Це важливо, бо учасники в експериментах з ШІ, який помилялися, відповідали гірше, ніж люди без ШІ взагалі.
Якість роботи з ШІ зростає, коли людина, яка пише запит, уже виконала основну розумову роботу сама. Для маркетолога це може виглядати так: спершу визначити аудиторію і головну думку кампанії, а вже потім просити ШІ варіанти заголовків.
Коли вчитеся новому, просіть пояснень, а не готового результату
У дослідженні Шен і Тамкіна найкращі результати показали учасники, які питали ШІ лише про концепції або просили пояснень разом зі згенерованим кодом. Найгірше навчилися ті, хто повністю покладався на ШІ у створенні коду.
Можна задати для ШІ роль наставника: попросити не давати готової відповіді, а ставити навідні питання й підказувати наступний крок. Коли ж ШІ дає готовий результат, попросіть пояснити, чому він саме такий.
Використовуйте ШІ як опонента
Зазвичай ми працюємо з ШІ лінійно: описуємо задачу, отримуємо відповідь, трохи її виправляємо. Можна змінити напрям: просити ШІ знайти слабкі місця у вашому рішенні, назвати сценарії, за яких план не спрацює, або навмисно запропонувати рішення, яке не працює. Так ШІ провокує питання, а не замінює роздуми.
Будьте найуважнішими, коли відповідь звучить найпереконливіше
Робота з ШІ підвищує впевненість навіть тоді, коли чатбот помиляється. Тобто відчуття «тут усе правильно» не є надійним сигналом. Перевіряйте ключові факти, цифри та джерела, особливо в текстах, які підуть клієнтам чи в публікацію, і просіть ШІ вказати, у чому він не впевнений.
Залиште собі навички, які хочете зберегти
Визначте одну–дві навички, на яких тримається ваша професія: для копірайтерки це може бути структура тексту, для аналітика — інтерпретація даних. Регулярно виконуйте такі задачі без ШІ, навіть якщо з ним вийшло б швидше.
Ризик атрофії залежить не від ШІ, а від того, як ним користуватися
Дослідження поки не дають відповіді, наскільки масштабною стане когнітивна атрофія. Але вони вже показують закономірність: коли ШІ замінює мислення, навички слабшають, а коли підтримує його, людина продовжує вчитися.
Для компаній це питання правил і процесів, а не відмови від технології. Для кожного з нас — питання звичок: що ми передаємо ШІ, а що свідомо залишаємо собі.
