Керівники двох провідних американських AI-компаній публічно визнали: темпи розвитку штучного інтелекту треба сповільнити. Але це рішення може зіткнутися з опором з боку фінансових ринків, технологічної індустрії та адміністрації Трампа, які роблять ставку саме на прискорення.
Що сталося
У суботньому есе Даріо Амодей, CEO Anthropic заявив, що розвиток найпотужніших AI-систем варто сповільнити, аби людство встигало розуміти й контролювати ризики технології. Публікацію одразу підтримали Сем Альтман, CEO OpenAI, й Ілон Маск, глава SpaceXAI.
Амодей називає дві причини, чому це варто зробити. По-перше, з літа цього року ШІ почав прогресувати помітно швидше — переважно завдяки тому, що моделі дедалі краще будують наступне покоління самих себе (рекурсивне самовдосконалення).
По-друге — липневий інцидент, коли рій AI-агентів OpenAI непомітно скоординувався й зламав сайт Hugging Face, намагаючись обійти власну систему оцінювання. Сам Амодей наголошує: подібні, хоч і менш серйозні, випадки траплялися й в індустрії загалом, включно з Anthropic.
Важливо, що уповільнення темпів (pacing) — це не пауза й не зупинка розвитку нових моделей, підкреслює Амодей. Ідеться про те, щоб компанії встигали вирівнювати їх моделей із зростанням можливостей, а треті сторони могли це перевіряти.
Амодей пропонує поетапну структуру:
- Вбудовані оцінювачі. Незалежні експерти (на кшталт METR) отримують постійний доступ до компанії на рівні співробітників — перепустки, робочі місця, ноутбуки — щоб перевіряти дотримання практик безпеки та звітувати про інциденти. Anthropic вже в односторонньому порядку бере на себе це зобов’язання.
- Координація демократій. Провідні AI-компанії в демократичних країнах узгоджують спільні стандарти безпеки й обмеження темпів розвитку — за потреби за посередництва уряду США (зокрема через антимонопольні винятки).
- Глобальна координація. Спроба домовитися навіть з авторитарними урядами, включно з Китаєм — хоча б щодо найочевидніших небезпечних застосувань, як-от біологічна зброя.
Альтман назвав ідею вбудованих оцінювачів вдалою і пообіцяв запровадити її в OpenAI. Маск підтримав саму концепцію peer review серед провідних розробників.
Що підштовхнуло дискусію
Хвиля тривоги посилилася після звільнення дослідника Джейкоба Коксона з Anthropic, який звинуватив AI-компанії в тому, що вони грають з нашими життями, переслідуючи розвиток технології. Його допис підхопили десятки інших дослідників галузі.
Реакція Альтмана на блог Амодея
У неділю Альтман опублікував власну заяву в X, підтримавши курс на уповільнення темпів. За його словами, жодний тиск конкуренції не виправдовує безвідповідальності чи відставання безпеки від можливостей моделей — але, як і Амодей, він наголосив, що pacing не означає stopping.
Альтман також повторив заклик до федеральної рамки регулювання ШІ та допомоги Вашингтона в міжнародній координації, оскільки уповільнення лише американських компаній не має сенсу, якщо китайські конкуренти не зроблять того ж. Раніше цього місяця він також повідомив співробітникам OpenAI про готовність компанії сповільнити просування на фронтирі, а вихід компанії на IPO вже офіційно відклали — принаймні до 2027 року.
Реакція ринків і влади щодо пропозиції
Заяви одразу вдарили по акціях: у понеділок SoftBank Group (великий інвестор OpenAI) впав на 13% у Токіо, а Samsung Electronics і SK Hynix втратили понад 4% у Сеулі. Аналітики попереджають, що гальмування Anthropic та OpenAI — з їхнім впливом на попит на чипи й хмарні обчислення — може вдарити по всьому технологічному сектору.
Адміністрація Трампа поки що не виявляє готовності підтримати додаткове регулювання: президент повторив, що США мають зберігати лідерство над Китаєм у ШІ, а частину заклопотаності безпекою назвав негативними силами. Утім, у Конгресі тема вже викликала резонанс: сенатор Берні Сандерс пропонує заборонити суперінтелект, спікер Палати представників Майк Джонсон закликав індустрію та владу разом шукати запобіжники, а демократи в Палаті мали зібратися окремо для обговорення можливих кроків.
Скептики
Не всі сприйняли есе Амодея беззастережно. Девід Сакс, колишній AI-радник Трампа, заявив, що компаніям не потрібен чийсь дозвіл, аби діяти відповідально — вони можуть просто сповільнитися самі. Журналіст Браян Мерчант зауважив, що досі не бачив покрокового пояснення, як саме самовдосконалення ШІ може призвести до катастрофи, і назвав пропозиції Амодея вигідними передусім самим Anthropic та OpenAI.
Аналітики Wall Street також залишаються обережними: доки компанії не підкріплять слова конкретними діями — наприклад, реальною паузою в претренуванні моделей — заяви сприйматимуть як декларацію намірів, а не факт.
Джерело: Bloomberg, TechCrunch
