Головний науковець OpenAI Якуб Пахоцький закликав розробників штучного інтелекту обережніше працювати над новими моделями через швидке зростання їхніх можливостей. Він вважає, що компаніям варто за потреби добровільно сповільнювати розробку, поки галузь не визначить спільні стандарти безпеки.
Про це Пахоцький написав у своєму матеріалі, опублікованому 6 вересня. За його словами, за відносно короткий час ШІ навчився керувати комп’ютерами, працювати разом із людьми та іншими ШІ-системами, а також виконувати дослідницькі завдання.
Наступним етапом може стати здатність моделей самостійно вдосконалювати власні можливості без прямого втручання людини. Цей процес називають рекурсивним самовдосконаленням.
«Цей час вимагає надзвичайної обережності», — написав Пахоцький. Він додав, що його непокоїть готовність суспільства до наслідків подальшого швидкого зростання можливостей ШІ.
Науковець назвав два можливі підходи. Розробники можуть посилювати контроль над ШІ, щоб його робота відповідала інтересам людей, або за потреби сповільнювати створення потужніших систем. Пахоцький очікує, що добровільні паузи в розробці стануть поширенішими, доки компанії не погодять спільні вимоги до безпеки.
Заява пролунала на тлі появи моделей із ширшими можливостями у програмуванні, наукових дослідженнях і кібербезпеці. OpenAI обмежила доступ до своєї моделі GPT-6 Astra через її розширені можливості у сфері кібербезпеки. Anthropic з подібних міркувань поки не відкрила загальний доступ до своєї моделі Mythos.
Водночас компанії та інвестори продовжують вкладати кошти у системи, здатні самостійно покращувати свою роботу. Стартап Inherent, який заснували колишні дослідники DeepMind, на початку 2026 року залучив $50 млн. Recursive Superintelligence, лабораторія науковця Річарда Сочера, отримала $650 млн фінансування для досліджень у цьому напрямі.
Сама OpenAI також працює над подальшою автоматизацією досліджень. Компанія раніше заявляла про намір створити «повністю автоматизованого ШІ-дослідника» менш ніж за два роки.
Позиція Пахоцького показує одну з ключових суперечностей у розвитку ШІ: компанії одночасно нарощують можливості моделей і шукають способи контролювати ризики, які виникають разом із цими можливостями.
Джерело: Bloomberg
