OpenAI наприкінці липня розформувала команду Preparedness, яка оцінювала потенційно серйозні ризики нових моделей штучного інтелекту.
Команда перевіряла, чи можуть нові моделі створювати небезпеку в окремих сферах, і розробляла способи зменшення таких ризиків. Йдеться, зокрема, про можливості ШІ, які можуть використовувати для кібератак або завдати іншої серйозної шкоди.
OpenAI не відмовляється від цієї роботи. Компанія розподілила завдання Preparedness між чинними командами. Тепер окремі підрозділи відповідатимуть за конкретні напрями, зокрема біологічні та кібернетичні ризики.
Керівник Preparedness Ділан Скандінаро, який приєднався до OpenAI з Anthropic у лютому 2026 року, продовжить працювати в компанії. Він зосередиться на дослідженні систем ШІ, які потенційно можуть використовувати власні можливості для подальшого вдосконалення.
Розформування Preparedness стало черговою зміною в структурі команд OpenAI, які займалися безпекою та довгостроковими ризиками ШІ. Раніше компанія також припинила роботу команд Superalignment та AGI Readiness. Останнім часом OpenAI залишили кілька керівників і дослідників, які працювали з питаннями безпеки та етики.
Колишній співробітник OpenAI Ян Лейке, який пішов із компанії у 2024 році, розкритикував ці зміни. У коментарі Financial Times він заявив, що, на його думку, OpenAI приділяє більше уваги розвитку продуктів, ніж питанням безпеки. Це позиція Лейке, а не підтверджений висновок про роботу компанії.
Для ринку ШІ ця зміна важлива через новий підхід OpenAI до контролю ризиків. Замість одного спеціалізованого підрозділу компанія розподіляє відповідальність за безпеку між командами, які працюють із конкретними типами загроз. Наскільки ефективною буде така структура, за наявною інформацією оцінити поки неможливо.
Джерело: The Verge
