OpenAI створює незалежний комітет з безпеки, який займатиметься контролем процесів під час розробки та впровадження ШІ. Це рішення є відповіддю на рекомендації сенаторів США.
Наразі його очолюватиме професор Зіко Кольтер з університету Карнегі-Меллон, Адам Д’Анджело директор компанії Quora, Пол Накасоне генерал армії США у відставці та Ніколь Селігман колишній виконавчий віцепрезидент Sony.
Комітет вже перевірив безпеку моделі o1. Також він отримуватиме регулярні звіти від команд безпеки та матиме право затримувати випуски, доки проблеми з безпекою моделей не вирішать.
Минулого місяця компанія також підписала угоду з урядом США на проведення досліджень та оцінки моделей штучного інтелекту — це є ще одним кроком у напрямку забезпечення надійності й прозорості.
Джерело: Reuters
