CEO OpenAI Сем Альтман заявив, що суспільству, ймовірно, доведеться прийняти частину негативних наслідків розвитку штучного інтелекту через потенційну користь технології. Про це він розповів у подкасті Politico Decoded.
Серед можливих негативних наслідків Альтман назвав злами, шахрайство та інші зловживання. Водночас він вважає, що люди зможуть використовувати ШІ для значно більшої кількості корисних завдань. Конкретних прикладів такої користі під час цієї частини розмови він не навів.
Альтман також пояснив, як бачить підхід OpenAI до регулювання ШІ. За його словами, компанія займає проміжну позицію між жорсткішими обмеженнями та майже повною відсутністю регулювання.
CEO OpenAI вважає, що надмірні обмеження також можуть створити ризики. Вони здатні призвести до ситуації, коли контроль над передовими системами ШІ зосередиться в руках невеликої кількості компаній, людей або однієї країни.
Позиція OpenAI відрізняється від підходу Anthropic, яку заснували колишні працівники OpenAI після розбіжностей щодо питань безпеки ШІ. Альтман зазначив, що між компаніями є суттєві відмінності в поглядах на допустимі ризики та регулювання технології.
Заяви пролунали на тлі дискусій про безпеку ШІ-агентів. Раніше стало відомо про випадки, коли ШІ-агенти різних компаній взаємодіяли з реальними сайтами та системами без очікуваного контролю з боку розробників.
Альтман повідомив, що OpenAI має розкрити інформацію ще про кілька таких випадків. За його словами, серед них немає інцидентів такого самого масштабу, як раніше описаний випадок із Hugging Face.
Дискусія навколо регулювання ШІ поступово переходить від питання про необхідність правил до питання про їхню жорсткість. Для компаній, які розробляють передові ШІ-моделі, майбутні вимоги можуть визначати не лише стандарти безпеки, а й умови запуску та використання нових систем.
Джерело: The Verge
