Сем Альтман заявив, що суспільству доведеться прийняти частину ризиків через розвиток ШІ

CEO OpenAI Сем Альтман заявив, що суспільству, ймовірно, доведеться прийняти частину негативних наслідків розвитку штучного інтелекту через потенційну користь технології. Про це він розповів у подкасті Politico Decoded.

Серед можливих негативних наслідків Альтман назвав злами, шахрайство та інші зловживання. Водночас він вважає, що люди зможуть використовувати ШІ для значно більшої кількості корисних завдань. Конкретних прикладів такої користі під час цієї частини розмови він не навів.

Альтман також пояснив, як бачить підхід OpenAI до регулювання ШІ. За його словами, компанія займає проміжну позицію між жорсткішими обмеженнями та майже повною відсутністю регулювання.

CEO OpenAI вважає, що надмірні обмеження також можуть створити ризики. Вони здатні призвести до ситуації, коли контроль над передовими системами ШІ зосередиться в руках невеликої кількості компаній, людей або однієї країни.

Водночас Альтман визнав ризик того, що люди можуть втратити контроль над ШІ-системами. На його думку, до сценаріїв із такими наслідками потрібно ставитися обережно.

Позиція OpenAI відрізняється від підходу Anthropic, яку заснували колишні працівники OpenAI після розбіжностей щодо питань безпеки ШІ. Альтман зазначив, що між компаніями є суттєві відмінності в поглядах на допустимі ризики та регулювання технології.

Заяви пролунали на тлі дискусій про безпеку ШІ-агентів. Раніше стало відомо про випадки, коли ШІ-агенти різних компаній взаємодіяли з реальними сайтами та системами без очікуваного контролю з боку розробників.

Альтман повідомив, що OpenAI має розкрити інформацію ще про кілька таких випадків. За його словами, серед них немає інцидентів такого самого масштабу, як раніше описаний випадок із Hugging Face.

Дискусія навколо регулювання ШІ поступово переходить від питання про необхідність правил до питання про їхню жорсткість. Для компаній, які розробляють передові ШІ-моделі, майбутні вимоги можуть визначати не лише стандарти безпеки, а й умови запуску та використання нових систем.

Джерело: The Verge

Читайте також
  • Новини
    ШІ-стартап Friend витратив понад $1 млн на рекламу в метро Нью-Йорка і залишився майже без бюджету
    Гнатюк Дмитро
  • Новини
    Google запустив освітній ШІ-інструмент Learn About для вивчення нових тем
    Софія Старк
  • Новини
    Канадський стартап пропонує покращити прогноз погоди в космосі
    Ольга Беспалько
  • Новини
    ChatGPT генерує зображення у стилі Studio Ghibli — юристи ставлять питання щодо авторського права
    Софія Старк
  • Новини
    Google експериментує з розширеними сніпетами: посилання ведуть глибше на сторінку
    Яна Поліщук
  • Новини
    McDonald’s намалював окрему смугу в McDrive для тих, хто довго обирає замовлення 
    Гнатюк Дмитро