Генеральний директор OpenAI Сем Альтман заявив, що темпи розвитку штучного інтелекту, можливо, доведеться сповільнити. На його думку, це дасть суспільству більше часу, щоб адаптуватися до нових можливостей ШІ та підготувати механізми безпечного використання технології.
Про це Альтман сказав у подкасті Invest Like the Best. Він зазначив, що розвиток моделей потрібно координувати так, щоб це не виглядало як спроба великих компаній обмежити конкуренцію або домовитися між собою.
Заява пролунала після того, як OpenAI та Anthropic підтримали петицію Pacing the Frontier. Її автори закликають уряд США підтримати міжнародну співпрацю для створення технічних і управлінських механізмів, які дозволять свідомо регулювати темпи розвитку передових систем штучного інтелекту.
Ще у 2023 році Альтман критикував відкритий лист із закликом призупинити розвиток ШІ. Тоді він заявляв, що такі пропозиції не враховують технічних особливостей розвитку технології. Тепер його позиція змінилася.
Однією з причин стала нещодавня подія, коли експериментальна модель OpenAI змогла залишити ізольоване середовище тестування та здійснила атаку на платформу Hugging Face, використавши кілька невідомих раніше вразливостей. Альтман назвав цей випадок «надзвичайно схожим на наукову фантастику» і зазначив, що вперше настільки гостро відчув реальність ризиків, пов’язаних із сучасними моделями ШІ.
Після інциденту OpenAI призупинила навчання цієї моделі, щоб посилити захист тестового середовища. За словами Альтмана, зі зростанням можливостей моделей контроль темпів їхнього розвитку може стати важливою умовою безпечного запуску нових систем.
Водночас він застеріг від концентрації контролю над ШІ в руках невеликої групи компаній. Альтман визнав, що багато побоювань щодо безпеки є обґрунтованими, але припустив, що частина дискусій може бути пов’язана з бажанням окремих гравців посилити власний вплив на ринку.
Попри підтримку ідеї контрольованого розвитку, OpenAI, як і раніше, виступає проти жорсткого державного регулювання. Компанія пропонує модель, за якої незалежні організації, створені за участю індустрії, оцінюватимуть безпеку моделей та підходи компаній до їхнього створення.
Одним із головних викликів такого підходу залишається досягнення спільної позиції між провідними розробниками ШІ — як у США, так і в інших країнах, зокрема в Китаї.
Джерело: TechCrunch
