Дослідник Anthropic Джейкоб Коксон звільнився з компанії через побоювання щодо розвитку ШІ, здатного самостійно вдосконалювати свої можливості. Про своє рішення він повідомив у X. Раніше Коксон протягом трьох років займався дослідженнями в OpenAI та Anthropic.
Коксон вважає, що створення систем, які зможуть самостійно розробляти свої наступні й потужніші версії, може ускладнити контроль людей над ШІ. Він закликав компанії, які працюють над такими технологіями, домовитися про обмеження темпів їхнього розвитку.
За словами Коксона, фахівці OpenAI та Anthropic усвідомлюють потенційні ризики потужних систем ШІ. Водночас конкуренція між компаніями стимулює їх продовжувати розробки. Дослідник вважає, що американські компанії можуть координувати роботу та за потреби тимчасово обмежити подальше підвищення можливостей моделей.
Дискусія навколо таких систем виходить за межі технологічних компаній. У США сенатор Берні Сандерс і конгресмен Грег Касар представили законопроєкт Ban Artificial Superintelligence Act, який передбачає обмеження розробки та використання штучного суперінтелекту. У Великій Британії депутат Алекс Собел представив законопроєкт Artificial Superintelligence Security Bill.
Водночас компанії та стартапи продовжують залучати кошти для роботи над системами, здатними вдосконалювати себе. За даними TechCrunch, Ricursive Intelligence у лютому залучила $335 млн при оцінці $4 млрд, а Recursive Superintelligence через три місяці отримала $650 млн фінансування при такій самій оцінці.
Обговорення зосереджується на тому, чи зможуть розробники зберегти контроль над системами, якщо ШІ навчиться самостійно створювати потужніші версії себе. Коксон закликає компанії узгодити правила розвитку таких технологій до того, як вони досягнуть цього рівня.
Джерело: TechCrunch
