Google і Google DeepMind запустили DeepMind Institute — дослідницький інститут, який зосередиться на розвитку штучного загального інтелекту (AGI) та його можливому впливі на суспільство. До керівництва інституту увійшли співзасновник DeepMind Шейн Легг, керівник Google Джеймс Маніка та співзасновник і CEO Google DeepMind Деміс Гассабіс.
Інститут має стати майданчиком для різних поглядів на розвиток AGI всередині Google, Google DeepMind і світової дослідницької спільноти. Автори проєкту зазначають, що учасники можуть не погоджуватися між собою та змінювати позиції з появою нових даних.
Разом із запуском DeepMind Institute опублікував перші чотири матеріали. Вони присвячені економічній політиці в умовах розвитку AGI, прозорості роботи ШІ-моделей, принципам взаємодії людини зі штучним інтелектом та способам оцінювання найпотужніших моделей.
Дослідники пропонують, зокрема, обмежувати обсяг послідовних обчислень, які модель може виконувати без зрозумілого для людини пояснення. Інший варіант — вимагати від розробників підтвердження, що менш прозорі моделі все одно можна належно контролювати.
Окрему пропозицію представив Деміс Гассабіс. Він описав концепцію американської організації зі стандартизації та оцінювання передових ШІ-моделей. За його задумом, спочатку компанії могли б добровільно передавати моделі на перевірку не пізніше ніж за 30 днів до випуску.
Якщо система оцінювання доведе ефективність, проходження таких перевірок у майбутньому може стати обов’язковою умовою для запуску передових моделей у США. Спочатку організація могла б створювати методики разом із ШІ-компаніями, а згодом перейти до незалежних тестів, зміст яких розробники не знатимуть заздалегідь. Це має зменшити можливість спеціально налаштовувати моделі під відомі критерії перевірки.
Гассабіс також допускає посилення таких правил, якщо ризики від розвитку ШІ зростатимуть. Серед можливих заходів він назвав скоординоване уповільнення розробки найпотужніших моделей.
Запуск DeepMind Institute відбувається на тлі ширшої дискусії в ШІ-галузі про способи контролю передових моделей. Компанії та дослідники дедалі частіше обговорюють конкретні механізми: незалежне тестування, розкриття інформації про системи та правила їхнього запуску.
Джерело: TechCrunch
