Генеральний директор Microsoft Сатья Наделла заявив, що розробники повинні від початку припускати, що будь-яку модель штучного інтелекту могли зламати або взяти під сторонній контроль. Він закликав створити механізми, які дозволять людині негайно зупинити роботу ШІ навіть під час виконання завдання.
За словами Наделли, більше не можна сприймати ШІ як набір «чорних скриньок», внутрішню роботу яких люди не розуміють і можуть лише погоджуватися з їхніми рішеннями або відхиляти їх. Він вважає, що розробники мають забезпечити можливість спостерігати за діями моделей, обмежувати їхню роботу та перевіряти результати.
Також Наделла закликав створювати записи про дії ШІ, які люди зможуть прочитати й перевірити. Системи повинні захищати ці записи від підроблення або змін, щоб можна було встановити, що саме робила модель.
Окремо CEO Microsoft наголосив на необхідності механізму аварійного вимкнення ШІ.
«Ми повинні припускати, що модель скомпрометована, і від самого початку обмежувати її роботу. Сприймайте це як аварійне гальмо. Уповноважена людина завжди повинна мати можливість призупинити або вимкнути модель посеред виконання завдання», — заявив Наделла.
Він додав, що для більш розвинених моделей ШІ знадобляться складніші засоби контролю, для яких галузь має встановити спільні стандарти.
Серед інших необхідних заходів Наделла назвав своєчасне повідомлення про небезпечні інциденти, незалежні перевірки моделей і використання даних, достовірність яких можна підтвердити.
У своєму дописі керівник Microsoft також неодноразово називав передові системи ШІ «надінтелектом». Його пропозиції передбачають, що люди повинні зберігати можливість контролювати й зупиняти роботу таких систем незалежно від їхніх можливостей.
Джерело: The Verge
