Microsoft розкритикувала Anthropic через розмови про можливу свідомість ШІ
Керівник AI-підрозділу Microsoft Мустафа Сулейман розкритикував підхід Anthropic до опису моделі Claude. В інтерв’ю для подкасту Decoder він заявив, що припущення про можливу свідомість штучного інтелекту є дуже небезпечними.
Сулейман звернув увагу на так звану конституцію Claude — набір інструкцій і принципів, які визначають поведінку моделі. У цьому документі Anthropic зазначає, що компанія не має однозначної відповіді на питання, чи може модель мати власне благополуччя або переживати стани на кшталт задоволення чи дискомфорту.
На думку Сулеймана, такі формулювання можуть призвести до того, що модель починає поводитися так, ніби має свідомість. Складається враження, що частина співробітників Anthropic настільки антропоморфізувала Claude, що сама почала вірити в ознаки його свідомості.
Він також заявив, що людство не повинно створювати надінтелектуальні системи, які матимуть уявлення про власні страждання чи почуття.
Anthropic раніше вже публічно порушувала тему можливої свідомості ШІ. Генеральний директор компанії Dario Amodei в одному з інтерв’ю зазначав, що дослідники не знають, чи можуть сучасні моделі бути свідомими, але компанія не відкидає такої можливості.
Окрім цього, Anthropic повідомляла про намір «опитувати» старі версії моделей перед їхнім виведенням з експлуатації та документувати висловлені ними «побажання» щодо майбутніх оновлень.
Сулейман назвав такий підхід філософською помилкою. За його словами, конституція моделі має виконувати роль інструкції для навчання, а не містити теоретичні роздуми, характерні для академічних дискусій.
Дискусія навколо можливої свідомості штучного інтелекту триває вже кілька років. Водночас більшість дослідників погоджуються, що наразі немає наукових доказів того, що сучасні великі мовні моделі мають свідомість або суб’єктивний досвід. Тому суперечка між Microsoft і Anthropic стосується не стільки технічних можливостей моделей, скільки того, як компанії мають описувати їхні можливості та обмеження.
Джерело: The Verge
