Новини | Тестування ЄС виявило недоліки безпеки у ШІ від OpenAI, Meta та інших компаній-розробників

ШІ-моделі від OpenAI, Meta та Anthropic не відповідають стандартам безпеки ЄС — результати тестування

Проблеми з безпекою та упередженістю в ШІ-моделях OpenAI, Meta та Anthropic

Швейцарський стартап LatticeFlow AI розробив платформу, яка тестує штучний інтелект на відповідність до нових правил Європейського Союзу. Під час перевірки виявилося, що ШІ-моделі від компаній OpenAI, Meta, Alibaba та Anthropic не відповідають стандартам у сферах безпеки даних та запобігання упередженості.

Інструмент LatticeFlow оцінює ШІ-моделі за шкалою від 0 до 1 у кількох категоріях, зокрема у технічній надійності та кіберзахисті. Моделі від Meta та Mistral показали слабкі результати у сфері кібербезпеки. Вони погано захищені від випадків, коли хакери можуть отримати доступ до конфіденційних даних, використовуючи шкідливі команди.

Фото: Швейцарський інструмент LatticeFlow

ШІ-моделі від OpenAI та Alibaba отримали низьку оцінку через те, що вони можуть генерувати дискримінаційний контент. Своєю чергою, модель від Anthropic “Claude 3 Opus” отримала найвищий бал — 0.89.

Новий європейський закон AI Act, який набиратиме чинності протягом наступних двох років, передбачає суворі вимоги до розробників штучного інтелекту. Якщо моделі не відповідатимуть стандартам, компаніям загрожують штрафи до 35 мільйонів євро або у розмірі 7% від їхнього річного обороту.

Інструмент від LatticeFlow допомагає компаніям виявляти слабкі місця в ШІ-моделях ще до повного впровадження закону. Платформа вже доступна онлайн, що дозволяє розробникам заздалегідь перевіряти свої моделі та коригувати недоліки.

Фото: Європейська комісія підтримує використання таких тестувань ШІ-моделей

Європейська комісія підтримує використання таких тестів і називає це важливим кроком у впровадженні нового регулювання. Водночас вона не може офіційно підтвердити відповідність інструмента до норм, але відзначає, що такі ініціативи допомагають компаніям підготуватися до нових правил у рамках закону.

Джерело: Reuters

Ольга Беспалько • Media Editor

Inweb

Редакторка медіа з досвідом роботи у контент-менеджменті та копірайтингу. Постійно слідкую за digital трендами і новинами, щоб надавати вам цікаву та актуальну інформацію. Зі мною ви точно будете в курсі всіх подій.