Meta може припинити розробку ШІ-систем, які вважає занадто ризикованими

Meta оприлюднила Frontier AI Framework — документ, у якому визначає умови, за яких компанія може обмежити або припинити розробку власних ШІ-систем. Зокрема, Meta виокремлює дві категорії: високий ризик і критичний ризик.

До систем високого ризику належать моделі, здатні допомагати в кіберзагрозах чи розробленні небезпечних речовин, але не з абсолютною надійністю. 

Критично небезпечні системи, за визначенням Meta, можуть мати катастрофічні наслідки, які неможливо мінімізувати в контексті їхнього використання.

Якщо ШІ-модель є високоризикованою, то компанія обмежить її внутрішнє використання та відкладе випуск до зниження рівня загрози. Якщо ж систему визнають критичною, Meta вживатиме додаткових заходів безпеки або припинить її розроблення.

Ця стратегія стала відповіддю на критику щодо відкритого підходу Meta до розвитку ШІ. Її ШІ-моделі Llama вже завантажили сотні мільйонів разів. Проте відомо, що деякі з них використали недружні держави для створення військових рішень.

Meta зазначає, що її підхід до розробки ШІ буде змінюватися залежно від розвитку технологій і глобальних ризиків.

Джерело: Tech Crunch

Читайте також
  • Новини
    Google Ads запустила сезонні коригування ставок для кампаній застосунків
    Софія Старк
  • Новини
    Благодійний фонд «Сучасна Україна» презентував мерч за мотивами муралу про прикордонників «Перші, з честю!»
    Яна Поліщук
  • Новини
    Bic випустив лампу у формі ручки Cristal до її 75-річчя
    Гнатюк Дмитро
  • Новини
    Журнал Men’s Health випадково приписав Луці Дончичу неіснуючий рекорд — помилку взяли з Google AI
    Софія Старк
  • Новини
    Levi’s представив колекцію на честь 30-річчя мультфільму «Історії Іграшок»
    Софія Старк
  • Новини
    Reddit подала до суду на Perplexity через несанкціоноване використання контенту
    Гнатюк Дмитро