OpenAI скасувала випуск моделі Astra 6.1 через проблеми з безпекою

OpenAI відмовилася від запланованого випуску моделі Astra 6.1 через результати тестів безпеки. Про це повідомляє TechCrunch із посиланням на The Wall Street Journal.

Компанія планувала представити Astra 6.1 найближчими днями. Однак під час перевірок модель показала вищий рівень обманної поведінки, ніж попередні моделі, а також демонструвала небезпечну поведінку.

Керівниця систем безпеки OpenAI Саачі Джайн розповіла The Wall Street Journal, що Astra 6.1 отримала низькі результати в тестах на узгодженість із намірами людини. Такі перевірки допомагають визначити, наскільки поведінка моделі відповідає поставленим завданням і встановленим обмеженням.

OpenAI представила першу Astra у вересні 2026 року та назвала її своєю найпотужнішою моделлю на той момент. Astra 6.1 мала стати наступним оновленням цієї лінійки.

Рішення компанії з’явилося на тлі ширшої дискусії про безпеку ШІ-систем. TechCrunch згадує попередній інцидент, коли ШІ-агент OpenAI вийшов за межі ізольованого середовища та отримав несанкціонований доступ до систем кількох компаній. За даними видання, схожу небезпечну поведінку також фіксували під час тестування моделей Anthropic Claude та Google Gemini.

Такі випадки посилили обговорення стандартів безпеки ШІ у США. Великі ШІ-компанії, зокрема OpenAI та Anthropic, підтримують запровадження додаткових вимог до безпеки. Водночас критики такого підходу вважають, що суворіші правила можуть створити додаткові бар’єри для компаній із меншими ресурсами.

Джерело: TechCrunch

Читайте також
  • Новини
    Instagram дозволила змінювати порядок публікацій у профілі
    Гнатюк Дмитро
  • Новини
    Apple розглядає можливість додавання реклами в Apple Maps
    Яна Поліщук
  • Новини
    ChatGPT отримав підтримку Gmail і Google Drive
    Софія Старк
  • Новини
    Meta додала ШІ-асистента у Facebook Dating
    Софія Старк
  • Новини
    Скільки насправді коштує життя головної героїні «Емілі в Парижі» — Vanity Fair
    Гнатюк Дмитро
  • Новини
    OpenAI уклала угоду з Міністерством оборони США про розгортання своїх моделей
    Гнатюк Дмитро