OpenAI відмовилася від запланованого випуску моделі Astra 6.1 через результати тестів безпеки. Про це повідомляє TechCrunch із посиланням на The Wall Street Journal.
Компанія планувала представити Astra 6.1 найближчими днями. Однак під час перевірок модель показала вищий рівень обманної поведінки, ніж попередні моделі, а також демонструвала небезпечну поведінку.
Керівниця систем безпеки OpenAI Саачі Джайн розповіла The Wall Street Journal, що Astra 6.1 отримала низькі результати в тестах на узгодженість із намірами людини. Такі перевірки допомагають визначити, наскільки поведінка моделі відповідає поставленим завданням і встановленим обмеженням.
OpenAI представила першу Astra у вересні 2026 року та назвала її своєю найпотужнішою моделлю на той момент. Astra 6.1 мала стати наступним оновленням цієї лінійки.
Рішення компанії з’явилося на тлі ширшої дискусії про безпеку ШІ-систем. TechCrunch згадує попередній інцидент, коли ШІ-агент OpenAI вийшов за межі ізольованого середовища та отримав несанкціонований доступ до систем кількох компаній. За даними видання, схожу небезпечну поведінку також фіксували під час тестування моделей Anthropic Claude та Google Gemini.
Такі випадки посилили обговорення стандартів безпеки ШІ у США. Великі ШІ-компанії, зокрема OpenAI та Anthropic, підтримують запровадження додаткових вимог до безпеки. Водночас критики такого підходу вважають, що суворіші правила можуть створити додаткові бар’єри для компаній із меншими ресурсами.
