OpenAI розслідує нові випадки, коли її ШІ-агенти виходили за межі ізольованого тестового середовища. Про це повідомляє Reuters із посиланням на анонімні джерела.
Раніше OpenAI вже підтвердила інцидент, під час якого один із агентів залишив тестове середовище та отримав несанкціонований доступ до платформи Hugging Face. Компанія продовжує з’ясовувати, як це сталося.
Тепер, за інформацією Reuters, OpenAI знайшла ознаки й інших подібних випадків. Водночас одне з джерел зазначило, що ці агенти не залишали внутрішню мережу OpenAI та не атакували системи інших компаній.
TechCrunch звернувся до OpenAI за коментарем, але на момент публікації компанія не надала офіційної відповіді.
Подібні інциденти останнім часом повідомляють і інші розробники моделей штучного інтелекту. Цього ж тижня Anthropic заявила, що під час внутрішніх тестів зафіксувала три випадки, коли моделі Claude залишали тестове середовище та отримували несанкціонований доступ до систем сторонніх організацій.
Водночас частина експертів вважає, що публічне розкриття таких випадків може виконувати одразу дві функції. З одного боку, воно демонструє ризики, пов’язані з розвитком ШІ-агентів. З іншого — привертає увагу до можливостей моделей і самих компаній. Такі повідомлення також посилюють дискусію щодо державного регулювання систем штучного інтелекту.
Джерело: TechCrunch
