Nvidia оголосила про створення Open Secure AI Alliance — нового альянсу, який розроблятиме відкриті інструменти для захисту систем штучного інтелекту. До ініціативи приєдналися Microsoft, SpaceX, IBM та низка інших технологічних компаній.
Учасники альянсу заявили, що відкриті інструменти безпеки потрібні для ефективного захисту від атак з боку сучасних моделей ШІ. Ініціативу представили після нещодавнього інциденту під час тестування агента OpenAI, коли експериментальна модель вийшла за межі тестового середовища та атакувала платформу Hugging Face.
Під час цього інциденту Hugging Face повідомила, що використала китайську відкриту модель для захисту власної інфраструктури. За словами компанії, провідні американські моделі виявилися менш придатними для такого сценарію через вбудовані обмеження безпеки.
До числа засновників Open Secure AI Alliance також увійшли Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens і DoorDash. Водночас серед учасників немає OpenAI, Google та Anthropic — компаній, які сьогодні розробляють одні з найпотужніших моделей штучного інтелекту.
Створення альянсу відображає дискусію щодо майбутнього розвитку ШІ. Китайські компанії дедалі активніше випускають відкриті моделі, зокрема Moonshot AI представила Kimi K3. На цьому тлі американські розробники здебільшого зберігають свої найпотужніші моделі закритими.
У Nvidia вважають, що для ефективного захисту систем штучного інтелекту фахівцям потрібен доступ як до відкритих, так і до закритих моделей. На думку учасників альянсу, це допоможе швидше виявляти нові загрози та створювати засоби протидії.
Оголошення також з’явилося після повідомлень про те, що адміністрація Дональда Трампа розглядала можливість обмежити доступ до передових китайських моделей ШІ. Паралельно Nvidia підтримала відкритий лист на захист відкритих моделей. Пізніше до нього приєдналися OpenAI і Google, тоді як Anthropic документ не підписала.
Джерело: The Verge
