Anthropic заявила, що хакери використовують Claude для кібератак

Підзаголовок: Компанія повідомляє, що хакери, пов’язані з китайськими державними структурами, автоматизували більшість дій під час атак на компанії та урядові установи.

Компанія Anthropic повідомила, що у вересні група хакерів, яких компанія пов’язує з китайською державою, використала модель Claude для проведення близько 30 кібератак на приватні компанії та державні організації. 

За оцінками Anthropic, від 80% до 90% етапів атаки були автоматизовані за допомогою ШІ. Представники компанії зазначають, що процес фактично запускали одним натисканням кнопки, а втручання людини було мінімальним і стосувалося лише окремих ключових етапів.

Такі інциденти демонструють, що автоматизовані кібератаки стають поширенішими. У Google раніше зафіксували випадки, коли російські хакери використовували великі мовні моделі для створення команд до шкідливого програмного забезпечення.

Американські державні відомства протягом багатьох років попереджали, що Китай застосовує технології ШІ для отримання даних компаній і громадян США, хоча китайська сторона ці обвинувачення заперечує. В Anthropic заявляють, що впевнені у зв’язку зловмисників із державними структурами Китаю.

Під час цієї кампанії хакери викрали конфіденційні дані в чотирьох цілей. Назви організацій, на які напад був успішним чи безрезультатним, не розголошують. Водночас Anthropic підкреслює, що державні структури США не стали успішною ціллю атаки.

Джерело: The Verge