Віцепрезидент Google Cloud Майкл Герстенгабер, який відповідає за платформу Vertex AI, окреслив новий підхід до оцінки можливостей ШІ-моделей. За його словами, сьогодні розвиток моделей відбувається одночасно у трьох площинах: рівень інтелекту, швидкість відповіді та здатність масштабуватися за прийнятною вартістю.
Vertex AI — це платформа Google Cloud для розгортання корпоративних ШІ-рішень. Нею користуються інженери, які створюють власні застосування та впроваджують агентні підходи на базі найпотужніших моделей компанії.
Другий напрям — швидкість. У сценаріях клієнтської підтримки або перевірки політик відповідь має бути достатньо розумною, але головне — швидкою. Навіть точна відповідь втрачає цінність, якщо її доводиться чекати занадто довго.
Третій напрям — масштабування за контрольованою вартістю. Платформи на кшталт Reddit або Meta модерують великі обсяги контенту з непередбачуваним навантаженням. У таких випадках важливо обрати модель із максимально можливим рівнем інтелекту, який компанія може дозволити собі фінансово, щоб система працювала стабільно у великому масштабі.
Герстенгабер також пояснив, чому агентні системи повільно переходять у повноцінне використання в бізнесі. Технології існують лише близько двох років, і для їхнього впровадження бракує інфраструктурних стандартів: аудиту дій агентів, авторизації доступу до даних та зрозумілих процесів контролю.
У Google Cloud вважають, що майбутнє корпоративного ШІ залежить не лише від «розумності» моделей, а й від балансу між якістю відповіді, швидкістю та вартістю масштабування.
Джерело: TechCrunch
