Нову інфраструктуру Pinterest побудувала на обчислювальній платформі NVIDIA з використанням графічних процесорів покоління Blackwell та технології NVIDIA Dynamo. Основним завданням системи стало масштабування мультимодальних моделей, для яких необхідно одночасно аналізувати значні обсяги візуальної та текстової інформації.
Для Pinterest це особливо важливо через специфіку самої платформи, де значна частина пошуку та рекомендацій ґрунтується на зображеннях. Нова архітектура має дозволити ШІ-сервісам аналізувати більше візуальних даних без пропорційного збільшення часу очікування відповіді.
Pinterest Assistant обробляє у 25 разів більше візуального контекстуОдним із перших продуктів, який працює на оновленій інфраструктурі, став Pinterest Assistant. Після переходу на нову систему ШІ-помічник може використовувати до 25 разів більше візуального контексту в межах одного запиту.
Фактично це означає, що модель здатна одночасно враховувати значно більшу кількість зображень під час формування відповіді. Такий підхід має покращити роботу сервісу із запитами, де результат залежить не лише від текстового опису користувача,
а й від аналізу набору візуальних прикладів.
Pinterest також заявила про суттєве підвищення швидкості роботи системи. Під час тестування компанія зафіксувала приблизно 85-разове прискорення початку генерації відповіді, тоді як загальна затримка скоротилася у 7,3 раза.
Зображення не потрібно обробляти заново під час кожного запитуОдним із ключових технічних рішень стало використання попередньо обчислених візуальних представлень. Система заздалегідь перетворює зображення у формат, який може використовувати ШІ-модель, та повторно застосовує отримані дані під час наступних запитів.
Завдяки цьому оригінальні зображення не потрібно щоразу заново пропускати через усі етапи обробки. Це зменшує обчислювальне навантаження та дозволяє швидше працювати з великими масивами візуального контенту.
NVIDIA Dynamo у цій архітектурі використовується для керування виконанням ШІ-навантажень, тоді як прискорювачі Blackwell забезпечують необхідні обчислювальні ресурси для роботи мультимодальних моделей.
Pinterest інвестує і в хмарну інфраструктуруРозширення співпраці з NVIDIA відбувається паралельно зі збільшенням витрат Pinterest на хмарні обчислення.
У червні компанія оголосила про розширення довгострокового партнерства з Amazon Web Services. За домовленістю Pinterest планує витратити близько $4 млрд на хмарні послуги AWS до 2031 року.
Розвиток власного рівня ШІ-інфраструктури разом із NVIDIA та одночасне нарощування хмарних потужностей мають забезпечити Pinterest обчислювальними ресурсами для подальшого розвитку пошуку, рекомендацій і ШІ-помічників, які працюють одночасно з текстовим та візуальним контентом.
