Pinterest и NVIDIA запустили ИИ-инфраструктуру на Blackwell

Pinterest развернула новую инфраструктуру искусственного интеллекта совместно с NVIDIA. Ее основу составила вычислительная платформа с графическими процессорами поколения Blackwell и технологией NVIDIA Dynamo.

Главная задача системы – масштабировать мультимодальные модели. Они сразу анализируют огромные размеры изображений и текста. Для сервиса это критично. Поиск и рекомендации здесь в значительной степени опираются на визуальный контент.

Обновленная архитектура позволяет обрабатывать больше визуальных данных. Время ожидания ответа при этом не растет пропорционально.

Pinterest Assistant получил в 25 раз больше контекста

Одним из первых продуктов на новой системе стал Pinterest Assistant. После перехода помощник может использовать в 25 раз больше визуального контекста в одном запросе.

Модель одновременно учитывает гораздо большее количество изображений. Это улучшает ответы на запросы, где важны не только пользовательские слова, но и набор визуальных примеров.

Во время тестирования было зафиксировано примерно 85-кратное ускорение начала генерации ответа. Общая задержка сократилась в 7,3 раза.

Ключевым решением стало предварительное вычисление визуальных представлений. Система заранее преобразует изображение в формат модели. Далее повторно применяет данные в следующих запросах.

Оригинальные изображения больше не нужно пропускать каждый раз через полный цикл обработки. Погрузка уменьшается. Работа с большими массивами контента ускоряется.

NVIDIA Dynamo управляет выполнением ИИ-нагрузок. Ускорители Blackwell обеспечивают необходимую вычислительную мощность.

Расширение сотрудничества с NVIDIA происходит вместе с ростом затрат на облачные вычисления. В июне компания объявила о расширении долгосрочного партнерства с Amazon Web Services. Pinterest планирует потратить около 4 миллиардов долларов на облачные услуги AWS к 2031 году.

Собственный уровень ИИ инфраструктуры и наращивание облачных мощностей должны обеспечить ресурсы для развития поиска, рекомендаций и помощников. Они работают одновременно с текстом и изображениями.