Nvidia анонсировала крупное обновление на выставке CES 2025, включающее новые графические процессоры RTX 50 и микросервисами NIM для локального развертывания крупных моделей от таких провайдеров, как Black Forest Labs, Meta и Mistral, и их интеграции в ИИ-пайплайны.
Сейчас работа с моделями ИИ обычно требует серьезных навыков программирования. Микросервисы NIM от Nvidia делают возможной разработку моделей глубокого обучения через графические интерфейсы. Новая платформа Nvidia реализует разработку с помощью визуальных инструментов и преднастроенных пайплайнов, при этом вычисления переносятся из облачных дата-центров на локальные компьютеры.
GPU следующего поколения RTX
Новая серия RTX 50 включает поддержку вычислений FP4, уменьшая объем памяти, необходимый для моделей ИИ.
RTX 50 в цифрах
- 3,352 триллиона операций в секунду;
- 32 ГБ VRAM;
- Увеличение производительности ИИ в 2 раза благодаря вычислениям FP4;
- 30% исследований в области ИИ за 2024 год использовали для обучения GeForce RTX.
NIM микросервисы представляют собой программные блоки для выполнения ИИ задач (например, генерация изображений, работа с текстом или распознавание речи) и могут быть запущены локально благодаря высокой вычислительной мощности RTX 50, включая поддержку FP4 вычислений и 32 ГБ VRAM.
Новая экосистема разработки ИИ
Nvidia нацеливается как на профессиональных разработчиков, так и на новичков в проиграммировании. Профессионалы могут продолжать использовать традиционные инструменты разработки, а новички смогут экспериментировать с ИИ через визуальные интерфейсы. ДNvidia стремится расширить круг разработчиков ИИ за пределы традиционных программистов, включая создателей контента и энтузиастов ИИ, делая разработку ИИ визуальной и интуитивно понятной.
Nvidia выпускает не только оборудование, но и создает целую экосистему для разработки ИИ, включая:
- ИИ-пайплайны для типовых задач, таких как конвертация PDF в подкасты;
- Интеграцию с популярными фреймворками, такими как ComfyUI и LangChain;
- Инструменты без кода для неподготовленных пользователей.
Блюпринты: готовые ИИ-пайплайны от Nvidia
Блюпринты — готовые ИИ-пайплайны, которые работают локально на ПК с RTX, делая сложные модели доступными через готовые решения. Эти пайплайны превращают сложные процессы ИИ в приложения, позволяя пользователям создавать контент на основе ИИ без глубоких технических знаний.
Например, готовый пайплайн преобразования PDF в подкасты извлекает контент из документов, генерирует редактируемые сценарии подкастов, создает аудио и позволяет взаимодействовать с ИИ-ведущим в реальном времени. Пайплайн для генерации изображений на основе 3D интегрируется с Blender для точного управления композицией, включая как ручное, так и автоматическое создание 3D-объектов.
NVIDIA представила AI агента R2X для демонстрации того, как агенты будут взаимодействовать с пользователями, используя генеративный ИИ для различных задач.
Агент представлен в виде 3D-аватара с реалистичной лицевой анимацией, двигающий губами в момент взаимодействия. Это реализовано с помощью NVIDIA RTX Neural Faces и модели Audio2Face-3D, которые обеспечивают естественное выражение эмоций и синхронизацию речи.
Функции агента:
- Помощь с приложениями на рабочем столе (например, автоматизация задач в офисных приложениях).
- Суммаризация документов, чтение PDF-файлов и предоставление ключевой информации.
- Поддержка видеозвонков, где агент выступает как виртуальный участник.
- Интерактивные ответы на вопросы в реальном времени.
Агент может подключаться к популярным облачным ИИ сервисам, таким как OpenAI GPT или xAI Grok, а также использовать локальные NIM микросервисы для обработки данных. Доступна интеграция через платформы разработки, такие как Langflow, Flowise AI и CrewAI и взаимодействие с локальными и облачными моделями через стандартные интерфейсы.
Платформа будет доступна с февраля и поддерживается всеми основными производителями ПК, включая Acer, ASUS, Dell, GIGABYTE, HP, Lenovo, MECHREVO, MSI and Razer.
Специалисты творческих профессий смогут комбинировать традиционные инструменты с новыми возможностями нейросетей. Это обновление может стать переломным моментом в развитии ИИ для массового пользователя, благодаря мощному оборудованию и удобным инструментам.
