Обработка и анализ данных всегда были медл��нными и трудоемкими процессами, так как использовали процессоры для загрузки, сортировки и управления данными, а также для тренировки и развертывания моделей. GPU значительно снижают затраты на инфраструктуру и обеспечивают отличную производительность в задачах обработки и анализа данных с помощью открытых библиотек ПО NVIDIA RAPIDS™.
Для инноваций в области data science и ИИ компаниям необходим доступ из облака, дата-центра и периферийных устройств к инструментам, позволяющим оптимизировать системы на базе GPU. NVIDIA предоставляет программные решения для всех современных задач, что позволяет системным администраторам, специалистам по data science, DevOps-инженерам и разработчикам быстро и просто получить доступ к необходимым инструментам.
Программное обеспечение: от разработки до внедрения
-
Анализ данных
-
Тренировка
-
Инференс
-
Высокопроизводительные вычисления
-
Графика
Анализ данных
Тренировка ИИ
По мере того как глубокие нейронные сети становятся все более сложными, время на тренировку моделей ИИ существенно увеличивается, что выражается в снижении продуктивности и повышении затрат. Программные решения NVIDIA существенно ускоряют тренировку, что позволяет получать информацию быстрее, значительно снизить затраты и ускорить окупаемость инвестиций.
Инференс ИИ
В настоящее время постоянно растет спрос на сложные сервисы на базе ИИ, например на системы компьютерного зрения, разговорного ИИ и персональных рекомендаций. В то же время наборы данных увеличиваются в объеме, нейронные сети становятся все более сложными, и требования к времени задержки также растут, чтобы соответствовать ожиданиям пользователей Инструменты, оптимизированные под GPU, обеспечивают необходимую скорость и производительность для работы таких сервисов.
Высокопроизводительные вычисления
Высокопроизводительные вычисления (HPC) — один из самых важных инструментов, которые стимулируют развитие науки. Более 700 приложений для широкого спектра отраслей получают ускорение за счет вычислений на GPU, а для разработки, оптимизации и развертывания этих приложений используются популярные языки программирования, такие как C, C++, Fortran и Python, что создает условия для научных открытий.
Графика
Компании сталкиваются cо все более сложной графикой для различных задач: от анализа данных до виртуальных сред. NVIDIA® Quadro RTX™ и ПО NVIDIA Virtual GPU в дата-центре позволяют выполнять самые сложные задачи визуальных вычислений. Благодаря передовой технологии для ИИ, трассировке лучей в реальном времени и графическому ускорению ИТ-специалисты разворачивают серверы, которые поддерживают различные задачи и требуют меньше затрат, площади и электроэнергии, чем решения на базе CPU.
Разработка, оптимизация и развертывание приложений с ускорением на GPU
NVIDIA CUDA® Toolkit предоставляет среду для разработки высокопроизводительных приложений с ускорением на GPU. С помощью CUDA Toolkit вы можете разрабатывать, оптимизировать и развертывать свои приложения на встраиваемых системах с ускорением на GPU, настольных рабочих станциях, в корпоративных дата-центрах, а также на облачных платформах.
-
Контейнеры
-
Модели
-
Скрипты для моделей
-
Пакеты Helm
-
Решения для отраслей
Контейнеры для быстрого развертывания и ускорения рабочих задач
Реестр контейнеров NGC содержит широкий спектр оптимизированного для GPU NVIDIA программного обеспечения, в том числе приложения для ИИ, data science и НРС.
Контейнеры настроены, протестированы и оптимизированы NVIDIA. Контейнеры NGC предоставляют производительное и простое в развертывании ПО, которое гарантированно обеспечивает быстрые результаты и позволяет создавать решения на основе протестированного фреймворка с полной технической поддержкой.
Быстрый старт с предварительно натренированными моделями
Многие ИИ-приложения используют типичные алгоритмы: классификации, обнаружения объектов, перевода, преобразования текста в речь, создания рекомендаций, анализа тональности текста и другие. Разработку приложений с такими функциями гораздо быстрее начать с предварительно натренированной, а затем настроенной для конкретной задачи моделью. Для множества типичных задач ИИ NGC предлагает предварительно обученные модели, которые оптимизированы для GPU NVIDIA с тензорными ядрами. Такие модели можно легко переобучить, обновив лишь несколько слоев, что экономит ценное время.
Пошаговые инструкции для построения оптимизированных ИИ-моделей
NGC предлагает пошаговые инструкции и скрипты для создания моделей глубокого обучения с метриками производительности и точности для сравнения результатов. Экспертные рекомендации по созданию моделей глубокого обучения для классификации изображений, перевода, преобразования текста в речь и других задач позволяют специалистам по data science быстро построить оптимизированные для максимальной производительности модели за счет простого изменения гиперпараметров.
Автоматизация развертывания с пакетами Helm
Пакеты Helm автоматизируют развертывание ПО на кластерах Kubernetes, благодаря чему пользователи могут сконцентрироваться на использовании ПО, а не на его установке.
NGC содержит пакеты Helm с поддержкой Kubernetes, которые обеспечивают простую установку стороннего ПО. В NGC DevOps-инженеры могут размещать свои пакеты Helm и делиться ими, и поэтому специалисты могут использовать совместимые, безопасные и надежные среды для ускорения циклов разработки.
Наряду с пакетами Helm в репозитории NGC размещен NVIDIA GPU Operator. Набор содержит драйверы NVIDIA, среду выполнения для контейнеров, плагин и ПО для управления, которое ИТ-специалисты могут установить на кластерах Kubernetes, обеспечив пользователям быстрый доступ для запуска своих задач.
Быстрое построение решений при помощи готовых для установки средств ИИ
NGC содержит SDK для отраслей, в том числе для здравоохранения, беспилотных автомобилей, робототехники и умных городов. С такими инструментами, как NVIDIA TAO Toolkit, разработчики и специалисты по data science могут легко и быстро создавать приложения, повторно обучая модели для обнаружения объектов или классификации моделей, а затем развертывать их с SDK NVIDIA DeepStream для интеллектуального видеоанализа.
Основные сценарии использования ПО
Разговорный ИИ
NVIDIA Riva — это платформа для разработки и развертывания мультимодальных сервисов разговорного ИИ, которые используют современные модели глубокого обучения и работают в реальном времени при помощи ускоренных вычислений.
Рекомендательные системы
NVIDIA Merlin — это фреймворк для создания эффективных рекомендательных систем на основе алгоритмов глубокого обучения, которые предоставляют более достоверные результаты, чем традиционные методы, и повышают показатели кликабельности.
Компьютерное зрение
NVIDIA Metropolis позволяет извлекать ценную информацию из потоков данных, поступающих с триллионов датчиков, для автоматизированной торговли, организации дорожного движения в умных городах, оптического контроля на заводах, ухода за пациентами в больницах и других задач.
Моделирование
SDK NVIDIA для HPC — это полноценный набор компиляторов, библиотек и программных инструментов, которые позволяют максимизировать продуктивность разработчиков и производительность, а также оптимизировать создание приложений для HPC с ускорением на GPU.
NVIDIA SimNet — это набор инструментов для ИИ и моделирования физики. Набор инструментов помогает ученым и исследователям решать прямые и обратные задачи, а также сложности ассимиляции данных: от моделирования при помощи ИИ до сложных задач нелинейной физики.
Визуализация
NVIDIA IndeX® — это SDK для интерактивной 3D-визуализации, который позволяет ученым и разработчикам визуализировать и работать с большими наборами данных, вносить изменения в реальном времени и управлять наиболее важными фрагментами данных.
Плагин IndeX интегрирован в ParaView, один из самых популярных инструментов визуализации для задач HPC. Благодаря простому доступу к функциям IndeX пользователи могут работать над своими задачами визуализации в реальном времени.
Рендеринг
Благодаря ПО с ускорением NVIDIA RTX™ графические художники могут повысить производительность локальной рабочей станции, выполнять офлайн-рендеринг и создавать финальные изображения с трассировкой лучей быстрее, чем с традиционными рендер-фермами на базе CPU.
Виртуализация
ПО NVIDIA Virtual GPU (GPU) позволяет работать с ресурсоемкими виртуальными десктопами и рабочими станциями и выполнять на виртуальной машине требующие большого объема вычислений задачи, в том числе ИИ, глубокого обучения, анализа данных и HPC.
Начать
Начните новый проект, используя ПО из NGC.
Присоединяйтесь к программе NVIDIA Developer
Участники могут использовать все SDK и получить доступ к материалам, руководствам по установке и другим инструментам.