В Nvidia обучили языковую модель с 8 миллиардами параметров

14 августа 2019

В Nvidia обучили языковую модель с 8 миллиардами параметров

MegatronLM — это языковая модель с 8.3 миллиардами параметров, которую в Nvidia обучили на 512 GPU. MegatronLM основывается на GPT-2. По размеру MegatronLM больше BERT в 24 раза и больше…

Tensorpack: быстрый интерфейс для обучения нейросетей на TensorFlow

28 июля 2019

Tensorpack: быстрый интерфейс для обучения нейросетей на TensorFlow

Tensorpack — это интерфейс для обучения нейронных моделей, который основан на TensorFlow. Обучение моделей на Tensorpack занимает в 1.2-5 раза меньше времени, чем на Keras, оригинальной высокоуровневой библиотеке на TensorFlow. …

Как выбрать графический процессор для глубокого обучения

26 декабря 2018
hardware gpu machine learning

Как выбрать графический процессор для глубокого обучения

Глубокое обучение требует больших вычислительных ресурсов, поэтому очень важно, какой графический процессор (видеокарту) вы выберете для своих исследований. Надежный GPU позволит быстро вычислять оптимальные архитектуры и настройки глубоких сетей, и…

Глубокое обучение в облаке: полный список GPU провайдеров

24 октября 2018

Глубокое обучение в облаке: полный список GPU провайдеров

Использование облачных GPU для машинного обучения — один из лучших способов выполнения высокопроизводительных вычислений. Не нужно приобретать дорогостоящую аппаратуру и ПО, нанимать специалистов для обслуживания. Публикуем список облачных платформ –…

Архитектура Turing от Nvidia: что она дает и как получить максимум производительности

24 сентября 2018
Turing SDK

Архитектура Turing от Nvidia: что она дает и как получить максимум производительности

Архитектура Turing – одно из главных достижений в компьютерной графике за 20 лет, по заявлению самой Nvidia. Turing SDK теперь доступен для разработчиков. Дизайнеры и художники могут создавать контент с улучшенной…

Сравнение облачных GPU для машинного обучения

25 июня 2018
GPU для машинного обучения

Сравнение облачных GPU для машинного обучения

Результаты тестов популярных GPU для машинного обучения: Amazon AWS, Google Cloud Engine, Hetzner, Leader GPU, IBM, Paperspace. Читайте также: Глубокое обучение в облаке: полный список GPU провайдеров Тестируемые GPU платформы  В этот…

Kepler.gl — мощный инструмент визуализации карт от Uber с открытым исходным кодом

4 июня 2018
Kepler.gl 

Kepler.gl — мощный инструмент визуализации карт от Uber с открытым исходным кодом

Big Data — термин, который часто используется, но ни одно определение не объясняет, что это такое. Большинство людей сходятся во мнении, что big data — набор данных, который со временем растет в…