OpenAI вычисляют идеальный batch size для обучения моделей

20 декабря 2018
gradient-noise-open-ai-batch-size

OpenAI вычисляют идеальный batch size для обучения моделей

Разработчики OpenAI представили исследование, которое показывает, что можно определить идеальный размер пакета данных для обучения алгоритмов, основываясь на данных шкалы градиентного шума. Метод позволит сократить время и стоимость обучения. В…