Facebook опубликовали среду для обучения RL-агентов на основе игры NetHack. NetHack — это игра в терминале, которая схожа с Minecraft. Среда NetHack Learning Environment (NLE) использует версию 3.6.6 игры. NLE разрабатывали, чтобы предоставить стандартный RL-интерфейс для NetHack. Задачи в среде сформулированы так, что бы проверять уровень игры RL-агента.
Подробнее про NetHack
NetHack — это одна из наиболее старых видеоигр в истории. При этом игра считается одной из наиболее сложных для прохождения человеком. Из-за того, что игра проходит в консоли, интерфейс генерируется процедурно.
В отличие от большинства игр, которые вдохновлены Dungeons & Dragons, целью NetHack является получить детали башни, а не убить всех противников в окружении. Каждая итерация игры имеет разный ландшафт. Генератор случайных чисел предоставляет буквально неограниченное количество вариаций башни и ее обитателей. Пользователь может выбрать расу, роль и пол игрока.
Про среду
NLE не является стандартной OpenAI Gym средой. В свою очередь, структура NLE больше похожа на OpenAI gym и обертку, которая отвечает за настройку обучения модели и политики. На данный момент в NLE включены такие среды, как:
- Базовая битва, где можно уточнить вид монстра и атрибуты игрока (инвентарь, уровень игрока, силу и т.п.). Игрок и монстр будут выступать друг против друга в маленькой прямоугольной комнате;
- Исследование этажа башни, на котором нет никаких предметов, монстров, закрытых дверей и валунов;
- Упрощенная битва на этаже