0

Искусственный интеллект Илона Маска сразится на турнире по Dota 2

Искусственный интеллект Илона Маска сразится на турнире по Dota 2
Компания OpenAI сообщила о том, что команда ботов OpenAI Five примет участие в чемпионате мира по Dota 2. Искусственный интеллект который профинансировал Илон Маск, сыграет на турнире The International.

OpenAI в августе прошлого года впервые представила систему, которая могла бы победить лучших игроков Dota 2 в матчах «1 на 1». Однако этот режим значительно снижает сложность матча. После этого OpenAI занялась развитием сразу пяти ботов, которые смогли бы побеждать в классическом режиме против пяти живых игроков. И хотя OpenAI всё ещё не бросила вызов самым лучшим игрокам, она сделает это в нынешнем году, на международном турнире по Dota 2, The International.

Искусственному интеллекту, как известно, уже с успехом удавалось демонстрировать свое превосходство над человеком в шахматах или игре го. Dota 2 отличается большей вариативностью. Доступных героев в игре больше сотни, у каждого свои характеристики, сильные и слабые стороны. В OpenAI подсчитали: средний матч длится около 45 минут, это 80 тысяч кадров игры (по 30 кадров в секунду). Их алгоритмы анализируют каждый четвертый кадр, то есть по 20 тысяч шагов за игру. Как заявляет OpenAI, в каждый момент бот, играя в Dota 2, должен выбирать между 1000 различными действиями при обработке 20000 единиц входных данных, которые представляют собой то, что происходит в матче.

В шахматах, для сравнения, партии обычно длятся меньше 40 шагов. При этом на каждом шаге алгоритму нужно выбрать одно из примерно тысячи возможных действий для героя и принимать решения молниеносно; в шахматах можно подумать, а среднее количество доступных действий на каждом шаге — десятки и сотни. Кроме того, в Dota 2 игроки не могут увидеть, что делают их соперники — только то, что происходит рядом. В тех же шахматах и го стратегия соперника видна в любой момент.

Чтобы создать своих ботов, лаборатория обратилась к методу машинного обучения, известному как усиленное обучение (reinforcement learning). Боты ИИ учатся тому, как достичь своих целей путём проб и ошибок. Программисты устанавливают так называемые функции вознаграждения (начисление ботам очков за такие вещи, как убийство врага), а затем оставляют ботов играть снова и снова.

Пока OpenAI Five умеет играть только ограниченным количеством героев, в ее арсенале есть Necrophos, Sniper, Viper, Crystal Maiden и Lich. Система не научилась вардить, не знает о Рошане, не пользуется невидимостью или сканом. Ей запрещено покупать Divine Rapier, Bottle, Quelling Blade, Boots of Travel, Tome of Knowledge и Infused Raindrop.

«Бот начинает совершенно случайно блуждать по карте. Затем, через пару часов, он начинает обучаться первым базовым навыкам», — сказал сооснователь OpenAI Грег Брокман. По его словам, если человеку требуется от 12 тысяч до 20 тысяч часов игры, чтобы стать профессионалом, это означает, что боты OpenAI «играют 100 человеческих жизней каждый день».

При этом умение играть в стратегии вроде Dota 2 и Starcraft лучше людей считается одним из важнейших этапов в развитии искусственного интеллекта: условия тут сильнее приближены к реальному миру, чем в шахматах или го. Поэтому в OpenAI работают над ботами, которые совершенствуются в Dota 2.

По словам разработчиков, искусственный интеллект может совершить порядка тысячи различных действий в любой момент. Бот оценивает все возможности и выбирает лучшее действие.

Один из создателей и советник по технологиям Microsoft Билл Гейтс восхитился в Twitter победой команды ботов OpenAI над людьми в Dota 2. Он заявил, что разработчики искусственного интеллекта достигли важной цели — научили ботов взаимодействовать для победы.

"Боты победили человека в видеоигре Dota 2. Это важное достижение, потому что для победы нужны командное взаимодействие и сотрудничество — а это ключевой этап в развитии искусственного интеллекта", - заявил Гейтс.

Цель инициативы OpenAI, конечно, не заключается в том, чтобы научить ботов играть в видеоигры лучше, чем киберспортсмены. Навыки, необходимые в командной игре можно использовать для решения сложных реальных задач, которые в некотором роде выполняются тем же образом, например, управление транспортной инфраструктурой города.

Также по теме