Два школьника из России придумали приложение VinGo на основе нейросети. Это игра в угадывание картин по эмодзи

Сервис даёт набор символов, по которому нужно угадать произведение и найти его в музее.

Угадываешь экспонат по набору эмодзи, после чего VinGo показывает историческую справку

11-классник Александр Мамаев и 10-классник Андрей Жевлаков придумали приложение VinGo (сокращение от Vincent Van Gogh), которое с помощью нейросети позволяет превратить прогулку по музею в игру. Разработчики представили сервис по итогам четвёртого хакатона от «ВКонтакте».

В разговоре с TJ разработчики пояснили, что работа над VinGo пока не завершена, но оно уже доступно для тестирования на Github. Попробовать сервис можно только с устройств на Android. Под iOS приложение не адаптировано.

Мы сделали приложение, которое позволяет геймифицировать экскурсии. Вместо классической прогулки мы предлагаем пользователю сыграть в игру: игроку предоставляется набор эмодзи, описывающий картину, по ним он должен найти оригинал картины, находящийся в зале.
Для распознавания картин мы обучили небольшую нейронную сетку, которая работает прямо на устройстве, что позволяет не отправлять данные на сервер, а это снимает с нас задачи с масштабируемости.

Александр Мамаев

В VinGo уже есть картины из четырёх залов Государственного Эрмитажа в Петербурге — разработчики обошли их за выходные, пока шёл хакатон. Протестировать VinGo можно, не посещая музей, а воспользовавшись сканом картины из специального архива. Нужно открыть приложение и навести камеру на монитор с открытым изображением. Затем VinGo покажет справку о картине в формате «историй».

Проверка TJ показала, что уже на этом этапе нейросеть VinGo быстро распознает картины. Однако есть и недостатки. Например, если навести камеру на «неправильную» картину, то приложение не подскажет, ошибся ли его пользователь или произошёл некий сбой. Также при тестировании с монитором распознавание картин работает хуже, чем в самом музее — это признают и сами разработчики. Работа над описаниями картин также не закончена, хотя в некоторых случаях она не очень-то и требуется.

Кроме того, разработчики VinGo планируют добавить «награды» для активных пользователей приложения. «Нужно сделать интересные эмоджи-ребусы для картин и краткие, при этом интересные описания для них», — рассказал Мамаев.

Прототипы «достижений» VinGo

Главной сложностью авторы VinGo назвали получение фотографий картин в высоком качестве и исторической информации от музеев. По словам разработчиков, доступные в интернете сканы произведений не подходят, поскольку «сняты в идеальных условиях».

Пока авторы VinGo планируют создать прототип приложения на основе нескольких залов Эрмитажа, отсняв картины самостоятельно или воспользовавшись сервисами с заданиями вроде «Яндекс.Толоки». По их словам, ими заинтересовался корпоративный акселератор FunCubator, но перспективы сотрудничества с ним пока не определены.

Разработчики всерьёз не задумывались о способах монетизации VinGo, считая, что оно в первую очередь несёт «социальную функцию». «Возможно, стоит встраивать некоторую рекламу выставок, которые проходят в городах. Приложение также может послужить поводом для того, чтобы человек пришёл на выставку», — предположил Мамаев.

* * *

Мамаев — back-end разработчик, учится в городе Долгопрудный Московской области. Жевлаков — front-end разработчик, учится в городе Ковылкино, Республика Мордовия. Они познакомились во «ВКонтакте».

Команда Мамаева и Жевлакова, состоявшая только из них самих, по предварительным оценкам жюри VK Hackaton 2018 шла на первом месте. Однако перед финалом школьников дисквалифицировали, поскольку они представили работу с опозданием. В ином случае команда могла претендовать на главный приз в 500 тысяч рублей или другие награды.

У разработчиков VinGo есть спорный опыт участия в хакатоне «ВКонтакте» 2017 года. Тогда они придумали Donatelo — приложение-конструктор динамических обложек для сообществ соцсети, но в начале 2018 года закрыли проект из-за нехватки свободного времени.

#технологии #приложения