Kazan (Volga region) Federal University, KFU
KAZAN
FEDERAL UNIVERSITY
 
ПРИМЕНЕНИЕ МАШИННОГО ОБУЧЕНИЯ К ЗАДАЧЕ ГЕНЕРАЦИИ ПОИСКОВЫХ ЗАПРОСОВ
Form of presentationArticles in Russian journals and collections
Year of publication2021
Языкрусский
  • Gusenkov Aleksandr Mikhaylovich, author
  • Sittikova Alina Rafisovna, author
  • Bibliographic description in the original language Gusenkov, A. M., & Sittikova, A. R. . (2021). Primenenie mashinnogo obucheniya k zadache generacii poiskovykh zaprosov. Elektronnye biblioteki, 24(2), 272-293. https://doi.org/10.26907/1562-5419-2021-24-2-271-292
    Annotation Исследованы две модификации рекуррентных нейронных сетей: сети с долгой краткосрочной памятью и сети с управляемым рекуррентным блоком с добавлением механизма внимания к обеим сетям, а также модель Transformer в задаче генерации запросов к поисковым системам. В качестве модели Transformer использована модель GPT-2 от OpenAI, которая обучалась на запросах пользователей. Проведен латентно-семантический анализ для определения семантических сходств между корпусом пользовательских запросов и запросов, генерируемых нейронными сетями. Для проведения анализа корпус был переведен в формат bag of words, к нему применена модель TFIDF, проведено сингулярное разложение. Семантическое сходство вычислялось на основе косинусной меры. Также для более полной оценки применимости моделей к задаче был проведен экспертный анализ для оценки связности слов в искусственно созданных запросах.
    Keywords обработка естественного языка, генерация естественного языка, машинное обучение, нейронные сети.
    The name of the journal Электронные библиотеки: перспективные методы и технологии, электронные коллекции
    URL https://elbib.ru/article/view/672
    Please use this ID to quote from or refer to the card https://repository.kpfu.ru/eng/?p_id=253879&p_lang=2

    Full metadata record