Název: Zkoumání úlohy univerzálního sémantického značkování pomocí neuronových sítí, řešením jiných úloh a vícejazyčným učením
Překlad názvu: Zkoumání úlohy univerzálního sémantického značkování pomocí neuronových sítí, řešením jiných úloh a vícejazyčným učením
Autoři: Abdou, Mostafa ; Vidová Hladká, Barbora (vedoucí práce) ; Libovický, Jindřich (oponent)
Typ dokumentu: Diplomové práce
Rok: 2018
Jazyk: eng
Abstrakt: [eng] [cze]
July 19, 2018 In this thesis we present an investigation of multi-task and transfer learning using the recently introduced task of semantic tagging. First we employ a number of natural language processing tasks as auxiliaries for semantic tag- ging. Secondly, going in the other direction, we employ seman- tic tagging as an auxiliary task for three di erent NLP tasks: Part-of-Speech Tagging, Universal Dependency parsing, and Natural Language Inference. We compare full neural network sharing, partial neural network sharing, and what we term the learning what to share setting where neg- ative transfer between tasks is less likely. Fi- nally, we investigate multi-lingual learning framed as a special case of multi-task learning. Our ndings show considerable improvements for most experiments, demonstrating a variety of cases where multi-task and transfer learning methods are bene cial. 1 References 2 July 19, 2018 V diplomové práci prezentujeme výzkum paralelního a přenosového učení s využitím nedávno představené úlohy sémantického značkování. Zaprvé vybrané úlohy počítačového zpracování přirozeného jazyka používáme jako podpůrné úlohy pro sémantické značkování. Zadruhé se vydáváme opačným směrem, a sice sémantické značkování používáme jako podpůrnou úlohu pro tři různé úlohy počí- tačového zpracování přirozeného jazyka: tvaroslovné značkování, parsing na platformě Univer- sal Dependencies a odvozování v přirozeném jazyce. Porovnáváme úplné a částečné sdílení neu- ronových sítí spolu s učením s méně pravděpodobným nastavením negativního přenosu mezi úlo- hami. Na závěr zkoumáme vícejazyčné učení v paralelním učení. V experimentech demonstrujeme různé kombinace paralelního učení a přenosového učení. Výsledky jsou pozitivní. 1 References 2
Klíčová slova: Hlubok ́e uˇcen ́ı; Paraleln ́ı uˇcen ́ı; Pˇrenosov ́e uˇcen ́ı; S ́emantick ́e znaˇckova ́n ́ı; Deep Learning; Multi-task Learning; Semantic Tagging; Transfer Learning

Instituce: Fakulty UK (VŠKP) (web)
Informace o dostupnosti dokumentu: Dostupné v digitálním repozitáři UK.
Původní záznam: http://hdl.handle.net/20.500.11956/101590

Trvalý odkaz NUŠL: http://www.nusl.cz/ntk/nusl-387848


Záznam je zařazen do těchto sbírek:
Školství > Veřejné vysoké školy > Univerzita Karlova > Fakulty UK (VŠKP)
Vysokoškolské kvalifikační práce > Diplomové práce