ELMo este o metodă de reprezentare vectorială a cuvintelor care modelează caracteristici complexe ale cuvintelor (ex. sintaxa sau semantică) și modul în care acestea variază în diverse contexte lingvistice. Astfel, se propune o soluție pentru problema polisemiei cuvintelor. Modelele pre-antrenate pot fi adăugate cu ușurință peste reprezentări deja existente. S-a demonstrat experimental că ELMo ajută la îmbunătățirea multor rezultate state-of-the-art pentru mai multe probleme de procesare textuală. Tipul resursei: model; Scop: modelarea caracteristicilor sintactice și/sau semantice ale cuvintelor dintr-un corpus.
Producător: Allen NLP
- Peters Matthew E., Mark Neumann, Luke Zettlemoyer, Wen-tau Yih (2018), Dissecting Contextual Word Embeddings: Architecture and Representation, Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing, p. 1499–1509, Association for Computational Linguistics.