한국어 단어 임베딩 모델의 평가에 적합한 유추 검사 세트 (The Analogy Test Set Suitable to Evaluate Word Embedding Models for Korean)

서지정보

· 발행기관 : 한국디지털콘텐츠학회
· 수록지 정보 : 디지털콘텐츠학회논문지 / 19권 / 10호 / 1999 ~ 2008페이지
· 저자명 : 강형석, 양장훈

초록

지금까지 자연어 처리 분야에서 다양한 단어 임베딩 모델 및 성능 검증 방식이 제안되어 왔지만, 대부분은 영어에 적용되는 것이다. 따라서 한국어 단어 임베딩 모델을 평가하는 대부분의 경우, 영어 단어 임베딩 모델에 적용되는 성능 검증 방식을 단순한 번역을 통해 사용해 왔다. 하지만 한국어와 영어의 문법적 차이가 크기 때문에, 이런 변형에는 상당한 한계가 존재한다. 본 논문의 목표는 한국어 단어 임베딩 모델을 평가하기에 적합한 유추 검사 세트를 제안하는 것이다. 이를 위해, 최근 많이 사용되고 있는 단어 임베딩 모델 중 하나인 word2vec 모델의 기존 유추 검사 세트를 한국어 고유의 특성을 반영하도록 확장했다. 한국어 형태소 분석기의 성능을 정량적으로 비교하는 데 적용함으로써 이 검사 세트의 효용을 확인했다. 다양한 한국어 단어 임베딩 모델의 하이퍼파라미터를 최적화하고자 할 때, 한국어 유추 검사 세트를 활용할 수 있을 것으로 기대된다.

영어초록

A variety of word embedding models and their evaluation methods in natural language processing have been proposed. However, most of them are applied to English. Thus in most cases where word embedding models for Korean are to be evaluated, people have utilized evaluation methods that are adjusted through simple translation from those applied to word embedding models for English. However, since Korean is quite different from English in grammatical aspects, there exist certain limits to these modified methods. This paper aims to suggest a new analogy test set suitable to evaluate word embedding models for Korean. For this purpose, the existing analogy test set for word2vec models, which are recently gaining popularity as word embedding models, has been extended to reflect features intrinsic to Korean. The utility of this modified test set has been confirmed by applying it to the quantitative comparison between capabilities of Korean morphological analyzers. It is expected that the Korean analogy test set proposed in the paper will be employed in hyperparameter optimization for various word embedding models for Korean.

참고자료

· 없음