사용자 의도 분석 ② — 단일 키워드의 함정, 다어절 용어와 토픽 모델

한국어에서 '시'라는 한 어절은 시(poem)일 수도, 시각(時)일 수도, 도시 이름의 일부일 수도 있다. 검색어나 챗봇 질문처럼 짧은 텍스트에서 단일 키워드를 의도의 신호로 쓰면 이런 모호성이 그대로 오분류가 된다. 지난 글에서 본 "단일 키워드 규칙의 늪"에 대한 학계의 오래된 처방이 있다: 단어 하나가 아니라 다어절(multi-word) 용어를 신호로 써라. 이번 글은 그 계보다 — 용어 추출(term extraction)에서 토픽 모델, 그리고 오늘날의 임베딩 기반 도구까지.

다어절 용어 추출의 계보

• Frantzi & Ananiadou, C-value/NC-value (2000) — 다어절 전문용어 자동 인식의 고전. 품사 패턴(언어적 필터)과 통계적 termhood 점수를 결합하고, 'floating point arithmetic'과 그 부분열 'point arithmetic'을 구분하는 중첩 용어 처리를 도입했다. 25년이 지난 지금도 모든 용어 추출 연구의 기준선(baseline)이다.
• 우호성·김자미·이원규 (2021, 한국컴퓨터교육학회) — LDA 토픽 모델의 결과가 서로 약하게 연관된 단일 단어들로 제시될 때 생기는 해석 모호성을 지적하고, 복합 어절을 포함한 전문용어를 식별해 토픽과 함께 제시함으로써 해석 가능성을 높이자고 제안한 국내 연구. 단일 단어의 모호성 문제를 한국어 맥락에서 정면으로 다룬다.
• Blei & Lafferty, Turbo Topics (2009) — 토픽 모델과 다어절 표현을 잇는 첫 대형 다리. LDA를 돌린 뒤 토픽별로 통계적으로 유의한 n-gram을 찾아 보여주면, 상위 단어 목록보다 토픽의 의미가 훨씬 잘 전달된다는 것을 보였다.
• El-Kishky et al., ToPMine/PhraseLDA (2014, VLDB) — 구(phrase)를 사후 시각화가 아니라 모델 안으로 넣었다. 문서를 먼저 구 단위로 분할한 뒤, 한 구에 속한 단어들이 같은 토픽을 갖도록 제약한다. "bag-of-words보다 bag-of-phrases"가 사람에게 더 해석 가능하다는 것을 대규모로 입증했다.
• Grootendorst, BERTopic (2022) — 현재의 기본값. SBERT 임베딩 → UMAP → HDBSCAN 군집 → c-TF-IDF로 토픽 표현을 뽑는 파이프라인으로, 다국어 임베딩 모델을 쓰면 한국어에도 바로 적용된다. n-gram(다어절) 토픽 표현을 기본 지원한다.
• Lau et al. (2014, EACL) & Röder et al. (2015, WSDM) — "해석 가능성이 좋아졌다"를 숫자로 만드는 방법. NPMI와 C_v라는 토픽 일관성(coherence) 지표가 사람의 해석 가능성 판단과 가장 잘 상관함을 보였고, gensim 등에 구현되어 있다. 분류 정확도 외에 해석 가능성을 정량 평가할 수 있게 해 주는 도구다.
• KeyBERT + PatternRank (2022) — 실무용 키프레이즈 추출. 문서와 후보 n-gram을 임베딩해 유사도로 랭킹하는데, PatternRank는 품사 패턴으로 후보를 거르면 더 좋아진다는 것을 보였다 — C-value의 "언어적 필터가 중요하다"는 통찰이 신경망 시대에 그대로 재현된 셈이다.
• 복합명사 추출 연구 (2021, 한국컴퓨터정보학회) — 한국어는 '이미지생성', '실시간검색'처럼 개념이 복합명사로 나타나는데 표준 형태소 분석기는 이를 조각내 버린다. 형태소 분석 결과를 재조합해 복합명사 후보를 만들고 말뭉치 빈도로 선별하는 방법을 제시한 국내 연구 계열.

정리

계보는 깨끗한 하나의 곡선이다: 언어적 필터 + 통계(C-value) → 토픽 모델과의 결합(Turbo Topics, PhraseLDA) → 임베딩 기반 도구(BERTopic, KeyBERT). 그리고 "다어절이 단일 단어보다 낫다"는 주장은 이제 NPMI/C_v 같은 지표로 정량 검증까지 가능하다. 다음 글은 이 신호들을 소비하는 쪽 — 대화형 AI의 의도 탐지 벤치마크(CLINC150, BANKING77, 그리고 한국어 자원들) — 을 다룬다.

— 사용자 의도 분석과 LLM 라우팅 시리즈 ② / 이전 글: 검색 질의 의도 분류의 고전 / 다음 글: 대화형 의도 탐지와 벤치마크