UPDATED. 2018-12-17 18:59 (월)
카카오, 딥러닝 기술 기반 '형태소 분석기' 오픈소스 제공
카카오, 딥러닝 기술 기반 '형태소 분석기' 오픈소스 제공
  • 변희진 기자
  • 승인 2018.11.30 16:55
  • 댓글 0
이 기사를 공유합니다

한국어 연구, 챗봇·자연어 처리 응용 기술 개발 등 다양한 분야에 활용 가능

카카오는 AI 기술을 적용한 형태소 분석기술을 오픈소스로 공개한다고 30일 밝혔다.

카카오는 딥러닝 기술 기반으로 개발한 형태소 분석기 'khaiii(Kakao Hangul Analyzer III, 카이)'를 오픈소스로 제공한다.

딥러닝 기술 기반의 형태소 분석기가 오픈소스로 제공되는 것은 국내에서 처음이다.

이번 카카오 형태소 분석기 오픈소스 공개를 통해 한국어 연구, 챗봇·자연어 처리 응용기술 개발 등 한국어를 활용하는 다양한 분야에서 형태소 분석을 위한 비용과 시간을 줄일 수 있게 됐다.

형태소 분석기술은 2개 이상의 글자로 이루어진 단어 혹은 문장을 입력 시, 의미를 가진 언어 단위 중 가장 작은 단위인 형태소 단위로 자동으로 분리하는 기술이다. 예를 들면 '학교에 간다'라고 입력하면'학교/명사+ 에/조사+ 가/동사+ ㄴ다/어미' 로 형태소 단위와 품사를 파악해 분류해내는 기술이다. 주로 자연어처리 응용 서비스의 기반 기술로 사용되며 정보 검색, 기계 번역, 스마트 스피커나 챗봇 등 여러 서비스에서 사용할 수 있다.

이번에 오픈되는 카카오의 형태소 분석기 khaiii는 딥러닝(심층기계학습)을 통해 학습한 데이터를 활용해 형태소를 분석하는 모델이다.

딥러닝 기술 중 하나인CNN(Convolutional Neural Network, 합성곱신경망) 기술을 이용해 음절기반으로 형태소를 분석하는 방법을 채택했다.

카카오는 국립국어원에서 배포한 데이터인 세종 코퍼스를 기반으로 데이터의 오류를 수정하고 카카오에서 자체 구축한 데이터를 추가해 85만 문장, 1003만 어절의 데이터를 학습해 정확도를 높였다.

또 딥러닝 과정에서 C++ 언어를 적용해, 일반적으로 딥러닝에 쓰이는 GPU(그래픽처리장치)를 사용하지 않고도 빠른 분석 속도를 구현했다.

카카오의 형태소 분석기 khaiii는 깃허브(GitHub)에서 확인할 수 있으며 누구나 무료로 이용 가능하다. 카카오의 형태소 분석기 khaiii에 대한 더 자세한 사항은 브런치에 게재된 카카오AI 리포트에서 확인할 수 있다.

김응균 카카오 자연어처리파트장은 "한국어를 연구하는 분들에게 도움이 되고자 형태소 분석기를 공개하게 됐다"며 "앞으로도 다양한 분야에서 딥러닝 기반의 기술연구를 진행하고 공유해 나갈 예정이다"고 말했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울시 영등포구 여의서로 43 (여의도동 한서리버파크 빌딩) 916호
  • 대표전화 : 02-780-8101~2
  • 팩스 : 02-780-8103
  • 청소년보호책임자 : 윤 종현
  • 법인명 : 테크데일리 주식회사
  • 제호 : 테크데일리(TechDaily)
  • 등록번호 : 서울 아 05225
  • 등록일 : 2018-06-01
  • 발행일 : 2018-08-01
  • 발행인 : 문 창남
  • 편집인 : 문 창남
  • 테크데일리(TechDaily) 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2018 테크데일리(TechDaily). All rights reserved. mail to webmaster@techdaily.co.kr
ND소프트