의사소통뿐만 아니라 사고의 과정과 지식의 표현 및 보존에 사용되는 자연어를 기계적으로 처리하는 것은 다양한 분야에 활용될 수 있어 매우 중요하지만, 자연어가 갖는 무한한 표현력으로 인해 어려운 연구라 할 수 있다. 여러 접근 방법 중 하나인 언어모델의 구축은 최근 딥러닝 기술의 발달로 인해 성능이 급격히 좋아지면서 활발히 연구되고 있으며 시장 전망도 매우 밝다. 또한 텍스트 위주의 연구 및 활용에서 생물학적 변이 정보, 이미지, 음성 등의 다른 형태의 데이터 및 인식 기술과 조합하여 활용 범위가 매우 넓어지고 있다.
본 고에서는 딥러닝 기반의 언어모델들에 대한 설명 및 최신 언어모델 개발 동향과 언어모델을 활용한 다양한 서비스들에 대해 소개한다. 그리고 사람만큼 자연스러운 AI의 등장과 핵심 기술의 독점화를 예상하며 이에 따른 시사점에 대해 살펴보고자 한다.