Task-oriented 지능형 관광 챗봇 시스템 개발

Abstract

지능형 관광 서비스는 쉽고 편리하게 관광객에게 개인 맞춤형 여행 플래너 서비스 와 상황인지 기반의 투어 가이드 서비스를 제공할 수 있어야 한다. 본 논문에서는 관광객에게 쉽고 편리한 고품질의 지능형 관광 서비스를 제공하기 위한 task-oriented 지능형 관광 챗봇 서비스를 제안한다. 지능형 관광 서비스 플랫폼은 본 논문에서 개발된 task-oriented 지능형 관광 챗봇 시스템과 지능형 관광 앱을 위 한 지능형 관광정보 시스템으로 구성된다. Task-oriented 지능형 관광 챗봇 서비스 는 다음과 같이 두 단계로 절차를 통해 관광객에게 제공된다. (1) 지능형 관광 챗봇 시스템은 지능형 관광 앱으로 입력되는 사용자 질문의 의도를 파악하고 관광정보 지 식베이스에서 관광정보 ID를 검색하고 (2) 지능형 관광정보 시스템은 관광정보 ID로 MySQL DB에서 관광정보를 검색하고 이를 사용자에게 답변으로 제공한다. Task-oriented 지능형 관광 챗봇 시스템은 개체명 인식(NER, Named Entity Recognition) 서버, 대화 상태 추적(DST, Dialogue State Tracking) 서버, 질의응 답(QA, Question Answering) 서버, Neo4J 그래프 DB 서버와 관광정보 지식베이스 로 구성된다. 본 논문에서는 다음과 같이 세 가지 구성의 지능형 관광 챗봇 시스템 을 제안한다. (1) DST 서버와 Neo4J DB 서버로 구성된 챗봇 시스템, (2) NER 서버, DST 서버, Neo4J DB 서버로 구성된 챗봇 시스템, (3) NER 서버, DST 서버, QA 서버로 구성된 질의응답 챗봇 시스템을 제안한다. NER 서버, DST 서버, Neo4J DB 서버로 구성된 챗봇 시스템에서 NER 서버는 사용자 질문의 의도를 파악하기 위한 개체 명(named entity)들을 추출하고 DST 서버는 대화 상태를 관리한다. MRC 기 반의 관광정보 질의응답 챗봇 시스템에서 NER 서버와 DST 서버는 관광정보 지식베 이스에서 질의응답 지문(context)을 검색하고 QA 서버는 지문에서 답변을 추출하여 사용자에게 제공한다. Task-oriented 지능형 관광 챗봇 시스템에는 관광정보 데이터셋들로 사전학습 언 어모델을 전이학습한 관광정보 NER 모델, DST 모델, QA 모델이 사용된다. DST 서 버와 Neo4J 서버를 사용한 관광정보 챗봇 시스템에서 관광정보 DST 모델의 joint_goal_accuracy, turn_slot_accuracy, 회전 슬롯 F1, 연산 정확도 성능은 각 각 0.9533, 0.9982, 0.9927, 0.9992로 나타난다. NER 서버, DST 서버, Neo4J 서버 를 사용한 관광정보 챗봇 시스템에서 관광정보 KoBERT NER 모델의 정밀도, 재현 율, F1 점수 성능은 각각 0.985, 0.982, 0.987로 나타난다. NER 서버, DST 서버, QA 서버를 사용한 관광정보 챗봇 시스템에서 관광정보 QA 데이터셋에 대한 관광정 보 KoBigBird 모델의 EM 점수와 F1 점수의 성능은 96.85, 98.84로 나타난다. 본 논문에서는 대규모 언어모델(LLM)을 기반으로 한 지능형 관광 서비스를 개발하 기 위해 메타(Meta)의 라마(Llama) 2를 PEFT와 LoRA 방법으로 fine-tuning한 대 화형 지능형 관광정보 챗봇 시스템도 제안하고 있다.|Intelligent tourism services should be able to easily and conveniently provide personalized travel planner services and context-aware tour guide services to tourists. In this paper, the task-oriented intelligent tourism chatbot service is proposed to provide easy, convenient, high-quality, intelligent tourism services to tourists. The intelligent tourism service platform consists of the task-oriented intelligent tourism chatbot system developed in this paper and the intelligent tourism information system for the intelligent tourism app. Task-oriented intelligent tourism chatbot service is provided to tourists through a two-step process as follows. (1) The intelligent tourism chatbot system identifies the intention of the user question entered into the intelligent tourism app, searches the tourism information knowledge base, (2) the intelligent tourism information system searches for tourist information in MySQL DB using the tourist information ID and provides it as an answer to the user. The task-oriented intelligent tourism chatbot system consists of Named Entity Recognition (NER) server, Dialogue State Tracking (DST) server, Question Answering (QA) server, Neo4J graph DB server, and tourism information knowledgebase. In this paper, we propose an intelligent tourism chatbot system with three configurations as follows. (1) Chatbot system consisting of DST server and Neo4J DB server, (2) chatbot system consisting of NER server, DST server, and Neo4J DB server, (3) the QA chatbot system consisting of NER server, DST server, and QA server. In the chatbot system consisting of the NER server, DST server, and Neo4J DB server, the NER server extracts named entities to identity the intent of the user's question, and the DST server manages the dialogue state. In the MRC-based tourism information QA chatbot system, the NER server and DST server search the QA context from the tourism information knowledgebase, and the QA server extracts answers from the context and provides them to the user. The task-oriented intelligent tourism chatbot system uses tourism information NER, DST, and QA models that transfer learning the pre-trained language models with tourism information datasets. In the tourism information chatbot system using the DST server and Neo4J server, the joint_goal_accuracy, turn_slot_accuracy, turn slot F1, and calculation accuracy performance of the tourism information DST model are 0.9533, 0.9982, 0.9927, and 0.9992, respectively. In the tourism information chatbot system using the NER server, DST server, and Neo4J server, the precision, recall, and F1 score performance of the tourism information KoBERT NER model are 0.985, 0.982, and 0.987, respectively. In the tourism information chatbot system using the NER server, DST server, and QA server, the performance of the EM score and F1 score of the tourism information KoBigBird model on the tourism information QA dataset is 96.85 and 98.84. In this paper, we also propose the conversational intelligent tourism information chatbot system by fine-tuning Meta's Llama 2 using PEFT and LoRA methods to develop the intelligent tourism service based on generative AI with LLMs.