본문 바로가기

논문 리뷰

(4)
Knowledge graph 관련 논문 - Knowledge graph[https://metawriters.tistory.com/m/41](https://metawriters.tistory.com/m/41)지식 그래프는 실제 엔터티와 해당 관계를 나타내는 데이터 구조입니다. 노드와 에지로 구성되어 웹과 같은 구조를 만듭니다. 이 구조는 기존의 관계형 데이터베이스와 비교할 때 보다 직관적이고 유연한 쿼리 및 정보 표시를 허용합니다.  지식 그래프의 주요 목적은 포괄적이고 의미론적으로 풍부한 정보 표현을 제공하는 것입니다. 이 정보는 정형 및 비정형 데이터를 비롯한 다양한 소스에서 가져올 수 있으며 자연어 처리, 추천 시스템 및 질문 응답 시스템을 비롯한 광범위한 애플리케이션을 처리하는 데 사용할 수 있습니다.- KG 생성[https://taej..
[2402.14714] Efficient and Effective Vocabulary Expansion Towards Multilingual Large Language Models 보호되어 있는 글입니다.
In-context Learning 및 관련 논문(수정 예정) 0. Backgroundchatgpt와 같은 딥러닝 모델은 아래와 같은 한계점을 지니고 있습니다.1. 정보 접근 제한 2. 토큰 제한 3. 환각 현상  이들을 해결하기 위해 아래와 같은 학습 기법들이 활용됩니다.1. Fine-tuning : 기존 딥러닝 모델의 weight를 조정하여 원하는 용도의 모델로 업데이트2. N-shot learning : 0~n개의 출력 예시를 제시하여 딥러닝이 용도에 알맞은 출력을 하도록 조정3. In-context learning : 문맥을 제시하고, 이 문맥 기반으로 모델이 출력하도록 조정1. In-context Learning(ICL) 문맥을 제시하고, 이 문맥 기반으로 모델이 출력하도록 조정하는 학습 방법입니다.zero-shot learning, few-shot lea..
[2302.00923] Multimodal Chain-of-Thought Reasoning in Language Models 보호되어 있는 글입니다.