목록RAG (2)
헬창 개발자

핵심 개념Graph RAG (Retrieval-Augmented Generation)대규모 언어 모델(LLM)이 전체 문서 집합에 대한 질문에 답변하기 위해, 지식 그래프를 생성하고 이를 활용해 질의 중심 요약(Query-Focused Summarization)을 수행하는 새로운 접근법기존 RAG의 한계지역적 텍스트 추출은 전체 문서 요약을 다루기에 충분하지 않음LLM의 컨텍스트 윈도우 크기 제한으로 인해 텍스트의 중요한 정보 손실제안된 해결책그래프 기반 지식 인덱스를 생성하고 커뮤니티 탐지 알고리즘(Leiden)을 적용해 효율적이고 종합적인 응답 제공문제 의식기존 RAG는 Chunk 단위로 전체 맥락을 가져오기 때문에, 전체 맥락을 가져오지 못 할 수도 있고, 전체 코퍼스에 대한 질의 중심의 추상적인 ..

AI 챗봇은 이제 우리 일상에서 중요한 역할을 하고 있습니다. 특히, LLM(Large Language Model, 대규모 언어 모델) 을 기반으로 한 대화형 AI 시스템이 점점 더 발전하고 있죠.하지만 여전히 해결해야 할 세 가지 큰 문제점이 있습니다.최신 정보 반영의 어려움대부분의 챗봇은 사전 학습된 데이터를 기반으로 동작하기 때문에, 새로운 정보나 실시간 데이터를 반영하기 어렵습니다.예를 들어, "2024년 최신 스마트폰 리뷰 알려줘!" 라고 질문하면, 챗봇이 2023년 기준의 정보를 제공할 가능성이 높죠.할루시네이션(Hallucination) 문제AI가 잘못된 정보를 사실처럼 생성하는 현상을 할루시네이션이라고 합니다.이는 모델이 학습한 데이터의 부족, 모순된 정보, 혹은 문맥을 완벽히 이해하지 못..