검색 증강 생성(retrieval-augmented generation, RAG)은 검색으로 얻은 자료를 생성 과정에 연결하는 접근이다. 패트릭 루이스(Patrick Lewis) 등은 2020년 논문에서 언어 생성 모델과 외부 문서 검색을 결합하는 방법을 제시했다. [[대규모 언어 모델]]의 매개변수에 담긴 정보만 사용하는 경우와 비교해, 가져온 문서를 함께 활용한다는 점이 중요하다. 검색된 내용이 있다는 사실과 답변의 모든 문장이 그 내용에 근거한다는 사실은 같지 않다.

[[위키]]에 적용하는 상황을 가정하면 먼저 질문과 관련된 문서를 찾고, 그 문서에서 확인되는 내용을 바탕으로 답을 쓰게 할 수 있다.

- 자료를 잘못 찾았을까, 맞는 자료를 잘못 읽었을까? [[검색과 읽기를 나눠 점검하기]]로 원인을 적어보자.
- 출처 링크도 한 번 열자. 답변의 문장이 그 자료에 실제로 있는지 확인하자.

## 참고

- 루이스 외, [Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks](https://arxiv.org/abs/2005.11401)

## 기타 등등

- 2020년 논문의 외부 기억에는 위키백과 문서를 검색하는 벡터 색인이 사용됐다. [출처](https://arxiv.org/abs/2005.11401)
- 같은 논문은 답변 전체에서 같은 자료를 쓰는 방식과 토큰마다 다른 자료를 참고하는 방식을 비교했다. 검색 결과를 생성 과정에 끼우는 위치에도 여러 설계가 있다. [출처](https://arxiv.org/abs/2005.11401)

#개념 #인공지능 #검색