검색 증강 생성(retrieval-augmented generation, RAG)은 검색으로 얻은 자료를 생성 과정에 연결하는 접근이다. 패트릭 루이스(Patrick Lewis) 등은 2020년 논문에서 언어 생성 모델과 외부 문서 검색을 결합하는 방법을 제시했다. 대규모 언어 모델의 매개변수에 담긴 정보만 사용하는 경우와 비교해, 가져온 문서를 함께 활용한다는 점이 중요하다. 검색된 내용이 있다는 사실과 답변의 모든 문장이 그 내용에 근거한다는 사실은 같지 않다.
위키에 적용하는 상황을 가정하면 먼저 질문과 관련된 문서를 찾고, 그 문서에서 확인되는 내용을 바탕으로 답을 쓰게 할 수 있다.
- 자료를 잘못 찾았을까, 맞는 자료를 잘못 읽었을까? 검색과 읽기를 나눠 점검하기로 원인을 적어보자.
- 출처 링크도 한 번 열자. 답변의 문장이 그 자료에 실제로 있는지 확인하자.
검색 실패와 생성 오류는 인공지능의 환각을 검토할 때 원인을 구분하는 후속 주제가 된다.