[AI활용기초] AI가 내 자료를 제대로 쓰게 만드는 법 · 지식베이스와 RAG · AX연구소 EP.2
AI에게 자료를 다 줬는데, 답변은 예전 기준을 따라 나온다면? 자료를 넣어둔 것과 이번 답변에 어떤 근거가 쓰였는지는 따로 확인해야 합니다. AX연구소 두 번째 영상(EP.2)의 내용을 글로 정리하고, 지식베이스·RAG 용어 표와 ChatGPT 실습 안내문, 바로 복사할 요청문을 함께 담았습니다.
이 영상이 다루는 문제
고객이 이번 신청의 마감일을 물었습니다. 이전 회차 안내문에는 수요일, 이번 회차 안내문에는 금요일이라고 적혀 있습니다. 둘 다 AI에게 전달했는데 답장이 수요일이라고 나오면, 자료가 빠진 걸까요? 다른 회차의 근거를 고른 걸까요? 아니면 맞는 근거를 보고도 답을 잘못 쓴 걸까요?
도입의 수요일 오답은 이해를 돕기 위한 가상 일화입니다. 실제 ChatGPT 화면 예제에서는 처음부터 이번 회차의 금요일 마감을 맞게 선택했습니다. 아래 안내문도 AX연구소가 직접 만든 가상 연습 자료입니다.
핵심 정리
1. 자료를 넣어두는 것과 답변에 쓰이는 것은 다릅니다
답이 이상할 때는 자료 → 선택된 근거 → 작성된 답변을 나눠 보세요. 이번 자료가 준비되어 있는지, 이번 질문에 맞는 근거가 제시되는지, 답변이 그 근거와 일치하는지를 각각 확인합니다. 막연하게 “더 잘 써줘”라고 요청하는 것보다 고칠 지점을 구체적으로 말할 수 있습니다.
2. 지식베이스: 찾아 쓸 자료를 정리해두기
지식베이스는 업무 자료를 모으고, 필요할 때 찾아 활용할 수 있게 정리한 자료 체계입니다. 고객 안내문, 자주 받는 질문, 업무 매뉴얼 등이 들어갈 수 있습니다. 문서의 제목뿐 아니라 적용 대상과 회차, 원문 위치를 함께 정리하면 확인하기 쉽습니다.
| 자료 | 적용 회차 | 신청 마감 |
|---|---|---|
| 이전 안내문 | 1회차 | 수요일 오후 6시 |
| 이번 안내문 | 2회차 | 금요일 오후 6시 |
오늘 올린 파일이라도 지난 회차의 안내문일 수 있습니다. 업로드 날짜만 보고 이번 업무의 기준으로 삼지 말고, 문서에 적힌 적용 범위를 확인하세요.
3. RAG: 필요한 근거를 찾아 답변에 연결하기
RAG는 Retrieval-Augmented Generation의 약자로, 알에이지 또는 래그라고 부릅니다. 우리말로는 검색 증강 생성입니다. 질문에 필요한 내용을 찾고, 그 내용을 입력에 붙여 AI가 답변을 만들도록 하는 방식입니다. 지식베이스가 찾아 쓸 자료를 준비하는 역할이라면, RAG는 그중 필요한 근거를 답변에 연결하는 과정입니다.
이 글의 ChatGPT 예제는 자료를 구별하고 답과 원문을 확인하는 연습입니다. 파일을 첨부했다는 사실만으로 특정 내부 검색 방식이 사용됐다고 판단하지는 않습니다. 이번 답변의 입력에 자료를 전달하는 일과 모델을 다시 학습시키는 일도 구별해서 이해하면 됩니다.
4. 답이 이상하면 세 곳을 나눠 확인합니다
| 확인할 곳 | 확인할 내용 | 다음 조치 |
|---|---|---|
| 자료 자체 | 이번 회차 안내문이 있는가? 적용 기준이 명확한가? | 필요한 원문과 대상 정보를 보완합니다. |
| 선택된 근거 | 이번 문서가 있어도 이전 회차 문단을 근거로 제시했는가? | 도구가 보여주는 근거의 대상과 회차를 원문과 대조합니다. |
| 작성된 답변 | 근거에는 금요일인데 답장은 수요일이라고 썼는가? | 불일치를 짚어 수정하고, 수정한 답과 원문을 다시 대조합니다. |
AI에게 이렇게 요구하세요
어떤 자료를 기준으로 할지, 어떤 근거를 보여줄지, 자료에 없는 정보는 어떻게 처리할지 정하면 결과를 확인하기 쉬워집니다. 아래 네 요청문은 뒤의 ChatGPT 실습에서 순서대로 사용할 수 있습니다. 근거를 인용하도록 요청해도 답변이 항상 정확해지는 것은 아니므로 실제 원문과 대조하세요.
첫째, 어떤 자료를 쓸지 먼저 확인합니다.
답장을 쓰기 전에, 첨부한 자료별 제목과 적용 회차를 정리해줘.
이번 신청은 2회차야.
이번 신청에 적용할 안내문과 그 이유를 알려줘.
자료가 서로 충돌하거나 적용 회차가 불명확하면 먼저 물어봐줘.
문서명과 관련 원문을 함께 보여줘.AI가 이번 회차 안내문을 골랐는지, 선택 이유가 원문에 적힌 적용 범위와 맞는지 확인합니다.
둘째, 고객 답장과 검토할 근거를 나눕니다.
제공한 고객 안내 자료를 바탕으로,
이번 신청의 마감일을 안내하는 답장을 작성해줘.
이번 신청은 2회차야.
이번 신청에 적용되는 문서를 사용하고,
적용 회차가 불명확하거나 자료끼리 충돌하면 먼저 알려줘.
고객에게 보낼 답장은 정중하게 세 문장 이내로 작성해줘.
고객에게 보낼 답장과 내가 확인할 근거를 구분해줘.
확인용 근거에는 문서명과 위치, 관련 원문 부분을 붙여줘.
자료에서 확인할 수 없는 내용은 확인할 수 없다고 표시해줘.
별도 추정이나 제안은 자료로 확인한 내용과 구분해줘.고객에게 보낼 문장과 내부 확인용 근거를 따로 검토합니다. 확인용 메모나 자료를 답장에 그대로 붙여 보내지 않도록 구분하세요.
셋째, 자료에 없는 질문도 확인합니다.
이번 2회차 신청에서 마감이 지난 뒤
추가 접수나 예외 신청도 가능한가요?
첨부 자료에서 확인되는 사실과 확인되지 않는 내용을 구분해줘.
확인되는 사실은 문서명과 관련 원문을 보여줘.금요일 오후 6시 마감은 확인할 수 있지만 예외 절차가 있는지는 이 안내문만으로 판단할 수 없습니다. 자료에서 확인되지 않는다는 것과 실제로 그런 제도가 없다는 것은 다른 판단입니다.
넷째, 근거와 답변이 다르면 수정을 요구합니다.
근거 문단에는 금요일인데 답장은 수요일이라고 썼어.
날짜가 일치하도록 수정하고,
수정한 답과 확인한 원문 부분을 함께 보여줘.실제로 근거와 답변의 날짜가 다른 경우에 사용하는 요청문입니다. 영상의 실제 ChatGPT 예제에서 이런 오류가 발생했다는 뜻은 아닙니다.
용어·약어 정리
영상과 이 글에 나오는 용어를 표로 정리했습니다. AI에게 질문하거나 답변을 검토할 때 어떤 단계를 말하는지 구별하는 데 쓰세요.
| 용어 | 영문·약자 | 뜻 |
|---|---|---|
| 지식베이스 | Knowledge Base (KB) | 업무 자료를 모으고, 필요할 때 찾아 활용할 수 있게 정리한 자료 체계. |
| RAG | Retrieval-Augmented Generation | 검색 증강 생성. 필요한 근거를 찾아 입력에 붙이고, 그 근거를 바탕으로 답변을 만드는 방식. 알에이지 또는 래그라고 읽습니다. |
| 검색 | Retrieval | 질문에 필요한 내용을 찾아 고르는 단계. |
| 컨텍스트 | Context | 이번 답변을 만들 때 AI에게 전달되는 지시와 배경 정보. |
| 생성 | Generation | 전달받은 정보를 바탕으로 답변 문장을 쓰는 단계. |
| 청크 | Chunk | 긴 문서를 작은 부분으로 나눴을 때의 한 조각. 마감 문장만 떼어놓으면 어느 회차인지 모를 수 있어 제목과 적용 범위도 함께 확인합니다. |
| 문서 정보 | Metadata | 문서 제목, 적용 회차, 대상처럼 자료를 구별하고 확인하는 데 쓰는 정보. |
| 출처 인용 | Citation | 답변의 근거가 된 문서명과 원문 위치 등을 함께 표시하는 것. 인용이 붙어 있어도 실제 원문과 일치하는지 확인해야 합니다. |
ChatGPT로 자료와 답변 확인해보기
업무 도구 활용 워크숍 2회차의 신청 마감일을 안내하는 상황으로 연습합니다. 아래 두 안내문을 각각 문서로 저장하거나, 내용을 구분해 ChatGPT에 전달하세요. 두 문서 모두 추가 접수나 예외 신청에 대한 규정은 없습니다.
1) 이전 회차와 이번 회차 안내문 준비하기
이전 회차 안내문
이전 회차 고객 안내문
1. 적용 범위
이 안내문은 업무 도구 활용 워크숍 1회차 (이전 회차) 신청에 적용됩니다.
다른 회차의 신청에는 해당 회차 안내문을 확인해 주세요.
2. 신청 마감
신청 마감은 수요일 오후 6시입니다.
3. 신청 방법
홈페이지에서 온라인으로 접수합니다.
신청서를 작성하고 제출 완료 메시지를 확인해 주세요.
이 문서는 AX연구소 영상 설명을 위해 만든 가상 자료입니다.이번 회차 안내문
이번 회차 고객 안내문
1. 적용 범위
이 안내문은 업무 도구 활용 워크숍 2회차 (이번 회차) 신청에 적용됩니다.
다른 회차의 신청에는 해당 회차 안내문을 확인해 주세요.
2. 신청 마감
신청 마감은 금요일 오후 6시입니다.
3. 신청 방법
홈페이지에서 온라인으로 접수합니다.
신청서를 작성하고 제출 완료 메시지를 확인해 주세요.
이 문서는 AX연구소 영상 설명을 위해 만든 가상 자료입니다.2) 적용할 자료를 확인하고 고객 답장 쓰기
위의 첫째 요청문으로 두 자료의 제목과 적용 회차를 정리한 뒤, 둘째 요청문으로 답장을 작성합니다. 이번 신청이 2회차라는 조건을 함께 전달하세요. 날짜를 맞혔는지만 보지 말고 문서명, 원문 위치, 발췌 문장을 함께 확인합니다.
3) 기대 결과와 실제 답변 비교하기
다음 표는 제공한 안내문에서 기대할 수 있는 결과입니다. 실제 받은 답변이 이 내용과 일치하는지 확인해보세요. 표는 특정 모델의 정확도를 측정한 결과가 아닙니다.
| 질문·확인 항목 | 자료로 확인할 수 있는 기대 결과 |
|---|---|
| 이번 신청에 적용할 자료 | 2회차에 적용되는 이번 회차 안내문 |
| 신청 마감 | 금요일 오후 6시 |
| 신청 방법 | 홈페이지에서 온라인 접수 |
| 추가 접수·예외 신청 가능 여부 | 제공한 두 안내문만으로는 확인할 수 없음 |
고객에게 보낼 수 있는 답장의 예시는 “안녕하세요. 이번 신청은 금요일 오후 6시까지 홈페이지에서 온라인으로 접수하실 수 있습니다.”입니다. 우리가 확인할 근거는 이번 회차 안내문의 신청 마감과 신청 방법입니다.
4) 자료에 없는 내용과 불일치 점검하기
셋째 요청문으로 예외 신청을 물어보세요. 자료에서 확인할 수 없는 내용을 사실처럼 채우지 않는지 확인합니다. 답변과 원문이 실제로 다를 때는 넷째 요청문을 사용하고, 수정된 답변도 다시 대조합니다.
내 AI 답변 자가 점검 체크리스트
고객에게 답장을 보내기 전에 다음 다섯 가지를 확인해보세요.
- 이번 업무의 대상과 회차에 적용되는 문서를 사용했는가?
- 발췌한 문장이 실제 원문에 있는가?
- 답변의 날짜와 조건이 그 원문과 일치하는가?
- 자료에 없는 내용을 확인된 사실처럼 채워 넣지 않았는가?
- 고객에게 보낼 답장과 내부 확인용 근거를 구분했는가?
출처가 붙었다면 원문도 열어보세요. AI가 “무엇을 보고 답했는지” 설명한 말만으로 실제 검색 과정이 검증되는 것은 아닙니다. 도구가 보여주는 근거와 원문을 대조해야 합니다. 도구와 세션에 따라 결과가 달라질 수 있으므로 요청 조건과 결과 확인을 함께 가져가세요.
타임라인
- 00:00 자료는 다 줬는데 왜 다른 답을 할까요?
- 01:13 자료가 AI 답변으로 이어지는 과정
- 02:30 지식베이스: 찾아 쓸 자료 정리하기
- 04:21 RAG: 필요한 근거를 답변에 연결하기
- 06:25 답이 이상할 때 확인할 세 곳
- 08:26 실전 프롬프트로 요청하기
- 10:31 답변과 원문 대조하기
- 11:12 자료 안내와 마무리
참고 자료
RAG의 개념과 근거를 붙여 답변하도록 요청하는 방법은 다음 공식 문서를 함께 참고할 수 있습니다.
예제 안내문과 AI 요청문은 이 글에서 바로 복사해 사용할 수 있습니다. 지식베이스로 자료를 준비하고, 필요한 근거가 답변에 연결되는지 살펴본 뒤 나온 답을 원문과 대조해보세요.
댓글
댓글 쓰기