🔎 Azure AI Search RAG

에이전트 여러분, 이번 미션 Operation Vector Vault의 목표는 Azure AI Search 벡터 검색 기반 RAG(Retrieval-Augmented Generation) 를 사용해 Copilot Studio 에이전트가 조직의 실제 문서를 근거로 답변하게 만드는 것입니다. 검색 서비스를 만들고, 이력서 문서를 벡터화해 인덱싱하고, 이를 HR Knowledge Agent에 연결해 키워드가 아닌 의미 중심으로 답변하고 출처를 제시하도록 구성합니다.

커리큘럼 출처: 이 미션은 Microsoft Copilot Developer Camp의 자료를 각색했습니다. 원래 커리큘럼을 만든 Paolo Pialorsi와 Copilot Camp 기여자들에게 감사드립니다. Agent Academy 버전에서는 GitHub Copilot harness와 Special Ops 형식에 맞게 랩을 업데이트했습니다.

🎯 미션 목표

이 미션에서 다음을 배웁니다.

• Azure AI Search 벡터 인덱스 생성 및 데이터 채우기
• Azure AI Search를 Copilot Studio 에이전트에 연결하기
• 자체 문서를 근거로 에이전트 응답 만들기
• 의미 기반 검색과 문서 출처 인용 테스트하기

❓ Retrieval-Augmented Generation(RAG)이란?

RAG는 모델이 답변을 생성하기 전에 관련 정보를 먼저 검색해, 더 정확하고 신뢰할 수 있는 응답을 만들도록 돕는 기법입니다.

핵심은 두 단계입니다.

• Retrieval(검색): 대규모 데이터에서 관련 정보를 찾음
• Generation(생성): 검색 결과를 바탕으로 답변을 생성함

따라서 모델 내부 기억에만 의존하지 않고, 실제 문서 기반으로 답변해야 하는 Q&A, 리서치, 사내 지식 검색 시나리오에 특히 유용합니다.

🧠 왜 벡터 검색인가요?

벡터 검색은 단어 일치가 아니라 의미 유사성으로 정보를 찾습니다. 문서를 숫자 벡터로 변환해 질의와 의미적으로 가까운 콘텐츠를 찾아내므로 다음에 강합니다.

• 의미 기반 매칭: 다른 표현이어도 같은 개념을 연결(예: recruitment / hiring)
• 다국어 검색: 언어가 달라도 동등한 의미를 탐색
• 다양한 콘텐츠 형식: 텍스트 문서, PDF 등 복수 형식 검색

동작 방식은 다음과 같습니다.

1. 임베딩 모델로 문서를 벡터로 변환
2. 벡터를 Azure AI Search 인덱스에 저장
3. 사용자 질의도 벡터로 변환해 의미적으로 가까운 결과를 반환

예를 들어 “software engineering skills”를 검색하면 정확히 같은 단어가 없어도 “programming expertise”, “development capabilities” 같은 의미상 유사한 후보를 찾을 수 있습니다.

⚙️ 사전 요구사항

• GitHub Copilot harness를 사용할 수 있는 Microsoft Copilot Studio 체험판/유료 계정. 계정이 없다면 코스 설정 안내에서 무료 체험 방법을 확인하세요.
• 리소스 생성 권한이 있는 Azure 구독(Azure AI Search, Storage, Azure OpenAI/Microsoft Foundry)
• Copilot Studio 에이전트 생성 및 Azure 리소스 기본 관리 경험

🎯 시나리오

Contoso HR 팀은 여러 형식·여러 언어의 이력서를 대량으로 다뤄야 합니다. 채용 담당자가 “스페인어 가능 + Python 경험자”처럼 자연어로 질문하면, 실제 이력서 문서를 근거로 정확하게 답변하는 에이전트가 필요합니다. 여러분의 역할은 Azure AI Search 기반 RAG를 연결하는 에이전트 빌더입니다.

🧪 Lab 1.1: Azure AI Search 서비스 준비

Step 1 — Azure AI Search 서비스 생성

Azure Portal에서 Azure AI Search 서비스를 생성합니다.

1. Create a resource에서 Azure AI Search 검색
2. Azure AI Search 선택 후 Create
3. 아래 값 입력 후 Review + Create
   • Subscription: 사용 중 Azure 구독
   • Resource group: 기존 그룹 또는 신규(예: agent-academy-rg)
   • Service name: 전역 고유 이름(예: agentacademy-ai-search)
   • Location: 다른 리소스와 동일 리전
   • Pricing tier: Basic

생성 후 아래 값을 복사해 둡니다.

1. Overview의 URL(검색 endpoint)
2. Settings → Keys의 Primary admin key

Step 2 — Azure Storage 계정 생성

인덱싱 전 문서를 저장할 Azure Storage 계정을 생성합니다.

1. Azure Portal에서 Create a resource → Storage Account 검색
2. Storage Account 선택 후 Create
3. 아래 값 입력 후 Review + Create
   • Subscription: 사용 중 Azure 구독
   • Resource group: Azure AI Search와 동일 그룹
   • Storage account name: 전역 고유 이름(예: agentacademystorage)
   • Region: Azure AI Search와 동일 리전
   • Performance: Standard
   • Redundancy: LRS

Step 3 — 텍스트 임베딩 모델 배포

벡터 검색을 위해 임베딩 모델이 필요합니다.

1. Azure OpenAI 서비스가 없다면 먼저 생성합니다(Standard S0 권장).
2. Microsoft Foundry에서 Azure OpenAI 인스턴스를 선택합니다.
3. Deployments → + Deploy model → Deploy base model
4. text-embedding-ada-002 검색 후 Confirm
5. 배포값 설정
   • Deployment name: text-embeddings
   • Deployment type: Standard
   • Model version: 2 (Default)
   • Content Filter: DefaultV2
6. Deploy를 선택하고 완료까지 대기

🧪 Lab 1.2: 검색 인덱스 생성 및 데이터 적재

Step 1 — 샘플 문서 준비

실습용 이력서 문서를 다운로드해 압축 해제합니다.

• fictitious_resumes.zip

샘플 문서에는 후보자 이름/연락처, 기술 역량, 경력, 학력, 언어 능력, 자격증 같은 정보가 포함됩니다. 문서가 여러 언어로 작성되어 있어도 임베딩 + 벡터 인덱스에서 검색 가능합니다.

Step 2 — Storage Account에 샘플 문서 업로드

1. Azure Portal에서 Storage Account 인스턴스를 엽니다.
2. 왼쪽 Data storage 아래 Containers 선택
3. + Container 선택
4. 컨테이너 이름으로 resumes 입력 후 Create

컨테이너 생성 후 파일 업로드:

1. Upload 선택
2. 이력서 파일 드래그 앤 드롭 또는 Browse for files로 선택
3. Upload를 눌러 업로드 완료 대기

Step 3 — 통합 벡터화(Integrated Vectorization)로 인덱스 채우기

1. Azure AI Search 인스턴스로 돌아가 상단 Import data (new) 선택

1. 데이터 원본으로 Azure Blob Storage 선택

1. 시나리오로 RAG 선택

다음과 같이 구성합니다.

1. Azure Blob Storage
   1. Subscription: 사용 중 구독
   2. Storage account: 앞에서 만든 계정
   3. Blob container: 이력서를 업로드한 컨테이너
   4. Blob folder: 폴더 구조가 없으면 비워둠
   5. Parsing mode: Default
2. Vectorize your text
   1. Kind: Azure OpenAI
   2. Azure OpenAI service: 본인 인스턴스
   3. Model deployment: text-embeddings
   4. Authentication type: API Key(기본값)
   5. 추가 비용 안내 체크 후 Next
3. Vectorize your images: 필요 없으면 Next
4. Advanced ranking and relevancy: 기본값으로 Next
5. Review and create
   1. index/indexer/data source/skill set 접두사 입력(예: resumes)
   2. 설정 검토 후 Create

생성이 완료되면 Start searching으로 인덱스를 확인합니다. 각 레코드에 text_vector 필드가 생성되어 임베딩 결과가 저장된 것을 볼 수 있습니다.

🧪 Lab 1.3 — RAG 에이전트 만들기

Step 1 — HR Knowledge Agent 생성

1. Microsoft Copilot Studio에 로그인하고 New experience가 켜져 있는지 확인

1. New Agent 선택

1. 이름 입력

HR Knowledge Agent

1. Instructions에 아래 텍스트를 붙여넣습니다.

You are an intelligent HR Knowledge Assistant specializing in candidate search. You have access to a database of candidate resumes indexed in Azure AI Search, which you can query using the Semantic Hybrid Search tool.

When a user asks a question, you should:
1. Call the Semantic Hybrid Search tool to retrieve the most relevant candidate documents using semantic (vector) understanding.
2. Provide detailed, accurate information based only on the retrieved documents.
3. Always cite the candidate name(s) and source documents your answer is based on.
4. Explain your reasoning when matching candidates to requirements.
5. Suggest alternative candidates when an exact match isn't available.
6. Help users understand the skills and qualifications of different candidates.

You excel at:
- Finding candidates with specific technical skills
- Matching language requirements with candidate profiles
- Identifying experience levels and career progression
- Understanding educational backgrounds and certifications
- Semantic search that goes beyond keyword matching

If the search returns no relevant results, say so clearly rather than guessing. Always be professional and respect candidate privacy.

1. 오른쪽 위 Save 선택

Step 2 — Azure AI Search를 도구로 연결

중요: GitHub Copilot harness로 구동되는 에이전트에서는 Azure AI Search가 Knowledge 소스가 아닙니다. Add knowledge 대화 상자에는 Public websites, SharePoint, OneDrive만 표시되며, Azure AI Search는 커넥터 도구(Connector Tool) 로 연결해 에이전트가 검색에 호출하도록 해야 합니다.

1. 오른쪽 Agent configuration 패널의 Tools 카드에서 Add tool 선택
2. Azure AI Search 검색 후 커넥터 액션 목록 확인
   • Semantic Hybrid Search
   • Search vectors with natural language
   • Get search indexes
   • Get index statistics

1. Semantic Hybrid Search를 선택하고 Add. 이 액션은 인덱스에 대해 벡터 검색과 키워드 검색을 결합한 시맨틱 하이브리드 검색을 수행합니다. 순수 벡터 질의가 필요하면 Search vectors with natural language도 좋은 대안입니다.
2. 추가된 도구를 열어 Tool details에서 Name/Description/Authentication mode(User 또는 Maker)를 설정
3. Lab 1.1에서 저장한 endpoint URL, admin key로 커넥터 연결을 만들고 resumes 인덱스 지정

1. Save를 누르고 버튼이 비활성화(disabled)되는지 확인

🧪 Lab 1.4 — 에이전트 테스트

1. Preview 탭으로 이동
2. 방금 도구를 추가했다면 New chat을 눌러 도구 컨텍스트를 새로고침
3. 아래 기본 질의를 테스트

Hello! Can you help me find candidates with software engineering experience?

I'm looking for candidates who speak multiple languages. Can you help?

Show me candidates with machine learning or AI experience.

Semantic Hybrid Search 호출 여부, 출처 인용 여부, 키워드 일치가 아닌 의미 기반 검색 여부를 확인합니다.

1. 이어서 복합 조건 질의를 테스트

Find candidates suitable for a senior role that requires 5+ years of Python experience and fluency in Spanish

I need someone with both frontend and backend development skills. Who would be good for a full-stack position?

Can you recommend candidates for a data science position that requires experience with machine learning frameworks?

Who has project management experience combined with technical skills?

결과에서 다중 조건 결합, 근거 설명, 대안 후보 제안, 이력서 기반 인용을 확인합니다.

✅ 미션 완료

축하합니다! Operation Vector Vault 완료입니다. 이제 Copilot Studio 에이전트가 Azure AI Search 벡터 검색을 통해 조직 문서를 검색하고 근거 기반으로 답변할 수 있습니다.

이번 랩에서 달성한 내용:

• ✅ Azure AI Search: 엔터프라이즈 지식용 검색 서비스 생성/구성
• ✅ 통합 벡터화: 임베딩 모델로 PDF 기반 벡터 인덱스 구축
• ✅ 커넥터 기반 RAG: GitHub Copilot harness 에이전트에서 더 이상 제공되지 않는 Azure AI Search Knowledge 소스 대신, Azure AI Search를 도구로 연결
• ✅ 지시문 설계: 검색 도구 호출과 출처 인용을 유도하는 지시문 작성
• ✅ 의미 기반 테스트: 기본/복합 질의로 검색 품질 검증

여기서 만든 RAG 패턴은 HR에만 국한되지 않습니다. 고객 지원 지식 베이스, 기술 문서, 정책 가이드 등 대량의 문서를 자연어 대화로 찾아야 하는 모든 영역에 그대로 적용할 수 있습니다.

🏅 완료 배지 받기

배지 신청 폼에 필수 항목을 제출하세요.

https://aka.ms/agent-academy-special-ops/vector-vanguard/form

검토 후 Global AI Community 이메일로 배지 수령 안내가 발송됩니다.

📚 전술 리소스

• 📖 What is Azure AI Search?
• 📖 Integrated vectorization in Azure AI Search
• 📖 Azure AI Search connector reference
• 📖 Add tools to a Copilot Studio agent
• 📖 Retrieval-Augmented Generation (RAG) overview