에이전트 개발의 진짜 병목: 지식 인프라
AI 에이전트를 개발할 때, 로직 자체는 생각보다 빨리 완성됩니다. 문제는 그 뒤죠. 에이전트가 실제로 업무를 수행하려면 기업 내 문서, 이메일, 회의 기록, 운영 데이터, 그리고 실시간 웹 정보까지 접근할 수 있어야 합니다. 이걸 '지식 인프라'라고 부르는데, 이걸 제대로 구축하는 게 결코 쉽지 않습니다.
기존에는 각 데이터 소스별로 커스텀 커넥터를 만들고, 권한 모델을 맞추고, 검색 패턴을 최적화해야 했습니다. 이 과정에서 많은 시간이 소모되고, 유지보수 부담도 큽니다. Microsoft가 이번 Build 2026에서 발표한 Foundry IQ는 이 문제를 해결하기 위한 엔터프라이즈 지식 플랫폼입니다.
Foundry IQ는 기업의 지식(문서, 이메일, 미팅, 운영 데이터, 웹)을 하나의 플랫폼으로 통합하고, 에이전트가 이 지식에 안전하게 접근할 수 있도록 지원합니다. 특히 이번 발표에서는 Serverless, 새로운 지식 소스, MCP 서버, 보안 업데이트 등 실무에 바로 적용할 수 있는 기능들이 대거 포함되어 있습니다.
주요 업데이트 요약
| 기능 | 상태 | 핵심 내용 |
|---|---|---|
| Foundry IQ Serverless | 공개 미리보기 | 인프라 관리 없이 즉시 사용 가능한 서버리스 검색, 사용량 기반 과금 |
| 새로운 지식 소스 | 미리보기 | Work IQ, Fabric IQ, File Search, Azure SQL, MCP 등 지원 |
| Web IQ | 정식 출시 | 웹 검색 연동, 165ms 미만 지연, 데이터 보존 없음 |
| Knowledge Bases | 정식 출시 | SLA 보장, 안정적인 API, 규정 준수 인증 |
| 에이전트 검색 품질 | 개선 | 답변 품질 최대 20% 향상, 토큰 사용량 감소 |
| 데이터 파이프라인 | 미리보기 | 레이아웃 인식 수집, 이미지 강화, SharePoint 인덱싱 |
| 보안 업데이트 | 미리보기 | 암호화, 권한 동기화, 민감도 라벨 거버넌스 |
Foundry IQ Serverless: 인프라 걱정 없이 시작하기
AI 에이전트 워크로드는 예측 불가능한 특성이 있습니다. 몇 초 동안 수백 개의 단계를 실행하다가 몇 시간 동안 유휴 상태일 수 있죠. 기존 프로비저닝 방식은 이런 워크로드에 비효율적입니다. Foundry IQ Serverless는 이런 문제를 해결합니다.
- 클러스터 관리 불필요: 용량 예약이나 유휴 비용 없이 시작할 수 있습니다.
- 즉시 사용 가능: 복잡한 설정 없이 RAG(Retrieval-Augmented Generation)를 시작할 수 있습니다.
- 사용량 기반 과금: 컴퓨팅 자원과 스토리지 사용량에 대해서만 비용을 지불합니다.
특히 Developer 티어가 공개 미리보기로 제공되어, 개발자들이 부담 없이 테스트해볼 수 있습니다. 과금은 1분 단위로 계산되며, 0.25 CU(Compute Unit) 단위로 측정됩니다. 지역별 가격은 다음과 같습니다.
| 지역 | CU/시간 | GB/월 |
|---|---|---|
| West Central US | $0.288 | $0.239 |
| Switzerland North | $0.343 | $0.286 |
| Japan East | $0.290 | $0.289 |
과금은 2026년 9월 13일부터 시작되며, 그 전까지 서비스를 삭제하면 비용이 청구되지 않습니다. Azure 포털의 'Scale + Cost' 탭에서 예상 사용량을 확인할 수 있습니다.
새로운 지식 소스: 이제 하나의 지식 베이스로 통합
에이전트가 조직의 지식과 구조화된 비즈니스 데이터에 접근하려면, 각 시스템별로 커스텀 커넥터를 만들어야 했습니다. Foundry IQ는 이 문제를 해결하기 위해 여러 데이터 소스를 하나의 지식 베이스로 통합했습니다.
- Work IQ: 이메일, 미팅, 파일, Teams 메시지 등 조직 신호를 하나의 AI 지원 소스로 통합. 사용자 권한을 존중합니다.
- Fabric IQ: 데이터 에이전트와 온톨로지(비즈니스 엔티티, 관계, 규칙)를 쿼리할 수 있습니다.
- File Search: 파일을 직접 업로드하여 지식 베이스에 추가할 수 있습니다.
- Azure SQL: 관계형 데이터를 지식 베이스에 연결합니다.
- MCP 서버: Model Context Protocol을 통해 지식을 제공합니다.
이렇게 다양한 소스를 하나의 지식 베이스로 통합하면, 에이전트가 여러 소스를 오가며 검색할 필요 없이 일관된 방식으로 지식을 활용할 수 있습니다. 개발자는 별도의 소스별 검색 로직을 구현할 필요가 없어집니다.
Microsoft Web IQ: 실시간 웹 정보까지 에이전트에 연결
에이전트가 최신 정보를 필요로 할 때, 웹 검색을 연동하는 것은 중요합니다. Microsoft Web IQ는 Foundry IQ MCP 지식 소스를 통해 제한적으로 제공되며, 웹, 뉴스, 이미지, 비디오, 쇼핑 소스에 대한 외부 검색을 지원합니다.
- 165ms 미만의 지연 시간: 실시간 응답이 필요한 에이전트에 적합합니다.
- 데이터 보존 없음: 개인정보 보호를 강화했습니다.
- 게시자 선호도 존중: 콘텐츠 제공자의 권리를 존중합니다.
Web IQ를 Foundry IQ와 결합하면, 에이전트는 내부 지식과 외부의 실시간 정보를 모두 활용하여 더 정확한 답변을 생성할 수 있습니다.
Knowledge Bases 정식 출시: 프로덕션 환경에서도 안심
프로토타입을 프로덕션으로 전환하려면 안정성, 보안, 규정 준수가 보장되어야 합니다. Foundry IQ의 Knowledge Bases는 이제 정식 출시되어 SLA 보장, 규정 준수 인증, 안정적인 API를 제공합니다.
- SLA 보장: 서비스 수준 계약으로 가용성을 보장합니다.
- 안정적인 API: 버전 관리와 호환성을 유지합니다.
- 엔터프라이즈 네트워크 격리: 기본적으로 ID와 정책이 적용됩니다.
특히 Foundry IQ MCP 서버는 어떤 MCP 호환 호스트에서든 사용할 수 있습니다. Claude, ChatGPT, LangChain, Microsoft Agent Framework 등과 연동 가능합니다. 이는 에이전트 생태계 전반에서 지식 베이스에 접근할 수 있는 개방형 표준을 제공한다는 의미입니다.
에이전트 검색 품질 개선: 더 적은 토큰으로 더 나은 답변
이번 업데이트에서는 에이전트 검색 품질도 크게 개선되었습니다. 벤치마크 결과, 답변 품질이 최대 20% 향상되었고, 단일 RAG에 비해 재현율이 최대 54% 개선되었습니다.
- 쿼리 배치 최적화: 반복 검색 루프에서 쿼리를 더 효율적으로 배치합니다.
- 시맨틱 랭커 강화: 관련성 높은 구절을 더 잘 표면화합니다.
- 서버 측 토큰 캐싱: 다중 턴 대화에서 중복 토큰 소비를 줄입니다.
이러한 개선은 토큰 비용을 줄이면서도 답변 품질을 유지하거나 향상시키는 데 기여합니다. 실무에서 비용 효율성을 높이는 중요한 요소입니다.
데이터 파이프라인 업데이트: 문서 전체를 이해하는 에이전트
기존에는 문서의 텍스트만 추출하여 에이전트에 제공했습니다. 하지만 표, 다이어그램, 이미지 등 시각적 정보는 놓치기 쉽습니다. 이번 미리보기에서는 다음과 같은 기능이 추가되었습니다.
- 레이아웃 인식 수집: 문서의 구조를 파악하여 표, 다이어그램, 스캔된 이미지를 텍스트로 변환합니다.
- 이미지 강화: 문서의 이미지를 처리하고 쿼리 시점에 제공합니다.
- SharePoint 인덱싱: ASPX 페이지와 목록을 포함한 SharePoint 인덱싱을 지원합니다.
이를 통해 에이전트는 문서의 전체 내용을 이해하고, 사용자는 원본 시각 자료를 참조하며 후속 질문을 할 수 있습니다.
보안 업데이트: 기업 정책을 유지하는 에이전트
엔터프라이즈 환경에서 보안은 최우선 과제입니다. 이번 미리보기에는 다음과 같은 보안 기능이 추가되었습니다.
- 교차 테넌트 고객 관리 키(CMK): 연합 ID 자격 증명을 사용하여 공유 비밀을 제거합니다.
- Purview 민감도 라벨 감사: 라벨 기반 접근 제어를 종단 간 적용합니다.
- SharePoint 권한 동기화: 증분 동기화로 권한 변경 사항을 반영합니다.
- APIM 지원: Foundry 모델 통합을 위한 API 관리 지원.
또한 Foundry IQ와 Foundry 제품 간의 프라이빗 연결은 정식 출시되었습니다. Shared Private Link와 Network Security Perimeter를 통해 안전한 통신이 가능합니다.
한국 개발 생태계에서의 적용 맥락
국내 기업에서는 AI 에이전트 도입 시 보안과 규정 준수가 특히 중요합니다. Foundry IQ의 민감도 라벨 거버넌스와 네트워크 격리 기능은 금융, 의료, 공공 분야에서 유용합니다. 또한, MCP 서버를 통해 기존 시스템과의 통합이 용이해져, 레거시 시스템이 많은 국내 SI 환경에서도 점진적으로 도입할 수 있습니다.
다만, Serverless 과금 모델에 대한 이해가 필요합니다. 특히 예상치 못한 사용량 증가로 인한 비용 초과를 방지하기 위해 모니터링 설정을 권장합니다.
이 기술의 한계 또는 주의사항
- 미리보기 기능: Serverless 및 일부 지식 소스는 아직 미리보기 상태이므로, 프로덕션에서 사용할 때는 주의가 필요합니다.
- 비용 관리: Serverless는 사용량 기반 과금이므로, 예산 초과를 방지하기 위한 알림 설정이 필요합니다.
- 의존성: MCP 서버를 사용할 때는 호환성 문제가 발생할 수 있습니다. 사전 테스트가 필요합니다.
- 학습 곡선: 다양한 지식 소스와 보안 기능을 모두 활용하려면 시간이 필요합니다.
다음 단계 학습 방향
- Foundry IQ의 공식 문서와 쿡북을 통해 실습해보세요.
- MCP 서버를 사용하여 나만의 에이전트에 지식 베이스를 연결해보세요.
- 보안 기능을 실제 환경에서 테스트하여 기업 정책과의 정합성을 확인하세요.
결론: 에이전트 개발의 새로운 패러다임
Foundry IQ는 에이전트 개발의 복잡성을 줄이고, 생산성을 높이는 데 초점을 맞춘 플랫폼입니다. Serverless로 빠르게 시작하고, 다양한 지식 소스를 통합하며, 보안을 강화할 수 있습니다. 특히 MCP 서버를 통해 개방형 생태계를 지원한다는 점이 큰 장점입니다.
에이전트를 프로덕션에 배포하려는 개발자라면, Foundry IQ를 주목할 필요가 있습니다. 기업의 지식 자산을 안전하게 활용하면서, 더 나은 성능과 비용 효율성을 얻을 수 있습니다.
근거자료에서 자세한 내용을 확인하세요.
함께 보면 좋은 글:
