AI 에이전트 아키텍처: 신뢰할 수 있는 워크플로의 구성 요소

AI 에이전트 아키텍처는 모델을 둘러싼 소프트웨어입니다. 상태, 검색, 도구, 오케스트레이션, 보안과 평가가 포함됩니다. 좋은 아키텍처는 불확실성과 실패를 대화 화면 뒤에 숨기지 않고 보이게 합니다.

조사 및 공개: 아키텍처 안내는 다음 공식 자료를 참고했습니다:OpenAI, Anthropic, LangChain, NIST. 2026년 9월 2일에 확인했습니다.

참조 계층

상태와 메모리

실행 중 임시 상태와 프로젝트의 영구 메모리를 분리하세요. 검색한 사실에는 출처와 타임스탬프를 저장합니다. 검토와 출처 정책 없이 이전 모델 답변을 공식 기억으로 취급하지 마세요.

아키텍처와 워크플로의 차이는 에이전트형 워크플로 가이드에서 확인할 수 있습니다. 아키텍처는 시스템 경계를, 워크플로는 실행되는 순서 있는 작업을 설명합니다.

도구 경계

제한 없는 자격 증명 대신 범위가 좁은 함수를 노출하세요. 인수를 검증하고 시간 제한을 설정하며 전송, 삭제, 구매 또는 권한 변경에는 확인을 요구합니다. 재시도로 부작용이 중복되지 않도록 멱등 키를 사용하세요.

검색과 grounding

사용자에게 권한이 있는 내용만 검색합니다. 출처 식별자를 컨텍스트에 넣고 결과에 인용 또는 근거 필드를 요구하세요. 검색 결과가 없거나 충돌하면 빈틈을 추측하지 말고 에스컬레이션 상태를 반환합니다.

되돌릴 수 있는 범위부터 시작하기

쓰기 권한을 추가하기 전에 읽기 중심 작업을 시제품으로 만드세요. 출처 기반 브리프나 분류 결과는 되돌릴 수 없는 위험 없이 유용한 실행 기록을 제공합니다. 도구는 한 번에 하나씩 추가하고 권한 경계를 기록합니다.

요청 및 응답 계약

각 계층 사이의 계약을 정의하세요. 요청에는 목표, 사용자 ID, 허용된 출처와 예산을 포함하고 응답에는 상태, 구조화된 출력, 인용, 도구 호출과 검토 항목을 포함합니다.

{
  "status": "needs_review",
  "claims": [],
  "sources": [],
  "open_questions": ["승인된 데이터에 최신 분기가 없습니다."]
}

명시적인 상태는 출처 누락을 숨기는 유창한 문장보다 안전합니다.

평가와 운영

정상, 불완전, 적대적, 다국어 사례를 테스트합니다. 도구 오류, 에스컬레이션 비율, 지연, 비용과 검토자 수정을 추적하고 프롬프트, 도구, 모델 설정과 정책을 함께 버전 관리하세요.

운영 체크리스트

• 모든 호출과 모델 버전을 재생할 수 있는 추적
• 테스트와 운영을 분리한 자격 증명과 데이터
• 멱등적 쓰기와 문서화된 롤백 경로
• 프롬프트 또는 모델 변경 전 평가 사례
• 에스컬레이션과 사고를 담당할 사람

동기·비동기 실행과 사람의 확인 지점

짧은 분류는 동기로 실행할 수 있습니다. 긴 검색이나 문서 생성은 진행 상황과 취소 기능을 갖춘 비동기 작업이어야 합니다. 되돌릴 수 없는 작업 전과 신뢰도, 권한 또는 정책 검사가 실패할 때 사람의 승인을 두세요. 재시도에서도 컨텍스트가 유지되도록 결정을 실행 상태에 저장합니다.

비용 및 지연 예산

모델 턴, 도구 호출, 토큰과 총 실행 시간에 상한을 정하세요. 단순 추출에는 작은 모델을 쓰고 비용이 큰 추론은 모호한 사례에 사용합니다. 예산은 운영 통제이자 워크플로가 언제 중지하고 도움을 요청할지 알리는 제품 약속입니다.

자주 묻는 질문

멀티 에이전트 아키텍처가 필요한가요?

아니요. 하나의 에이전트와 명시적인 도구로 시작하세요. 역할, 권한 또는 평가 기준이 실제로 다를 때만 추가합니다.

보안은 어디에 적용하나요?

모든 계층에 적용합니다. 신원, 검색, 도구 권한, 비밀, 로그와 사람의 승인을 포함하며 마지막 단계가 아닙니다.

환각을 줄이려면 어떻게 하나요?

출처를 개선하고 출력을 제한하며 근거를 요구하고 불확실성을 검토 행동으로 연결하세요. 프롬프트만으로는 부족합니다.

무엇부터 시제품으로 만들까요?

검토자가 정해진 제한적이고 되돌릴 수 있는 워크플로부터 시작하세요. 도구를 늘리기 전에 제어 경로를 검증합니다.