AURA: LLM을 SRE 생산 워크플로우에 연결하는 에이전틱 플랫폼
AURA by Mezmo는 대규모 언어 모델을 사이트 신뢰성 엔지니어링 워크플로에 연결하여 모델 출력을 제어된 운영 작업으로 전환하는 생산 준비가 완료된 에이전틱 플랫폼입니다. 이 도구는 에이전트를 실행하여 사건을 진단하고, 로그를 분석하며, 수정안을 제안하고 인증 및 승인 게이트를 시행합니다. 텔레메트리 훅, 다중 모델 오케스트레이션 및 비공식 문서를 위한 벡터 그라운딩이 포함되어 있습니다. 플랫폼 엔지니어와 SRE 팀은 운영자의 감독과 추적 가능한 활동을 유지하면서 일상적인 운영 작업을 자동화할 수 있는 방법을 얻습니다.
실제로 어떤 작업에 사용할 수 있습니까?
AURA는 대화형 테스트뿐만 아니라 실시간 가시성 시스템에 대해 모델 기반 워크플로를 실행하는 에이전트 하네스로 기능합니다. 이 플랫폼에는 API 서버, 상태 관리 및 스트리밍이 포함되어 있어 에이전트가 사고 진단, 로그 분석 및 안전한 수정과 같은 구체적인 SRE 작업을 수행할 수 있습니다. 호출 가능한 도구의 예로는 파이프라인에 통합된 가시성 소스 및 경고 플랫폼이 포함되어 있어 에이전트가 텔레메트리에서 실행 가능한 결과를 도출할 수 있습니다.
작업을 위한 에이전트의 출력은 얼마나 신뢰할 수 있습니까?
AURA는 민감한 작업에 대한 생산 테스트된 가드레일과 구성 가능한 인간 승인 게이트를 통해 운영 안전성을 강조합니다. 이 시스템은 컨텍스트 창의 플러딩을 피하기 위해 과도한 도구 출력을 디스크에 주차할 수 있으며, Qdrant 또는 AWS Bedrock 지식 기반과 같은 저장소와 함께 벡터 검색 기초를 사용하여 응답을 개인 문서와 연결합니다. 이러한 제어는 검증되지 않은 자동 변경 사항이 인간의 서명 없이 생산에 도달할 위험을 줄입니다.
어떤 입력 및 연결을 수용하며 한계는 어디입니까?
이 플랫폼은 동적 도구 발견을 위한 모델 컨텍스트 프로토콜을 사용하며 HTTP, SSE 또는 STDIO를 통해 모든 MCP 준수 서버를 호출할 수 있습니다. 결과를 지속시켜 대형 도구 출력을 지원하고 에이전트가 필요한 슬라이스만 가져올 수 있도록 합니다. 오케스트레이터는 OpenAI 엔드포인트, Anthropic, AWS Bedrock, Google 모델 엔드포인트 및 Ollama를 통한 로컬 모델을 포함하여 클라우드 및 로컬 런타임 전반에 걸쳐 모델 백엔드를 수용합니다. 이를 통해 혼합 모델 워크플로를 가능하게 합니다.
전형적인 SRE 워크플로 및 배포 패턴에 적합합니까?
AURA는 개발을 위한 CLI 기반 로컬 환경으로 배포되고 생산을 위한 서버 구성 요소로 배포되는 Rust 기반 애플리케이션입니다. 또한 온프레미스 또는 공기 차단 설정을 지원합니다. 구성은 TOML을 사용하여 전문 작업자 및 모델 라우팅을 정의하며, 네이티브 OpenTelemetry 통합은 에이전트 성능을 모니터링하기 위해 추적을 내보냅니다. 오픈 소스 배포는 전체 시스템을 내부에서 실행하려는 팀을 위해 스택을 확장 가능하게 만듭니다.
AURA는 플랫폼 용량을 갖춘 엔지니어링 팀을 위한 생산 지향적인 선택입니다.
AURA는 제어된 에이전틱 자동화가 필요하고 오케스트레이션 스택을 운영할 준비가 된 SRE 및 플랫폼 엔지니어링 팀에 적합합니다. 이 프로젝트는 고객 인프라에서 실행되도록 설계되었으며 서버 배포와 모델 라우팅 구성이 필요하기 때문에 플랫폼 엔지니어링 리소스가 없는 팀은 비트리비얼한 설정 및 유지 관리 부담을 예상해야 합니다. 스택을 호스팅하고 구성할 수 있는 팀을 위해 AURA는 인간 감독 하에 자동화된 운영 작업으로 가는 추적 가능한 경로를 제공합니다.
