JetBrains의 Koog

Koog는 내결함성 및 확장성이 있고 프로덕션 환경에서 바로 사용할 수 있는 AI 에이전트를 구축하기 위한 오픈 소스 프레임워크입니다. JVM, Android, iOS, JavaScript, WebAssembly 등 다양한 플랫폼을 지원하여, 엔터프라이즈 환경과 크로스 플랫폼 애플리케이션 모두에 사용할 수 있습니다.

AI 에이전트(‘에이전틱 AI'라고도 함)는 일정 수준의 자율성을 가지고 작동하며, 의사결정을 내리고, 필요한 단계를 식별하고, 목표를 달성하기 위한 행동을 수행하는 시스템입니다. 전통적 AI가 정해진 규칙을 따르거나 직접 입력에만 반응하는 것과 달리, AI 에이전트는 변화하는 환경에 적응하고 여러 단계를 조율하며 외부 도구나 서비스와 상호작용할 수 있습니다.

시작할 때 Kotlin이 반드시 필요한 것은 아닙니다. Koog는 JVM 백엔드를 위해 Java 친화적인 API를 제공합니다. Kotlin은 여전히 필수 언어로 지원되며, Kotlin DSL, 코루틴, Kotlin Multiplatform 타깃 등 가장 표현력 높은 개발 환경을 원할 때 사용할 수 있습니다.

Koog는 Java로 자연스럽게 사용할 수 있도록 설계되었으며, 일반적인 워크플로에 맞춘 API를 제공합니다. 가능한 모든 사용 사례에 대해 Kotlin 래퍼 모듈을 작성하지 않아도 Java로 바로 Koog를 사용할 수 있습니다. 이제 Koog는 Kotlin과 Java에 완벽하게 동일한 기능을 제공합니다.

Java API에 부족한 부분이 있더라도 Kotlin 코어와는 계속해서 상호 운용이 가능합니다.

LangChain/LangGraph와 같이 널리 사용되는 Python이나 JavaScript 프레임워크와 달리, Koog는 JVM과 Kotlin 개발자를 위해 특별히 설계된 Kotlin 도메인 특화 언어(DSL)를 제공합니다. 이를 통해 Kotlin 및 Java 기반 애플리케이션에 매끄럽게 통합할 수 있으며, 생산성을 크게 높이고 전반적인 개발자 경험을 향상합니다.

이에 더해, Koog는 에이전틱 시스템 개발을 단순화하고 속도를 높이기 위한 사전 빌드 및 구성 가능한 솔루션을 포함하고 있어, 기본 구성 요소만 제공하는 다른 프레임워크와 차별화됩니다.

Koog의 멀티플랫폼 지원을 통해 JVM, JS, WasmJS, iOS를 대상으로 에이전틱 애플리케이션을 배포할 수 있습니다.

또한 Koog는 W&B Weave와 Langfuse 같은 인기 있는 관측 도구 공급자를 즉각적으로 사용할 수 있도록 통합하여, AI 애플리케이션의 모니터링과 디버그를 지원합니다.

Google, OpenAI, Anthropic, DeepSeek, OpenRouter, Ollama, Bedrock 등의 다양한 LLM 공급자 및 플랫폼 중에서 선택할 수 있습니다. 자세한 내용은 여기에서 확인하세요.

Koog를 사용하면 Kotlin Multiplatform을 통해 JVM, JS, WasmJS, Android, iOS를 대상으로 에이전트를 배포할 수 있습니다.

Koog에서는 에이전트 체크포인트 기능이 제공되므로 실행 중에 특정 지점에 에이전트 상태를 저장하고 복원할 수 있습니다. 에이전트 지속성 기능을 사용하려면 에이전트 전략 내 모든 노드에 고유한 이름을 지정하고, 에이전트 구성에 추가해야 합니다. 자세한 사용 방법은 여기에서 확인할 수 있습니다.

Koog 프레임워크는 MCP SDK와 agent-mcp 모듈의 추가 API 확장 프로그램을 사용하여 MCP와 통합됩니다. 이 통합으로 Koog 에이전트는 여러 전송 메커니즘(stdio, SSE)을 통해 MCP 서버에 연결하고, MCP 서버에서 사용 가능한 도구를 가져와 이를 Koog 도구 인터페이스로 변환하며, 변환된 도구를 도구 레지스트리에 등록하고, LLM이 제공한 인수를 사용해 MCP 도구를 호출할 수 있습니다. 자세한 내용은 Koog 문서에서 확인할 수 있습니다.

예. Koog를 사용하면 Google의 Agent2Agent 프로토콜(A2A)을 통해 연결된 AI 에이전트를 구축할 수 있습니다. Koog는 핵심 에이전트 로직과 도구 통합을 제공하며, A2A는 에이전트 간 표준화된 통신을 보장합니다.

Koog는 오픈 소스이며, Apache 2.0 라이선스로 배포됩니다.

Slack 커뮤니티에 참여해 질문을 하거나 피드백을 공유하고 아이디어를 보내 주세요. 공식 Koog YouTrack 프로젝트를 사용해 기능 요청이나 버그 보고서를 추가할 수 있습니다.

Koog와 Spring AI는 스택의 서로 다른 계층에서 동작합니다. Spring AI는 모델 통합과 인프라에 중점을 두는 반면, Koog는 에이전트 런타임 및 오케스트레이션 계층을 제공합니다. 아키텍처에 따라 Koog는 Spring AI상에서 또는 독립적으로 사용할 수 있습니다.

Spring AI는 LLM, 임베딩, 벡터 저장소와 상호 작용하기 위한 기본 구성 요소를 제공합니다. Koog는 이러한 구성 요소를 기반으로 구조화되고 안정적인 에이전트 시스템을 설계하고 실행할 수 있도록 지원합니다.

애플리케이션의 복잡성이 증가하여 더 많은 조정, 상태 관리, 지속 가능한 실행(내결함성), 실행 제어가 요구되는 경우 Koog가 적합합니다.

Koog는 다음과 같은 이점을 제공합니다.

• 분기 로직, 가드레일, 맞춤형 제어 단계를 활용해 복잡한 워크플로를 오케스트레이션할 수 있습니다.
• 영구 상태와 복구 기능을 갖춰 오래 사용 가능한 에이전트를 실행할 수 있습니다.
• 메시지 기록 압축을 위한 전략이 내장되어 스토리지 사용량과 LLM 토큰 사용량이 최적화됩니다.
• 재시도, 내결함성, 제어된 실행을 통해 안정성이 향상됩니다.
• AI 워크플로가 병렬로 실행되어 성능이 향상됩니다.
• OpenTelemetry, Langfuse, W&B Weave, Datadog와 같은 도구를 지원하여 에이전트 실행에 대한 가시성을 제공합니다.

요약하면, Spring AI는 AI 기능에 연결할 수 있도록 지원하고, Koog는 이러한 기능을 프로덕션 환경에서 사용할 수 있는 안정적인 에이전트 시스템으로 구현할 수 있도록 지원합니다.