🌱 Spring AI vs 🔗 LangChain4j: Java AI 프레임워크 전격 비교

🌱 Spring AI vs 🔗 LangChain4j: Java AI 프레임워크 전격 비교

최근 AI 기술, 특히 LLM(대규모 언어 모델)을 자신의 애플리케이션에 통합하려는 개발자들이 늘어나면서 Java 진영에서도 두각을 나타내는 두 개의 프레임워크가 있습니다. 바로 Spring AI와 LangChain4j입니다.

두 프레임워크 모두 강력하지만, 지향하는 철학과 사용 방식에 차이가 있어 프로젝트의 성격에 맞는 기술을 선택하는 것이 중요합니다. 이 글에서는 두 프레임워크를 심층적으로 비교하고, 어떤 상황에서 무엇을 선택해야 할지 명확한 가이드를 제시합니다.

---

1. 정의: 두 거인의 등장

🌱 Spring AI

Spring AI는 Spring 개발팀이 직접 만드는, 스프링 생태계에 AI 기능을 '네이티브'하게 통합하기 위한 프로젝트입니다. 스프링 개발자라면 누구나 익숙할 DI, AOP, 자동 설정(Auto-configuration)과 같은 패러다임을 그대로 따르며, 최소한의 노력으로 AI 기능을 추가할 수 있도록 돕는 것을 목표로 합니다.

자동차에 비유하자면, 제조사가 대시보드에 완벽하게 내장해 놓은 순정 내비게이션과 같습니다.

🔗 LangChain4j

LangChain4j는 파이썬에서 시작된 유명 AI 프레임워크 'LangChain'의 Java 버전입니다. 특정 프레임워크에 종속되지 않는 독립적이고 범용적인 라이브러리로, AI 에이전트, 체인 등 복잡하고 강력한 AI 시스템을 구축하는 데 필요한 풍부한 기능을 제공합니다.

마찬가지로 자동차에 비유하면, 기능이 더 다양하고 강력한 고성능 외장 GPS 기기와 같습니다.

---

2. 비교: 무엇이 어떻게 다른가?

항목	🌱 Spring AI	🔗 LangChain4j
핵심 철학	"AI 기능을 스프링답게" <br> 스프링 생태계와의 완벽한 통합	"강력한 AI 애플리케이션 구축" <br> 다양한 기능과 유연성 제공
개발 주체	스프링 팀 (VMware/Pivotal)	커뮤니티 주도 오픈소스
통합 수준	최상 (Native). 스프링 개발자에게 매우 익숙한 패턴 제공	좋음. starter를 통해 스프링과 쉽게 통합되지만, 핵심은 독립적
RAG 구성	매우 간결. 자동 설정 기반으로 빠르게 구현 가능	매우 강력. 복잡하고 세밀한 파이프라인 제어에 유리
유연성	스프링 생태계에 강하게 의존	독립적. 어떤 Java 프로젝트에서도 사용 가능
기능 범위	핵심 기능(Chat, RAG)에 집중	광범위함 (복잡한 체인, 자율 에이전트 등)

---

3. 예시 코드: RAG(검색 증강 생성) 구현 비교

가장 대표적인 AI 기술인 RAG를 구현하는 코드를 통해 두 프레임워크의 차이를 직접 확인해 보겠습니다.

🌱 Spring AI 예시

application.properties에 필요한 정보를 모두 설정하면, 코드는 믿을 수 없을 만큼 간결해집니다.

application.properties

# 모델 설정
spring.ai.openai.api-key=${OPENAI_API_KEY}
spring.ai.openai.chat.options.model=gpt-4o

# 벡터 DB 설정 (PGVector 사용 예시)
spring.ai.vectorstore.postgres.host=localhost
spring.ai.vectorstore.postgres.database=mydb
# ...기타 접속 정보

RagService.java

@Service
public class RagService {

    private final ChatClient chatClient;
    private final VectorStore vectorStore;

    // 모든 Bean이 자동으로 구성되어 주입됩니다.
    @Autowired
    public RagService(ChatClient chatClient, VectorStore vectorStore) {
        this.chatClient = chatClient;
        this.vectorStore = vectorStore;
    }

    public String answer(String question) {
        // 1. VectorStore에서 유사도 검색
        List<Document> similarDocs = vectorStore.similaritySearch(
            SearchRequest.query(question).withTopK(5)
        );

        // 2. 검색된 내용을 기반으로 프롬프트 생성
        String documents = similarDocs.stream()
                .map(Document::getContent)
                .collect(Collectors.joining("\n"));

        PromptTemplate promptTemplate = new PromptTemplate("""
            주어진 문서 내용을 바탕으로 질문에 답변해주세요.
            문서: {documents}
            질문: {question}
            """);
        Prompt prompt = promptTemplate.create(Map.of(
            "documents", documents, 
            "question", question
        ));

        // 3. LLM 호출
        return chatClient.call(prompt).getResult().getOutput().getContent();
    }
}

특징: 마치 Spring Data JPA를 사용하듯, 설정은 외부화하고 코드에서는 인터페이스를 주입받아 핵심 로직에만 집중합니다.

🔗 LangChain4j 예시 (Spring Boot Starter 사용)

LangChain4j도 starter를 통해 자동 설정을 지원하지만, AiService라는 선언적 인터페이스를 통해 로직을 구성하는 독특하고 강력한 방식을 제공합니다.

application.properties

# langchain4j 설정은 네임스페이스가 다릅니다.
langchain4j.chat-model.provider=openai
langchain4j.openai.chat-model.model-name=gpt-4o
# ...기타 설정

Assistant.java (AI 서비스 인터페이스)

import dev.langchain4j.service.SystemMessage;
import dev.langchain4j.service.UserMessage;
import dev.langchain4j.service.V;

// 인터페이스만으로 RAG 로직을 정의합니다.
public interface Assistant {

    @SystemMessage("""
        You are a helpful assistant. Answer the following question
        based on the provided context: {{documents}}
    """)
    String chat(@UserMessage String question, @V("documents") String documents);
}

RagService.java

@Service
public class RagService {

    // AiServices가 인터페이스의 구현체를 자동으로 만들어줍니다.
    private final Assistant assistant;
    private final ContentRetriever contentRetriever; // EmbeddingStoreContentRetriever가 주입됨

    @Autowired
    public RagService(Assistant assistant, ContentRetriever contentRetriever) {
        this.assistant = assistant;
        this.contentRetriever = contentRetriever;
    }

    public String answer(String question) {
        // 1. ContentRetriever로 관련 문서 검색
        List<Content> relevantContent = contentRetriever.retrieve(question);
        String documents = relevantContent.stream()
                .map(Content::text)
                .collect(Collectors.joining("\n\n"));

        // 2. AiService 호출
        return assistant.chat(question, documents);
    }
}

특징: AiService를 통해 AI와 상호작용하는 로직을 선언적으로 정의하여, 비즈니스 코드와 AI 프롬프트를 분리하는 우아한 접근 방식을 보여줍니다.

---

4. 결론: 언제 무엇을 선택해야 할까?

🌱 Spring AI를 선택하세요, 만약:

• 이미 스프링 생태계에 깊이 의존하고 있는 프로젝트일 경우
• 웹 API에 챗봇, 요약, 문서 Q&A 등 'AI 기능'을 추가하는 것이 목표일 경우
• 가장 빠르고 간결하게 AI를 연동하고 싶고, '스프링다운' 코드 스타일을 선호할 경우

🔗 LangChain4j를 선택하세요, 만약:

• AI가 스스로 판단하고 여러 도구를 사용하는 복잡한 자율 에이전트가 필요할 경우
• RAG 파이프라인을 매우 세밀하게 제어하거나 고급 검색 전략을 구현해야 할 경우
• 스프링이 아닌 Quarkus, Micronaut 등 다른 Java 프레임워크에서 사용할 가능성이 있는 경우

최종 추천

대부분의 스프링 부트 웹 애플리케이션에는 Spring AI로 시작하는 것을 권장합니다.

개발 경험이 매우 뛰어나고, 일반적인 AI 연동 시나리오는 모두 커버할 수 있습니다. 만약 프로젝트가 고도화되어 Spring AI만으로 부족한 특정 기능이 필요해진다면, 그때 가서 그 부분만 LangChain4j 라이브러리를 추가로 도입하는 하이브리드 전략을 고려해볼 수 있습니다.