Lange Zeit war die Sache klar: Wer KI-Funktionen produktiv einsetzen wollte, landete fast automatisch bei Python – dort liegen die meisten Frameworks, die größte Community, die schnellste Innovationsgeschwindigkeit. Java-Teams mussten sich beim Zugriff auf große Sprachmodelle in der Regel selbst behelfen, meist über direkte HTTP-Aufrufe an die jeweilige Anbieter-API. Mit Spring AI hat sich das geändert. Seit der Version 1.0, vorgestellt im Mai 2025 auf der Spring I/O, bringt das Spring-Ökosystem einen eigenständigen, production-tauglichen KI-Stack mit – tief in die vertraute Spring-Boot-Welt integriert.
ChatClient: eine portable Schnittstelle für 20 KI-Modelle
Im Zentrum von Spring AI steht der ChatClient – eine einheitliche, modellunabhängige API für die Interaktion mit Sprachmodellen. Der ChatClient unterstützt die Anbindung von rund 20 verschiedenen KI-Modellen, von Anthropic bis ZhiPu, über eine fluent gestaltete Schnittstelle:
java
@RestController
class ChatController {
private final ChatClient chatClient;
ChatController(ChatClient.Builder builder) {
this.chatClient = builder.build();
}
@GetMapping("/chat")
String chat(String message) {
return chatClient.prompt()
.user(message)
.call()
.content();
}
}Der Code kennt an dieser Stelle nur ChatClient – welcher konkrete Anbieter dahintersteckt, wird über die Spring-Boot-Konfiguration entschieden. Ein Wechsel von OpenAI zu Anthropic Claude oder einem lokal gehosteten Modell bleibt damit eine Konfigurationsänderung, kein Umbau der Anwendungslogik. Sowohl synchrone als auch Streaming-Interaktionen werden unterstützt, was den ChatClient auch für Chat-Oberflächen mit sukzessive erscheinenden Antworten praxistauglich macht.
Tool Calling: Sprachmodelle rufen echten Java-Code auf
Ein Sprachmodell wird erst dann wirklich nützlich, wenn es nicht nur Text generiert, sondern auf reale Anwendungslogik zugreifen kann. Über Tool Calling lässt sich eine beliebige Java-Methode als aufrufbares „Werkzeug“ für das Modell registrieren:
java
@Component
class WeatherTool {
@Tool(description = "Liefert das aktuelle Wetter für eine Stadt")
String getWeather(String city) {
return "In " + city + " sind es 21°C bei Sonnenschein.";
}
}Erkennt das Modell während einer Konversation, dass die Anfrage einen Wetterwert benötigt, ruft Spring AI die entsprechende Methode automatisch auf und bindet das Ergebnis in die Antwort ein. Die Vermittlung zwischen Modellantwort und tatsächlichem Methodenaufruf übernimmt das Framework – der Java-Code bleibt gewöhnliche, testbare Business-Logik.
Advisors: der Baustein für RAG und Gesprächsgedächtnis
Für Anwendungsfälle, in denen ein Sprachmodell mit unternehmenseigenen Daten arbeiten soll (Retrieval-Augmented Generation, kurz RAG), bietet Spring AI die Advisor API: eine Interceptor-Kette, über die sich ein- und ausgehende Prompts gezielt anreichern lassen – etwa um recherchierte Kontextdaten oder den bisherigen Gesprächsverlauf einzufügen. Für den Zugriff auf die eigentlichen Daten steht eine portable Vector-Store-Abstraktion bereit, die rund 20 verschiedene Vektordatenbanken unterstützt, von Azure Cosmos DB bis Weaviate. Da jede Datenbank eigene Anfragesprachen für Metadaten-Filterung mitbringt, definiert Spring AI zusätzlich eine portable, SQL-ähnliche Filterausdruckssprache, die sich einheitlich über alle angebundenen Datenbanken hinweg verwenden lässt.
MCP: von der Anbindung zum vollwertigen Agenten-Framework
Der zweite große Baustein ist die Integration des Model Context Protocol (MCP) – des offenen Standards, über den KI-Modelle strukturiert auf externe Werkzeuge, Prompts und Ressourcen zugreifen können. Seit der Einführung im November 2024 hat sich MCP schnell als Standardweg etabliert, KI-Systeme mit der Außenwelt zu verbinden, und Spring AI hat die Integration seither kontinuierlich ausgebaut.
Mit Spring AI 1.1, veröffentlicht im November 2025, wurde der zugrunde liegende MCP Java SDK deutlich erweitert – unter anderem um Streamable-HTTP-Transport, automatisches Session-Management inklusive Wiederherstellung unterbrochener Verbindungen sowie ein neues, annotationsbasiertes Programmiermodell:
java
@McpTool(description = "Sucht Kunden anhand des Namens")
List<Customer> searchCustomers(String name) {
return customerRepository.findByNameContaining(name);
}Statt MCP-Server und -Clients manuell zu verdrahten, lassen sich Werkzeuge, Ressourcen und Prompts über @McpTool, @McpResource und @McpPrompt deklarativ registrieren – analog zum vertrauten Spring-Programmiermodell mit Annotationen. Ergänzend ist mit Spring AI Agents inzwischen ein eigenes Framework für den Bau agentischer Coding-Tools und KI-Agenten entstanden.
Warum das mehr ist als ein weiteres Framework
Für Unternehmen mit bestehenden Java- und Spring-Boot-Systemen ändert sich damit eine grundlegende Annahme: KI-Funktionen müssen nicht länger als externer Python-Dienst angebunden werden, den die Java-Anwendung über HTTP anspricht. Stattdessen lässt sich KI-Logik direkt im selben Spring-Boot-Projekt entwickeln, testen und deployen – mit denselben Werkzeugen für Dependency Injection, Konfiguration, Observability und Testing, die im Java-Ökosystem seit Jahren etabliert sind. Das senkt die Einstiegshürde für Teams, die bereits auf Java setzen, erheblich, und vermeidet zusätzliche Betriebskomplexität durch eine zweite Sprach-Laufzeitumgebung nur für KI-Funktionen.
Unsere Einschätzung
Spring AI zeigt, dass sich die JVM von einer reinen Backend-Plattform zu einer ernstzunehmenden Umgebung für den Bau von KI-Agenten entwickelt – mit einer Geschwindigkeit, die noch vor zwei Jahren kaum absehbar war. Besonders die Kombination aus ChatClient, Advisors und der tiefen MCP-Integration macht Spring AI zu einer sinnvollen Wahl für Unternehmen, die KI-Funktionen nicht isoliert ausprobieren, sondern in bestehende, produktiv betriebene Java-Systeme integrieren wollen.
Wenn Sie prüfen möchten, wie sich KI-Funktionen sinnvoll in Ihre bestehende Java- oder Spring-Boot-Anwendung integrieren lassen – sprechen Sie uns gerne an. Wir unterstützen Sie von der Architekturentscheidung bis zur konkreten Umsetzung.
