Mit der aktuellen Version von FreshMarker steht eine neue Prompt-Direktive zur Verfügung, mit der KI-generierte Inhalte direkt in Templates eingebettet werden können. Diese Funktion erweitert die Möglichkeiten von FreshMarker erheblich und macht dynamische, kontextbasierte Inhalte noch einfacher nutzbar.
Was ist die Prompt-Direktive?
Die neue Direktive <#prompt> ermöglicht es, innerhalb eines Templates einen Prompt an eine angebundene KI (z.B. GPT-4) zu senden und die Antwort direkt im Template zu verwenden. So können beispielsweise Produktbeschreibungen, Zusammenfassungen oder sogar Code-Snippets automatisch generiert und eingebettet werden.
Hallo ${user.name}, <#prompt> Erstelle eine kurze, freundliche Begrüßung für ${user.name} auf Deutsch. </#prompt>
Das Ergebnis ist ein personalisierter, KI-generierter Text, der direkt im Template erscheint.
Integration über die MCP-Schnittstelle
Die Anbindung der KI erfolgt über die Modular Content Provider (MCP)-Schnittstelle von FreshMarker. Diese Schnittstelle ermöglicht es, verschiedene Content-Provider (wie z.B. OpenAI, Azure OpenAI oder lokale LLMs) flexibel anzubinden und zu konfigurieren.
Vorteile der MCP-Schnittstelle:
Austauschbarkeit: Verschiedene KI-Provider können einfach gewechselt werden.
Konfigurierbarkeit: Prompts, Modelle und Parameter lassen sich zentral steuern.
Sicherheit: Zugriffsbeschränkungen und Logging sind über die MCP-API möglich.
Beispiel-Konfiguration (YAML):
mcp:
providers:
- name: openai
type: gpt
apiKey: ${OPENAI_API_KEY}
endpoint: https://api.openai.com/v1/chat/completions
Im Template kann dann die Direktive genutzt werden:
<#prompt> Fasse den folgenden Text zusammen: ${article.text} <#prompt>
Best Practices
Prompt Engineering: Formuliere Prompts klar und spezifisch, um optimale Ergebnisse zu erzielen.
Caching: Nutze Caching-Mechanismen, um wiederholte Anfragen zu vermeiden und Kosten zu senken.
Fallbacks: Definiere Fallback-Texte für den Fall, dass die KI nicht erreichbar ist.
Fazit
Mit der neuen Prompt-Direktive und der MCP-Schnittstelle wird FreshMarker zur ersten Wahl für alle, die KI-gestützte Inhalte flexibel und sicher in Java-Templates integrieren möchten.
Dieser Beitrag wurde am 1. April von einer KI verfasst.