> ## Documentation Index > Fetch the complete documentation index at: https://docs.apimart.ai/llms.txt > Use this file to discover all available pages before exploring further. # APIMart in AnythingLLM verwenden > Ausführliche Anleitung zur Konfiguration und Nutzung des APIMart-API-Dienstes in AnythingLLM. Diese Anleitung hilft Ihnen, APIMart in AnythingLLM einzurichten, um private KI-Wissensdatenbanken und Konversationssysteme aufzubauen. ## Voraussetzungen Bevor Sie beginnen, stellen Sie sicher: 1. **AnythingLLM ist installiert**\ Laden Sie AnythingLLM von der [offiziellen Website](https://anythingllm.com/) herunter oder besuchen Sie [GitHub](https://github.com/Mintplex-Labs/anything-llm) 2. **APIMart-API-Schlüssel vorhanden**\ Melden Sie sich in der [APIMart-Konsole](https://apimart.ai/keys) an, um Ihren API-Schlüssel zu erhalten (beginnt mit `sk-`) **Tipp:** Wenn Sie noch kein APIMart-Konto haben, registrieren Sie sich zuerst bei [APIMart](https://apimart.ai) und holen Sie sich einen API-Schlüssel. ## Schritt 1: AnythingLLM starten und Einstellungen aufrufen ### 1.1 Anwendung starten 1. Starten Sie die AnythingLLM-Desktop-Anwendung oder rufen Sie die Webversion auf 2. Beim ersten Start erscheint ein Begrüßungsbildschirm 3. Klicken Sie unten links auf die Schaltfläche **Open settings** AnythingLLM Main Interface *AnythingLLM-Hauptoberfläche mit Workspace-Liste und Zugriff auf die Einstellungen* **Hinweis:** AnythingLLM unterstützt Desktop-Versionen (Windows, macOS, Linux) und Docker-Bereitstellung. ### 1.2 Zur LLM-Konfiguration navigieren Auf der Einstellungsseite: 1. Suchen Sie im linken Menü **LLM Preference** 2. Klicken Sie darauf, um die LLM-Konfigurationsseite zu öffnen ## Schritt 2: APIMart-API konfigurieren ### 2.1 LLM-Anbieter auswählen Auf der LLM-Konfigurationsseite: 1. Suchen Sie das Dropdown-Menü **LLM Provider** 2. Wählen Sie **Generic OpenAI** LLM Provider Selection *Wählen Sie Generic OpenAI als LLM-Anbieter* **Warum Generic OpenAI?** APIMart bietet eine OpenAI-kompatible API-Schnittstelle, sodass Sie durch Auswahl des Generic-OpenAI-Anbieters in AnythingLLM APIMart-Dienste nutzen können. ### 2.2 API-Informationen konfigurieren Nach Auswahl von Generic OpenAI füllen Sie die folgende Konfiguration aus: | Feld | Wert | | ----------------------------------- | ------------------------------------------------------------------------ | | **API Key** | Ihr APIMart-API-Schlüssel (`sk-xxxxxxxxxxxx`) | | **Base URL** oder **API Base Path** | `https://api.apimart.ai/v1` | | **Chat Model** oder **Model Name** | Geben Sie den konkreten Modellnamen ein (siehe empfohlene Modelle unten) | API Configuration *Geben Sie APIMart-API-Schlüssel, Base URL und Modellname ein* **Wichtig:** * Base URL muss das `/v1`-Suffix enthalten: `https://api.apimart.ai/v1` * API Key muss aus der APIMart-Konsole stammen und mit `sk-` beginnen * Der Modellname muss die exakte Modell-ID sein (z. B. `gpt-4o`, `claude-sonnet-4-5-20250929` usw.) * Stellen Sie sicher, dass Ihr API-Schlüssel ausreichend Guthaben hat **Empfohlene Modelle:** | Modellname | Modell-ID | Eigenschaften | | ----------------- | --------------------------------- | ----------------------------------- | | GPT-5 | `gpt-5` | Neuestes und leistungsstärkstes | | GPT-4o | `gpt-4o` oder `chatgpt-4o-latest` | Hochwertige Konversation | | GPT-4o Mini | `gpt-4o-mini` | Schnell und sparsam | | Claude Sonnet 4.5 | `claude-sonnet-4-5-20250929` | Hervorragend für Code und Reasoning | | Claude Haiku 4.5 | `claude-haiku-4-5-20251001` | Schnelle Antwort | | Gemini 2.0 Flash | `gemini-2.0-flash-exp` | Multimodale Unterstützung | **Leistungsempfehlungen:** * 💰 **Kosteneffizient:** `gpt-4o-mini`, `claude-haiku-4-5-20251001` * 🚀 **Hochleistung:** `gpt-5`, `gpt-4o`, `claude-sonnet-4-5-20250929` * ⚡ **Schnelle Antwort:** `gemini-2.0-flash-exp`, `gpt-4o-mini` ### 2.3 Modellparameter anpassen (optional) Sie können folgende Parameter nach Bedarf anpassen: | Parameter | Beschreibung | Empfohlener Wert | | --------------- | ------------------------------------ | ----------------------------- | | **Temperature** | Steuert die Zufälligkeit der Ausgabe | 0,7 (kreativ) / 0,3 (präzise) | | **Max Tokens** | Maximale Ausgabelänge | 2000-4000 | | **Top P** | Nucleus-Sampling-Parameter | 0,9 | ### 2.4 Konfiguration speichern 1. Klicken Sie unten auf der Seite auf **Save** 2. Das System testet die Verbindung automatisch 3. Bei korrekter Konfiguration erscheint eine Erfolgsmeldung ## Schritt 3: Embedding-Modell konfigurieren (optional) AnythingLLM unterstützt Vektoreinbettungen für Dokumentensuche und Wissensdatenbankfunktionen. ### 3.1 Zu Embedding-Einstellungen navigieren Auf der Einstellungsseite: 1. Suchen Sie im linken Menü **Embedding Preference** 2. Klicken Sie darauf, um die Konfigurationsseite des Embedding-Modells zu öffnen ### 3.2 Embedding-Modell konfigurieren | Feld | Wert | | ---------------------- | ------------------------------------------------------ | | **Embedding Provider** | Wählen Sie **Generic OpenAI** | | **API Key** | Ihr APIMart-API-Schlüssel (`sk-xxxxxxxxxxxx`) | | **Base URL** | `https://api.apimart.ai/v1` | | **Model** | `text-embedding-3-small` oder `text-embedding-3-large` | **Empfehlungen zur Modellauswahl:** * `text-embedding-3-small` – schnell und sparsam, geeignet für die meisten Szenarien * `text-embedding-3-large` – höhere Genauigkeit, geeignet für Szenarien mit hohen Anforderungen an die Suchqualität ## Schritt 4: Workspace erstellen und Dokumente hochladen ### 4.1 Workspace erstellen 1. Kehren Sie zur Hauptoberfläche zurück 2. Klicken Sie auf **+ New Workspace** 3. Geben Sie den Workspace-Namen ein (z. B. „Assistent für technische Dokumentation", „Kundenservice-Wissensdatenbank") 4. Klicken Sie auf Create ### 4.2 Dokumente hochladen AnythingLLM unterstützt verschiedene Dokumentformate: **Unterstützte Dokumenttypen:** * 📄 **Textdokumente** – .txt, .md, .pdf, .docx * 💻 **Code-Dateien** – .py, .js, .java, .cpp usw. * 🌐 **Webseiten** – via URL-Scraping * 📊 **Datendateien** – .csv, .json, .xml **Schritte zum Hochladen:** 1. Klicken Sie auf der Workspace-Seite auf **Upload Documents** 2. Wählen Sie Dateien aus oder ziehen Sie Dateien in den Upload-Bereich 3. Warten Sie, bis die Dokumentverarbeitung abgeschlossen ist 4. Dokumente werden automatisch vektorisiert **Dokumentverarbeitung:** Hochgeladene Dokumente werden automatisch in Abschnitte aufgeteilt und mit dem Embedding-Modell vektorisiert, in der lokalen Datenbank gespeichert. ### 4.3 Dokumente verwalten Auf der Dokumentenverwaltungsseite: 1. Alle hochgeladenen Dokumente anzeigen 2. Unnötige Dokumente löschen 3. Details zur Dokumentaufteilung anzeigen 4. Metadaten der Dokumente bearbeiten ## Schritt 5: Konversationen starten Nach der Konfiguration können Sie AnythingLLM nutzen: ### 5.1 Grundlegende Konversationen 1. Suchen Sie im Workspace das Eingabefeld 2. Geben Sie Ihre Frage oder Anforderung ein 3. Die KI generiert Antworten auf Basis Ihrer hochgeladenen Dokumente und APIMart-Modelle ### 5.2 Wissensdatenbank-Funktionen nutzen AnythingLLM wird automatisch: 1. Ihre Frage analysieren 2. Relevante Inhalte aus den hochgeladenen Dokumenten abrufen 3. Genaue Antworten generieren, indem es abgerufene Inhalte und KI-Modell kombiniert **Suchqualität verbessern:** * Hochwertige, strukturierte Dokumente hochladen * Klare, konkrete Fragen verwenden * Wissensdatenbank regelmäßig aktualisieren und pflegen ### 5.3 Workspaces wechseln Sie können mehrere Workspaces für verschiedene Projekte oder Themen erstellen: 1. Klicken Sie oben links auf den Workspace-Namen 2. Wählen Sie andere Workspaces oder erstellen Sie neue 3. Jeder Workspace hat unabhängige Dokumente und Konversationsverlauf ## Erweiterte Funktionen ### 1. Agent-Modus AnythingLLM unterstützt Agent-Funktionalität, sodass die KI: * 🔍 **Im Web suchen** – Echtzeit-Informationen erhalten * 🧮 **Berechnungen durchführen** – Mathematik und Datenanalyse bearbeiten * 📊 **Diagramme erzeugen** – Daten visualisieren * 🔗 **APIs aufrufen** – mit externen Diensten interagieren **Agent-Modus aktivieren:** 1. Suchen Sie in den Workspace-Einstellungen **Agent Configuration** 2. Wählen Sie zu aktivierende Tools und Funktionen 3. Konfiguration speichern ### 2. Konversationsverlauf-Verwaltung * **Konversationen exportieren** – als Text oder JSON exportieren * **Verlauf durchsuchen** – schnell vergangene Konversationen finden * **Datensätze löschen** – unnötigen Verlauf bereinigen ### 3. Benutzerdefinierte System-Prompts In den Workspace-Einstellungen: 1. Suchen Sie **System Prompt** 2. Passen Sie Rolle und Verhalten der KI an 3. Beispiel: ``` You are a professional technical support engineer, skilled at answering technical questions about products. When answering, please: 1. Maintain professionalism and courtesy 2. Provide detailed step-by-step instructions 3. If uncertain, recommend contacting technical support ``` ### 4. Mehrbenutzerverwaltung (nur Docker-Bereitstellung) Bei Docker-Bereitstellung: * Mehrere Benutzerkonten erstellen * Verschiedene Berechtigungsebenen setzen * Zugriffsrechte für Workspaces verwalten ### 5. API-Zugriff AnythingLLM bietet eine REST-API für: * Programmatischen Zugriff auf Workspaces * Hochladen und Verwalten von Dokumenten * Senden von Konversationsanfragen * Integration in Ihre Anwendungen ## FAQ ### Q1: Keine Verbindung zum APIMart-Dienst möglich? **Lösung:** 1. **Base URL prüfen**: * Stellen Sie sicher, dass es `https://api.apimart.ai/v1` ist (mit `/v1`) * Fügen Sie keine zusätzlichen Pfade hinzu und lassen Sie `/v1` nicht weg 2. **API Key überprüfen**: * Bestätigen Sie, dass der API Key mit `sk-` beginnt * Prüfen Sie die Gültigkeit in der [APIMart-Konsole](https://apimart.ai/keys) 3. **Netzwerkverbindung prüfen**: * Stellen Sie sicher, dass Sie auf `https://api.apimart.ai` zugreifen können * Prüfen Sie Firewall- oder Proxy-Einstellungen ### Q2: Dokumente werden nach dem Hochladen nicht korrekt abgerufen? **Lösung:** 1. **Embedding-Modell-Konfiguration prüfen**: * Bestätigen Sie, dass das Embedding-Modell korrekt konfiguriert ist * Testen Sie die Verbindung des Embedding-Modells 2. **Dokumente erneut verarbeiten**: * Dokumente löschen und neu hochladen * Prüfen Sie, ob das Dokumentformat unterstützt wird 3. **Such-Parameter anpassen**: * Ähnlichkeitsschwelle in den Workspace-Einstellungen anpassen * Anzahl der zurückgegebenen Dokumentabschnitte erhöhen ### Q3: Langsame Antwort in der Konversation? **Lösung:** 1. **Schneller Modelle wechseln**: * `gpt-4o-mini` anstelle von `gpt-4o` verwenden * `gemini-2.0-flash-exp` für schnellere Antworten verwenden 2. **Dokumentanzahl optimieren**: * Anzahl der Dokumente im Workspace reduzieren * Unnötige große Dateien entfernen 3. **Max Tokens anpassen**: * Maximale Ausgabelänge reduzieren * Prägnantere Prompts verwenden ### Q4: Wie sehe ich API-Nutzung und Kosten ein? Melden Sie sich in der [APIMart-Konsole](https://apimart.ai/overview) an, um Folgendes zu sehen: * 📊 API-Aufruf-Statistik * 💰 Kostendetails * 📈 Nutzungstrend-Diagramme * 🔍 Detaillierte Anfrage-Logs ### Q5: Welche Bereitstellungsoptionen unterstützt AnythingLLM? AnythingLLM unterstützt mehrere Bereitstellungsoptionen: * 🖥️ **Desktop-Anwendung** – Windows, macOS, Linux * 🐳 **Docker** – selbst gehostete Bereitstellung * ☁️ **Cloud-Version** – AnythingLLM Cloud (in Kürze) ## Anwendungsbeispiele ### 1. Unternehmens-Wissensdatenbank **Konfiguration:** * Modell: `gpt-4o-mini` (kosteneffizient) * Dokumente: interne Firmendokumente, Handbücher, FAQs * Funktion: schnelle Informationsabfrage für Mitarbeiter **Beispiel-Anwendungsfälle:** * Onboarding neuer Mitarbeiter * Schnelles Nachschlagen von Firmenrichtlinien * Abruf technischer Dokumentation ### 2. Assistent für technische Dokumentation **Konfiguration:** * Modell: `claude-sonnet-4-5-20250929` (hervorragend für Code) * Dokumente: API-Dokumentationen, technische Spezifikationen, Codebasis * Funktion: Entwicklern beim Finden technischer Informationen helfen **Beispiel-Anwendungsfälle:** * API-Nutzungsdokumentation * Code-Beispielsuche * Beantwortung technischer Fragen ### 3. Kundenservice-Wissensdatenbank **Konfiguration:** * Modell: `gpt-4o` (hochwertige Konversation) * Dokumente: Produktanleitungen, FAQs, Lösungen * Funktion: schnelle Antworten auf Kundenanfragen **Beispiel-Anwendungsfälle:** * Automatische FAQ-Beantwortung * Anleitung zur Produktnutzung * Vorschläge zur Fehlerbehebung ### 4. Forschungs- und Lernassistent **Konfiguration:** * Modell: `gpt-5` (starkes Verständnis) * Dokumente: Forschungsarbeiten, Lehrbücher, Notizen * Funktion: Lern- und Forschungsunterstützung **Beispiel-Anwendungsfälle:** * Zusammenfassung und Analyse von Papieren * Erklärung von Wissenspunkten * Planung von Lernpfaden ## Funktionen Mit AnythingLLM + APIMart können Sie: * 📚 **Private Wissensdatenbank** – sichere private Wissensdatenbank lokal aufbauen * 🔒 **Datenschutz** – alle Daten werden lokal gespeichert, was die Privatsphäre schützt * 🤖 **Multi-Modell-Unterstützung** – flexibel zwischen verschiedenen KI-Modellen wechseln * 📄 **Multi-Format-Unterstützung** – verschiedene Dokumentformate unterstützen * 🎯 **Präzise Suche** – intelligente vektorbasierte Dokumentensuche * 💬 **Kontextbezogene Konversation** – Kontext in langen Konversationen aufrechterhalten * 🔧 **Hochgradig anpassbar** – benutzerdefinierte Prompts, Parameter usw. * 🌐 **Plattformübergreifend** – Unterstützung für Windows, macOS, Linux ## Datensicherheit und Datenschutz ### Lokale Datenspeicherung AnythingLLM-Ansatz zur Datenspeicherung: * 📁 **Lokales Dateisystem** – Dokumente werden lokal gespeichert * 🗄️ **Lokale Vektordatenbank** – Vektorindizes werden lokal gespeichert * 💾 **Konversationsverlauf** – Konversationsdaten werden lokal gespeichert ### Sicherheit von API-Aufrufen * 🔐 **Verschlüsselte Übertragung** – alle API-Aufrufe verwenden HTTPS-Verschlüsselung * 🔑 **Schlüsselschutz** – API Key wird sicher gespeichert * 🚫 **Keine Datenaufbewahrung** – APIMart speichert Ihre Konversationsinhalte nicht **Datenschutzhinweis:** Obwohl Dokumente lokal gespeichert werden, werden Konversationen und abgerufene Inhalte, die an die KI gesendet werden, zur Verarbeitung per API an APIMart-Server übertragen. Vermeiden Sie das Hochladen oder Abfragen von Inhalten mit sensiblen Informationen. ## Best Practices ### 1. Dokumentenverwaltung * **Regelmäßige Aktualisierungen** – Dokumentinhalte aktuell halten * **Strukturierte Organisation** – klare Ordnerstruktur verwenden * **Benennungskonventionen** – sinnvolle Dateinamen verwenden * **Veraltete löschen** – regelmäßig veraltete Dokumente bereinigen ### 2. Prompt-Optimierung **❌ Schlechter Prompt:** ``` You are an assistant ``` **✅ Guter Prompt:** ``` You are a professional technical support assistant specializing in helping users resolve product-related technical issues. When answering, please follow these principles: 1. Answer based on provided documentation; if information isn't available, clearly state so 2. Provide detailed step-by-step instructions with examples when necessary 3. Use clear, understandable language 4. For complex issues, recommend contacting the technical support team ``` ### 3. Performance-Optimierung * **Dokumentgröße kontrollieren** – Hochladen übermäßig großer Einzeldateien vermeiden * **Sinnvolle Aufteilung** – Standard-Aufteilung der Dokumente verwenden * **Passendes Modell wählen** – Modell entsprechend der Aufgabenkomplexität auswählen * **Nutzung überwachen** – API-Nutzung regelmäßig prüfen ### 4. Workspace-Planung * **Nach Projekt aufteilen** – unabhängige Workspaces für verschiedene Projekte erstellen * **Berechtigungsverwaltung** – Workspace-Berechtigungen sinnvoll setzen (Docker-Version) * **Daten sichern** – wichtige Workspaces regelmäßig sichern ## Support & Hilfe Wenn Sie auf Probleme stoßen: * 📚 [APIMart-Dokumentation](https://docs.apimart.ai) * 📚 [Offizielle AnythingLLM-Dokumentation](https://docs.anythingllm.com/) * 📚 [AnythingLLM GitHub](https://github.com/Mintplex-Labs/anything-llm) * 💬 [Discord-Community](https://discord.gg/V8zqssyZ5c) * 🐦 [Twitter @APIMart\_](https://x.com/APIMart_) * 📧 Technischer Support: [zhihong@apimart.ai](mailto:zhihong@apimart.ai) *** Registrieren Sie sich jetzt bei APIMart, holen Sie sich Ihren API-Schlüssel und bauen Sie Ihre private Wissensdatenbank in AnythingLLM auf!