APIMart in AnythingLLM verwenden

Documentation Index

Fetch the complete documentation index at: https://docs.apimart.ai/llms.txt

Use this file to discover all available pages before exploring further.

​

Voraussetzungen

1. AnythingLLM ist installiert
   Laden Sie AnythingLLM von der offiziellen Website herunter oder besuchen Sie GitHub
2. APIMart-API-Schlüssel vorhanden
   Melden Sie sich in der APIMart-Konsole an, um Ihren API-Schlüssel zu erhalten (beginnt mit sk-)

​

Schritt 1: AnythingLLM starten und Einstellungen aufrufen

​

1.1 Anwendung starten

1. Starten Sie die AnythingLLM-Desktop-Anwendung oder rufen Sie die Webversion auf
2. Beim ersten Start erscheint ein Begrüßungsbildschirm
3. Klicken Sie unten links auf die Schaltfläche Open settings

​

1.2 Zur LLM-Konfiguration navigieren

1. Suchen Sie im linken Menü LLM Preference
2. Klicken Sie darauf, um die LLM-Konfigurationsseite zu öffnen

​

Schritt 2: APIMart-API konfigurieren

​

2.1 LLM-Anbieter auswählen

1. Suchen Sie das Dropdown-Menü LLM Provider
2. Wählen Sie Generic OpenAI

​

2.2 API-Informationen konfigurieren

​

2.3 Modellparameter anpassen (optional)

​

2.4 Konfiguration speichern

1. Klicken Sie unten auf der Seite auf Save
2. Das System testet die Verbindung automatisch
3. Bei korrekter Konfiguration erscheint eine Erfolgsmeldung

​

Schritt 3: Embedding-Modell konfigurieren (optional)

​

3.1 Zu Embedding-Einstellungen navigieren

1. Suchen Sie im linken Menü Embedding Preference
2. Klicken Sie darauf, um die Konfigurationsseite des Embedding-Modells zu öffnen

​

3.2 Embedding-Modell konfigurieren

​

Schritt 4: Workspace erstellen und Dokumente hochladen

​

4.1 Workspace erstellen

1. Kehren Sie zur Hauptoberfläche zurück
2. Klicken Sie auf + New Workspace
3. Geben Sie den Workspace-Namen ein (z. B. „Assistent für technische Dokumentation”, „Kundenservice-Wissensdatenbank”)
4. Klicken Sie auf Create

​

4.2 Dokumente hochladen

• 📄 Textdokumente – .txt, .md, .pdf, .docx
• 💻 Code-Dateien – .py, .js, .java, .cpp usw.
• 🌐 Webseiten – via URL-Scraping
• 📊 Datendateien – .csv, .json, .xml

1. Klicken Sie auf der Workspace-Seite auf Upload Documents
2. Wählen Sie Dateien aus oder ziehen Sie Dateien in den Upload-Bereich
3. Warten Sie, bis die Dokumentverarbeitung abgeschlossen ist
4. Dokumente werden automatisch vektorisiert

​

4.3 Dokumente verwalten

1. Alle hochgeladenen Dokumente anzeigen
2. Unnötige Dokumente löschen
3. Details zur Dokumentaufteilung anzeigen
4. Metadaten der Dokumente bearbeiten

​

Schritt 5: Konversationen starten

​

5.1 Grundlegende Konversationen

1. Suchen Sie im Workspace das Eingabefeld
2. Geben Sie Ihre Frage oder Anforderung ein
3. Die KI generiert Antworten auf Basis Ihrer hochgeladenen Dokumente und APIMart-Modelle

​

5.2 Wissensdatenbank-Funktionen nutzen

1. Ihre Frage analysieren
2. Relevante Inhalte aus den hochgeladenen Dokumenten abrufen
3. Genaue Antworten generieren, indem es abgerufene Inhalte und KI-Modell kombiniert

​

5.3 Workspaces wechseln

1. Klicken Sie oben links auf den Workspace-Namen
2. Wählen Sie andere Workspaces oder erstellen Sie neue
3. Jeder Workspace hat unabhängige Dokumente und Konversationsverlauf

​

Erweiterte Funktionen

​

1. Agent-Modus

• 🔍 Im Web suchen – Echtzeit-Informationen erhalten
• 🧮 Berechnungen durchführen – Mathematik und Datenanalyse bearbeiten
• 📊 Diagramme erzeugen – Daten visualisieren
• 🔗 APIs aufrufen – mit externen Diensten interagieren

1. Suchen Sie in den Workspace-Einstellungen Agent Configuration
2. Wählen Sie zu aktivierende Tools und Funktionen
3. Konfiguration speichern

​

2. Konversationsverlauf-Verwaltung

• Konversationen exportieren – als Text oder JSON exportieren
• Verlauf durchsuchen – schnell vergangene Konversationen finden
• Datensätze löschen – unnötigen Verlauf bereinigen

​

3. Benutzerdefinierte System-Prompts

1. Suchen Sie System Prompt
2. Passen Sie Rolle und Verhalten der KI an
3. Beispiel:

You are a professional technical support engineer, skilled at answering technical questions about products.
When answering, please:
1. Maintain professionalism and courtesy
2. Provide detailed step-by-step instructions
3. If uncertain, recommend contacting technical support

​

4. Mehrbenutzerverwaltung (nur Docker-Bereitstellung)

• Mehrere Benutzerkonten erstellen
• Verschiedene Berechtigungsebenen setzen
• Zugriffsrechte für Workspaces verwalten

​

5. API-Zugriff

• Programmatischen Zugriff auf Workspaces
• Hochladen und Verwalten von Dokumenten
• Senden von Konversationsanfragen
• Integration in Ihre Anwendungen

​

FAQ

​

Q1: Keine Verbindung zum APIMart-Dienst möglich?

1. Base URL prüfen:
   • Stellen Sie sicher, dass es https://api.apimart.ai/v1 ist (mit /v1)
   • Fügen Sie keine zusätzlichen Pfade hinzu und lassen Sie /v1 nicht weg
2. API Key überprüfen:
   • Bestätigen Sie, dass der API Key mit sk- beginnt
   • Prüfen Sie die Gültigkeit in der APIMart-Konsole
3. Netzwerkverbindung prüfen:
   • Stellen Sie sicher, dass Sie auf https://api.apimart.ai zugreifen können
   • Prüfen Sie Firewall- oder Proxy-Einstellungen

​

Q2: Dokumente werden nach dem Hochladen nicht korrekt abgerufen?

1. Embedding-Modell-Konfiguration prüfen:
   • Bestätigen Sie, dass das Embedding-Modell korrekt konfiguriert ist
   • Testen Sie die Verbindung des Embedding-Modells
2. Dokumente erneut verarbeiten:
   • Dokumente löschen und neu hochladen
   • Prüfen Sie, ob das Dokumentformat unterstützt wird
3. Such-Parameter anpassen:
   • Ähnlichkeitsschwelle in den Workspace-Einstellungen anpassen
   • Anzahl der zurückgegebenen Dokumentabschnitte erhöhen

​

Q3: Langsame Antwort in der Konversation?

1. Schneller Modelle wechseln:
   • gpt-4o-mini anstelle von gpt-4o verwenden
   • gemini-2.0-flash-exp für schnellere Antworten verwenden
2. Dokumentanzahl optimieren:
   • Anzahl der Dokumente im Workspace reduzieren
   • Unnötige große Dateien entfernen
3. Max Tokens anpassen:
   • Maximale Ausgabelänge reduzieren
   • Prägnantere Prompts verwenden

​

Q4: Wie sehe ich API-Nutzung und Kosten ein?

• 📊 API-Aufruf-Statistik
• 💰 Kostendetails
• 📈 Nutzungstrend-Diagramme
• 🔍 Detaillierte Anfrage-Logs

​

Q5: Welche Bereitstellungsoptionen unterstützt AnythingLLM?

• 🖥️ Desktop-Anwendung – Windows, macOS, Linux
• 🐳 Docker – selbst gehostete Bereitstellung
• ☁️ Cloud-Version – AnythingLLM Cloud (in Kürze)

​

Anwendungsbeispiele

​

1. Unternehmens-Wissensdatenbank

• Modell: gpt-4o-mini (kosteneffizient)
• Dokumente: interne Firmendokumente, Handbücher, FAQs
• Funktion: schnelle Informationsabfrage für Mitarbeiter

• Onboarding neuer Mitarbeiter
• Schnelles Nachschlagen von Firmenrichtlinien
• Abruf technischer Dokumentation

​

2. Assistent für technische Dokumentation

• Modell: claude-sonnet-4-5-20250929 (hervorragend für Code)
• Dokumente: API-Dokumentationen, technische Spezifikationen, Codebasis
• Funktion: Entwicklern beim Finden technischer Informationen helfen

• API-Nutzungsdokumentation
• Code-Beispielsuche
• Beantwortung technischer Fragen

​

3. Kundenservice-Wissensdatenbank

• Modell: gpt-4o (hochwertige Konversation)
• Dokumente: Produktanleitungen, FAQs, Lösungen
• Funktion: schnelle Antworten auf Kundenanfragen

• Automatische FAQ-Beantwortung
• Anleitung zur Produktnutzung
• Vorschläge zur Fehlerbehebung

​

4. Forschungs- und Lernassistent

• Modell: gpt-5 (starkes Verständnis)
• Dokumente: Forschungsarbeiten, Lehrbücher, Notizen
• Funktion: Lern- und Forschungsunterstützung

• Zusammenfassung und Analyse von Papieren
• Erklärung von Wissenspunkten
• Planung von Lernpfaden

​

Funktionen

• 📚 Private Wissensdatenbank – sichere private Wissensdatenbank lokal aufbauen
• 🔒 Datenschutz – alle Daten werden lokal gespeichert, was die Privatsphäre schützt
• 🤖 Multi-Modell-Unterstützung – flexibel zwischen verschiedenen KI-Modellen wechseln
• 📄 Multi-Format-Unterstützung – verschiedene Dokumentformate unterstützen
• 🎯 Präzise Suche – intelligente vektorbasierte Dokumentensuche
• 💬 Kontextbezogene Konversation – Kontext in langen Konversationen aufrechterhalten
• 🔧 Hochgradig anpassbar – benutzerdefinierte Prompts, Parameter usw.
• 🌐 Plattformübergreifend – Unterstützung für Windows, macOS, Linux

​

Datensicherheit und Datenschutz

​

Lokale Datenspeicherung

• 📁 Lokales Dateisystem – Dokumente werden lokal gespeichert
• 🗄️ Lokale Vektordatenbank – Vektorindizes werden lokal gespeichert
• 💾 Konversationsverlauf – Konversationsdaten werden lokal gespeichert

​

Sicherheit von API-Aufrufen

• 🔐 Verschlüsselte Übertragung – alle API-Aufrufe verwenden HTTPS-Verschlüsselung
• 🔑 Schlüsselschutz – API Key wird sicher gespeichert
• 🚫 Keine Datenaufbewahrung – APIMart speichert Ihre Konversationsinhalte nicht

​

Best Practices

​

1. Dokumentenverwaltung

• Regelmäßige Aktualisierungen – Dokumentinhalte aktuell halten
• Strukturierte Organisation – klare Ordnerstruktur verwenden
• Benennungskonventionen – sinnvolle Dateinamen verwenden
• Veraltete löschen – regelmäßig veraltete Dokumente bereinigen

​

2. Prompt-Optimierung

You are an assistant

You are a professional technical support assistant specializing in helping users resolve product-related technical issues.

When answering, please follow these principles:
1. Answer based on provided documentation; if information isn't available, clearly state so
2. Provide detailed step-by-step instructions with examples when necessary
3. Use clear, understandable language
4. For complex issues, recommend contacting the technical support team

​

3. Performance-Optimierung

• Dokumentgröße kontrollieren – Hochladen übermäßig großer Einzeldateien vermeiden
• Sinnvolle Aufteilung – Standard-Aufteilung der Dokumente verwenden
• Passendes Modell wählen – Modell entsprechend der Aufgabenkomplexität auswählen
• Nutzung überwachen – API-Nutzung regelmäßig prüfen

​

4. Workspace-Planung

• Nach Projekt aufteilen – unabhängige Workspaces für verschiedene Projekte erstellen
• Berechtigungsverwaltung – Workspace-Berechtigungen sinnvoll setzen (Docker-Version)
• Daten sichern – wichtige Workspaces regelmäßig sichern

​

Support & Hilfe

• 📚 APIMart-Dokumentation
• 📚 Offizielle AnythingLLM-Dokumentation
• 📚 AnythingLLM GitHub
• 💬 Discord-Community
• 🐦 Twitter @APIMart_
• 📧 Technischer Support: zhihong@apimart.ai