Skip to main content

Παροχείς AI — κατάλογος ρύθμισης

Το στρώμα AI του cMind είναι αγνοστικό παροχέα (δείτε δυνατότητες AI). Διαμορφώστε έναν παροχέα δύο τρόπων:

  1. UI (ιδιοκτήτης): Ρυθμίσεις → AI → Προσθήκη παροχέα → επιλέξτε είδος, βασικό URL, μοντέλο, κλειδί (προαιρετικό για τοπικό), διακόπτες ικανότητας, Ορισμός ενεργού → Δοκιμή σύνδεσης.

  2. Config/env (ops): σπόρο App:Ai:Providers[] και App:Ai:ActiveProvider — εισάγεται στο κατάστημα κατά την πρώτη εκκίνηση όταν δεν υπάρχουν διαπιστευτήρια. Παράδειγμα (env, δείκτης παροχέα 0):

    App__Ai__ActiveProvider=OpenAiCompatible
    App__Ai__Providers__0__Kind=OpenAiCompatible
    App__Ai__Providers__0__BaseUrl=http://localhost:11434/v1/
    App__Ai__Providers__0__Model=llama3.1:8b
    # App__Ai__Providers__0__ApiKey=...   (παράλειψη για χωρίς κλειδί τοπικά τελικά σημεία)

Ακριβώς ένας παροχέας είναι ενεργός κάθε φορά. Τα κλειδιά αποθηκεύονται κρυπτογραφημένα. ένα τοπικό τελικό σημείο δεν χρειάζεται κανέν.

Ασφάλεια: http έναντι https​

Το απλό κείμενο http:// γίνεται δεκτό μόνο για loopback / ιδιωτικά (intranet) κεντρικά συστήματα — την περίπτωση τοπικού-LLM (Ollama, LM Studio, vLLM, ένα on-prem κουτί). Κάθε κεντρικό σύστημα δρομολογήσιμο στο δημόσιο διαδίκτυο πρέπει να είναι https://, έτσι ένα κλειδί API δεν αποστέλλεται ποτέ στο σκ. Air-gapped/on-prem: δείχνει το βασικό URL στο εσωτερικό σας τελικό σημείο (loopback ή ιδιωτική IP) και αφήστε το κλειδί κενό εάν η εκτέλεση είναι χωρίς έλεγχο ταυτότητας.

Ενσωματωμένο τοπικό AI (ONNX, αποστολή)​

Το cMind αποστέλνει ένα πραγματικό τοπικό LLM διεργασίας (Microsoft.ML.OnnxRuntimeGenAI) που είναι ενεργοποιημένο από προεπιλογή — χωρίς κλειδί, χωρίς εξωτερική υπηρεσία. Κατά την πρώτη εκκίνηση, όταν δεν έχει διαμορφωθεί κανένας παροχέας και App:Branding:AllowBuiltInAi είναι true, σπέρνεται και ενεργοποιείται αυτόματα.

  • Config: App:Ai:BuiltIn:Enabled (προεπιλογή true), App:Ai:BuiltIn:ModelPath (προεπιλογή models/onnx, σχετικά με τον κατάλογο βάσης εφαρμογής), App:Ai:BuiltIn:MaxTokens (προεπιλογή 1024).

  • Αρχεία μοντέλου: δείχνας ModelPath σε έναν κατάλογο που περιέχει μοντέλο ONNX GenAI — genai_config.json, το tokenizer και τα βάρη .onnx. Ένα κτίριο CPU Phi-3.5-mini-instruct λειτουργεί καλά, π.χ.:

    pip install huggingface_hub
    huggingface-cli download microsoft/Phi-3.5-mini-instruct-onnx \
      --include cpu_and_mobile/cpu-int4-awq-block-128-acc-level-4/* \
      --local-dir ./models
    # στη συνέχεια ορίστε App:Ai:BuiltIn:ModelPath σε αυτόν τον φάκελο (περιέχει genai_config.json)

    Δέστε τον φάκελο με την εικόνα ανάπτυξης / Helm όγκο, ή προσαρτήστε το κατά την εκτέλεση. Όταν τα αρχεία είναι απόντα το ενσωματωμένο υποβαθμίζεται σε ένα σαφές μήνυμα "μοντέλο δεν εγκαταστάθηκε" — η εφαρμογή εξακολουθεί να τρέχει. διαμορφώνω έναν άλλο παροχέα ή εγκαταστήστε το μοντέλο.

  • GPU: αντάλλαξης το πακέτο CPU/μοντέλο για κατασκευή CUDA/DirectML ONNX GenAI. η διαδρομή κώδικα είναι αμετάβλητη.

Λευκό-ετικέτα: περιορισμός AI​

Ορίστε κάτω από App:Branding (εφαρμοσμένο στην πλευρά του διακομιστή — ένα απαγορευμένο upsert επιστρέφει 400):

  • AllowBuiltInAi: false — αφαιρέστε το αποστολημένο ενσωματωμένο μοντέλο εντελώς.
  • AllowLocalProviders: false — απαγόρευση τοπικών/αυτο-ιδιοκτήτων τελικών σημείων (Ollama/LM Studio/vLLM και οποιοδήποτε loopback/private OpenAI-συμβατό URL).
  • AllowedAiProviderKinds: ["Anthropic","OpenAiCompatible"] — επιτρέπονται μόνο αυτά τα είδη (κενό = όλα).

Επέκταση με μελλοντικά ενσωματωμένα μοντέλα​

Το στρώμα παροχέα είναι βασισμένο σε προσαρμογέα (IAiProvider κλειδωμένο από AiProviderKind), έτσι μια μελλοντική ενσωματωμένη εκτέλεση μοντέλου προστίθεται χωρίς να αγγίζεται κανένα χαρακτηριστικό AI: προσθέστε ένα είδος, εφαρμόστε έναν προσαρμογέα, εγγραφή του. Το ενσωματωμένο ONNX είναι η υλοποίηση αναφοράς. Δείτε Δυνατότητες AI → Επέκταση.

Παροχείς Νέφους​

Anthropic (Claude)​

  • Κλειδί: https://console.anthropic.com/ → κλειδιά API.
  • Βασικό URL: https://api.anthropic.com/ · Μοντέλο: π.χ. claude-opus-4-8.
  • Ικανότητες: αναζήτηση ιστού + όραση ενεργή από προεπιλογή.

OpenAI​

  • Κλειδί: https://platform.openai.com/api-keys.
  • Βασικό URL: https://api.openai.com/v1/ · Μοντέλο: π.χ. gpt-4o.
  • Είδος: OpenAiCompatible. Ενεργοποιήστε την όραση στο διάλογο εάν χρησιμοποιείτε μοντέλο όρασης.

Azure OpenAI​

  • Κλειδί + τελικό σημείο: Πύλη Azure → ο πόρος Azure OpenAI σας.
  • Βασικό URL: https://<resource>.openai.azure.com/ · Μοντέλο: ο όνομα ανάπτυξης σας.
  • Είδος: AzureOpenAi (χρησιμοποιεί την κεφαλίδα api-key + api-version ερώτηση και διαδρομή ανάπτυξης).

Google Gemini​

  • Κλειδί: https://aistudio.google.com/app/apikey.
  • Βασικό URL: https://generativelanguage.googleapis.com/ · Μοντέλο: π.χ. gemini-2.0-flash.
  • Είδος: Gemini. Αγκύρωση αναζήτησης ιστού + όραση ενεργή από προεπιλογή.

Άλλα OpenAI-συμβατά clouds (OpenRouter, Groq, Together, Mistral, DeepSeek)​

  • Είδος: OpenAiCompatible. Βασικό URL = τελικό σημείο OpenAI-συμβατό του παροχέα, Μοντέλο = ταυτότητα μοντέλου του, ApiKey = κλειδί παροχέα. Δεν απαιτείται αλλαγή cMind — ένας προσαρμογέας τους εξυπηρετεί όλους.

Τοπικά μοντέλα (χωρίς κλειδί)​

Όλες οι τοπικές εκτελέσεις εκθέτουν το σύρμα OpenAI Chat Completions, έτσι χρησιμοποιήστε Είδος: OpenAiCompatible με το βασικό URL εκτέλεσης και όνομα μοντέλου που εξυπηρετείται. αφήστε το κλειδί κενό.

Ollama​

# εγκατάσταση από https://ollama.com, στη συνέχεια:
ollama pull llama3.1:8b
  • Βασικό URL: http://localhost:11434/v1/ · Μοντέλο: το όνομα που τραβήχτηκε (π.χ. llama3.1:8b, qwen2.5-coder).
  • Χωρίς κλειδί API. Οι ικανότητες προεπιλογής σε μόνο κείμενο. ενεργοποιήστε την όραση μόνο για μοντέλο όρασης.

LM Studio​

  • Ξεκινήστε τον τοπικό διακομιστή (Προγραμματιστής → Εκκίνηση διακομιστή).
  • Βασικό URL: http://localhost:1234/v1/ · Μοντέλο: το φορτωμένο αναγνωριστικό μοντέλου. Χωρίς κλειδί API.

vLLM / llama.cpp server / LocalAI​

  • Εξυπηρετήστε ένα OpenAI-συμβατό τελικό σημείο (καθένα αποστέλνει ένα).
  • Βασικό URL: το URL που εξυπηρετείτε (π.χ. http://localhost:8000/v1/) · Μοντέλο: το όνομα μοντέλου που εξυπηρετείται. Χωρίς κλειδί εκτός εάν θέσετε auth μπροστά.

Επαλήθευση​

  • Δοκιμή σύνδεσης στο διάλογο τρέχει μια ντελικάτη ολοκλήρωση ping και αναφορές επιτυχία + latency — ιδανικό για επιβεβαίωση ενός τοπικού τελικού σημείου.
  • Αυτοματοποιημένο: η σουίτα E2E της εφαρμογής οδηγεί κάθε χαρακτηριστικό AI ενάντια σε ένα ενδιάμεσο ψεύτικο OpenAI-συμβατό διακομιστή από προεπιλογή, ή ο πραγματικός παροχέας σας όταν AI_E2E_BASEURL (+ προαιρετικό AI_E2E_API_KEY / AI_E2E_KIND / AI_E2E_MODEL) είναι ορισμένο. Δείτε Δυνατότητες AI → Δοκιμή.

Εναλλαγή / περιστροφή​

  • Εναλλαγή ενεργού παροχέα: Ρυθμίσεις → AI → Ορισμός ενεργού σε άλλη κάρτα (ενεργοποίηση ενός απενεργοποιεί τα υπόλοιπα).
  • Περιστροφή κλειδιού: επεξεργασία του παροχέα και παροχή ενός νέου κλειδιού (αφήστε κενό για να κρατήσετε το αποθηκευμένο).
  • Αφαίρεση: διαγραφή της κάρτας. Χωρίς ενεργό παροχέα, τα χαρακτηριστικά AI απενεργοποιούνται και η υπόλοιπη εφαρμογή τρέχει αμετάβλητη.