Abacus in VSCode

Code-Vervollständigung und Chat

Anstelle des vermurksten VSCode-Forks von Abacus können wir dessen Sprachmodelle auch direkt in VSCode einbetten.

:::warning Der API-Zugriff wird von Abacus gesondert abgerechnet und ist NICHT in der monatlichen Gebühr enthalten! :::

  1. In der Abacus-Web-UI einen API-Key generieren und notieren.
  2. Plugin OAI Compatible Provider for Copilot installieren.
  3. Die VS-Code-Einstellungen öffnen und dort die Werte für oaicopilot.baseUrl und oaicopilot.models pflegen. Beispiel:
    "oaicopilot.baseUrl": "https://routellm.abacus.ai/v1",
    "oaicopilot.models": [
    {
      "id": "meta-llama/Meta-Llama-3.1-8B-Instruct",
      "owned_by": "abacus"
    }
  1. Das GitHub-Copilot-Chat-Interface öffnen.
  2. Auf den Model-Picker klicken und „Manage Models...“ wählen.
  3. „OAI Compatible“-Provider auswählen.
  4. API-Key eingeben.
  5. Modelle auswählen.
  6. VSCode neustarten.