Code-Vervollständigung und Chat
Anstelle des vermurksten VSCode-Forks von Abacus können wir dessen Sprachmodelle auch direkt in VSCode einbetten.
:::warning Der API-Zugriff wird von Abacus gesondert abgerechnet und ist NICHT in der monatlichen Gebühr enthalten! :::
- In der Abacus-Web-UI einen API-Key generieren und notieren.
- Plugin OAI Compatible Provider for Copilot installieren.
- Die VS-Code-Einstellungen öffnen und dort die Werte für
oaicopilot.baseUrlundoaicopilot.modelspflegen. Beispiel:
"oaicopilot.baseUrl": "https://routellm.abacus.ai/v1",
"oaicopilot.models": [
{
"id": "meta-llama/Meta-Llama-3.1-8B-Instruct",
"owned_by": "abacus"
}
- Das GitHub-Copilot-Chat-Interface öffnen.
- Auf den Model-Picker klicken und „Manage Models...“ wählen.
- „OAI Compatible“-Provider auswählen.
- API-Key eingeben.
- Modelle auswählen.
- VSCode neustarten.