Nahaufnahme einer Person, die mit einem Tablet auf einer Decke sitzt.

TechWiese Blog

GitHub Models: Leistungsstarke KI-Modelle für deine Projekte

19. März 2025

Markus Zeischke

Stell‘ dir vor, du könntest direkt in deinen Entwicklungsprojekten auf die besten KI-Modelle zugreifen – flexibel, direkt in deiner Entwicklungsumgebung und genau auf deine Anforderungen zugeschnitten. Mit GitHub Models wird diese Vision Wirklichkeit. Egal, ob du einen Chatbot baust, Code optimierst oder eine maßgeschneiderte KI-Lösung entwickelst – du hast Zugriff auf leistungsstarke Modelle wie GPT-4o, Llama 3.1 oder Mistral Large und kannst sie direkt in deine Anwendungen integrieren.

Das bedeutet: Du bist nicht mehr nur Developer – du wirst zum AI Engineer. Statt Künstliche Intelligenz nur zu nutzen, kannst du sie gezielt steuern, anpassen und produktiv einsetzen. Ob im Playground zum Experimentieren, in Codespaces für erste Prototypen oder in der produktiven Umgebung mit Azure AI – GitHub Models gibt dir alles an die Hand, um mit KI nahtlos zu arbeiten.

Diese Features bietet GitHub Models

GitHub Models bietet dir verschiedene Funktionen, um KI effizient in deinen Entwicklungsworkflow zu integrieren:

Zugang zu verschiedenen Modellen: Wähle aus einer Vielzahl leistungsstarker Sprachmodelle mit unterschiedlichen Stärken, sei es niedrige Latenz, multimodale Fähigkeiten oder spezifische Optimierungen für Retrieval-Augmented Generation (RAG).
Eingebauter Playground: Teste Prompts, optimiere Parameter und vergleiche Modelle direkt auf GitHub. Der Playground ermöglicht es dir, Modellparameter anzupassen und Prompts zu übermitteln, um die Reaktionen der Modelle zu analysieren.
Nahtlose Integration mit Codespaces und VS Code: Experimentiere mit Code und Modellen, ohne dich um die Einrichtung der Umgebung kümmern zu müssen. Mit den GitHub Models-Erweiterungen kannst du spezifische KI-Modelle sowohl in Copilot Chat als auch in der GitHub CLI aufrufen, wodurch du Modelle ohne Kontextwechsel ansprechen kannst.
Einfache Skalierung auf Azure AI: Wenn du bereit bist, deine Anwendung in die Produktion zu bringen, kannst du von deinem GitHub-Zugangstoken auf ein Azure-Konto wechseln und von erhöhter Sicherheit, Skalierbarkeit und globaler Verfügbarkeit profitieren.

Das Bild zeigt die Webseite von Git Models. Auf der linken Seite befindet sich ein Menü mit den Optionen "Featured", "Copilot", "Models", und "Apps". Die Option "Models" ist ausgewählt. In der Mitte des Bildes gibt es eine Suchleiste mit Filtern für Publisher, Capability, Category, und Sort. Darunter sind verschiedene Modelle aufgelistet. — Abb. GitHub Models bietet dir Zugriff auf eine Vielzahl von KI-Modellen von verschiedenen Anbietern

Playground: Dein Experimentierfeld für KI-Modelle

Der GitHub Models Playground, der derzeit in einer Public Preview zur Verfügung steht, dient als Testumgebung für KI-Modelle. Hier stehen verschiedene Optionen zur Verfügung, um die Einsatzbereiche der unterschiedlichen KI-Modelle zu erkunden. Dazu zählen beispielsweise:

Prompts ausprobieren (1): Teste verschiedene Eingaben und analysiere deren Auswirkungen auf die Ausgabe der Modelle.
Modelparameter anpassen (2): Passe Parameter wie Temperatur oder System-Prompts an, um die Ausgabe der Modelle zu beeinflussen.
Modelle vergleichen (3): Sende denselben Prompt gleichzeitig an zwei Modelle und vergleiche deren Antworten, um das für deine Anforderungen am besten geeignete Modell zu finden.

Abb. Im Playground kannst du KI-Modelle ausgiebig testen

So nutzt du den GitHub Models Playground

Mit ein paar wenigen Schritten kannst du schnell im Playground loslegen und verschiedene Punkte ausprobieren:

1. Modell auswählen

Gehe zu github.com/marketplace/models
Klicke auf „Model: Select a Model“ und wähle ein Modell aus dem Dropdown-Menü
Alternativ kannst du auf „View all models“ klicken und ein Modell aus dem Marketplace auswählen
Wenn du das Modell ausgewählt hast, kannst du oben rechts auf „Playground“ gehen

Das Bild zeigt einen Screenshot einer Benutzeroberfläche für ein Modell namens "Phi-4" auf dem Microsoft Marketplace. Es gibt eine Suchleiste mit dem Platzhaltertext "Enter a message...". Unter der Suchleiste befinden sich drei Beispiel-Fragen: Es gibt auch einen hervorgehobenen Button mit der Beschriftung "Playground", auf den ein Pfeil zeigt. — Abb. Mit einem Klick oben rechts kannst du in den Playground wechseln

2. Modell im Playground testen

Das Modell wird nun im Playground geöffnet.
Wechsle zur Registerkarte „Code“, um Beispielcode für verschiedene Programmiersprachen zu sehen.
Wähle im Sprach-Dropdown deine bevorzugte Programmiersprache.
Falls verfügbar, kannst du im SDK-Dropdown zwischen verschiedenen SDKs wählen.

Hinweis: Die kostenlose API-Nutzung ist aktuell in der Public Preview und kann sich noch ändern. Achte darauf, die Rate Limits zu prüfen, um Einschränkungen zu vermeiden.

Integration in deinen Entwicklungsworkflow

GitHub Models ermöglicht es dir außerdem, KI-Modelle direkt in deinen bestehenden Entwicklungsprozess zu integrieren:

Copilot Chat: Wenn du ein Copilot-Abonnement hast, kannst du mit der GitHub Models Copilot-Erweiterung Modellvorschläge basierend auf bestimmten Kriterien erhalten und direkt mit spezifischen Modellen interagieren. Dies ermöglicht es dir, Modelle zu nutzen, die nicht standardmäßig in Copilot Chat verfügbar sind.
GitHub CLI: Mit der GitHub Models-Erweiterung für die GitHub CLI kannst du KI-Modelle direkt über die Befehlszeile ansprechen und sogar die Ausgabe eines Befehls als Kontext verwenden. Dies erleichtert es, Modelle in Skripte und Automatisierungsprozesse zu integrieren.
Codespaces und VS Code: Dank einer nahtlosen Integration kannst du die Modelle auch direkt in deine Entwicklungsumgebung bringen.

Modelle in GitHub Copilot Chat nutzen

Wenn du eine GitHub Copilot-Subscription hast, kannst du KI-Modelle in Copilot Chat auf zwei Arten nutzen:

Mit der GitHub Models Copilot Extension

Installiere die GitHub Models Copilot Extension
Falls du Copilot Pro nutzt, kannst du die Erweiterung für dein persönliches Konto installieren
Bei Copilot Business oder Enterprise muss der Organisations- oder Unternehmensinhaber die Copilot Extensions Policy aktivieren und die Erweiterung für die Organisation installieren
Öffne eine Copilot-Chat-Umgebung, die GitHub Copilot Extensions unterstützt
Schreibe im Chat @models DEIN-PROMPT und sende deine Anfrage.

Mit Multi-Model Copilot Chat

Wähle in Copilot Chat ein bestimmtes Modell für deine Unterhaltung aus
Stelle deine Fragen und erhalte Antworten vom gewählten Modell

Modelle in der GitHub CLI nutzen

Du kannst GitHub Models auch direkt über die Befehlszeile verwenden. Starte mit der Installation der GitHub Models CLI-Erweiterung:

Stelle sicher, dass du die GitHub CLI installiert hast.
Melde dich mit folgendem Befehl an: gh auth login
Installiere die Erweiterung mit: gh extension install https://github.com/github/gh-models

Nach Installation der GitHub Models CLI-Erweiterung kannst du mit folgenden Schritten fortfahren:

Liste aller verfügbaren Modelle anzeigen: gh models
Einen Chat mit einem Modell starten: gh models run (Wähle ein Modell aus der Liste und stelle deine Fragen)
Eine einzelne Frage an ein Modell stellen: gh models run MODEL-NAME "DEINE FRAGE"
Den Output eines Befehls als Kontext für ein Modell nutzen: cat README.md | gh models run gpt-4o "Fasse diesen Text zusammen."

Das Modell in einer eigenen Umgebung nutzen

Du hast zwei Möglichkeiten, das Modell in deiner Entwicklungsumgebung auszuführen: In einem Codespace: Klicke hierfür auf „Run Codespace“ und anschließend auf „Create new Codespace“. Oder du kannst das Modell lokal ausführen. Hierfür musst du die folgenden Schritte beachten:

Erstelle ein GitHub Personal Access Token (ohne zusätzliche Berechtigungen)
Speichere das Token als Umgebungsvariable
Installiere die benötigten Abhängigkeiten für das ausgewählte SDK
Nutze den Beispielcode, um Anfragen an das Modell zu senden

Der Prompt-Editor: Feintuning für deine Prompts

Ein gut formulierter Prompt ist der Schlüssel zu präzisen und hilfreichen KI-Antworten. Mit dem Prompt-Editor in GitHub Models kannst du deine Prompts gezielt testen, optimieren und perfektionieren – ganz ohne Ablenkung.

Warum sollte ich den Prompt-Editor nutzen?

Schnelles Experimentieren: Teste verschiedene Eingaben, ohne dich durch mehrteilige Interaktionen navigieren zu müssen.
Gezielte Optimierung: Verfeinere deine Prompts, um genau die Antworten zu erhalten, die du für dein Projekt benötigst.
Strukturierte Tests: Nutze einen eigenen Bereich für einfache, aber effektive Prompt-Optimierung, damit deine KI-Ergebnisse konsistenter und relevanter werden.

Egal, ob du an einer spezifischen Aufgabenstellung arbeitest oder einfach nur verschiedene Formulierungen testen möchtest – der Prompt-Editor hilft dir, das volle Potenzial der KI-Modelle auszuschöpfen.

Das Bild zeigt einen Screenshot der Benutzeroberfläche des Prompt Editors von GitHub Models zum Erstellen und Testen von Modellen, als Beispiel für ein Modell namens "Phi-4". Die Benutzeroberfläche umfasst Abschnitte mit den Bezeichnungen "System" und "User" auf der linken Seite, in denen Anweisungen oder Eingabeaufforderungen definiert werden können. Auf der rechten Seite des Bildschirms gibt es Optionen zum Vorschau anzeigen, Feedback geben, Modell im Playground verwenden oder ausführen. Oben befindet sich eine Suchleiste. — Abb. Der Prompt Editor von GitHub Models

GitHub Models: Experimentieren, testen, produktiv einsetzen

GitHub Models ist mehr als nur eine neue Funktion – es ist ein bedeutender Schritt für die Nutzung von KI in der Softwareentwicklung. Egal, ob du erste Experimente mit Sprachmodellen durchführst oder produktive KI-Anwendungen entwickeln möchtest, GitHub bietet dir die passenden Möglichkeiten.

Neugierig geworden? Dann probiere die neuen Möglichkeiten direkt aus – hier sind drei nächste Schritte, mit denen du sofort loslegen kannst:

Gehe auf dein GitHub-Konto und teste die Funktionen von GitHub Models kostenfrei

Schaue dir diese Aufzeichnung der Microsoft Azure Tech Week an und lerne GitHub Models und weitere Möglichkeiten kennen, die deine Produktivität steigern

Schaue dir auch GitHub Copilot an und probiere die Tipps aus der Community aus