Wie startet man KI lokal auf dem Rechner?

von | 17. Jan 2024

KI lokal benutzen

Eines der aufregendsten Dinge, um mit einer neuen Technologie zu beginnen, ist, sie in die Hand zu nehmen und sich die Hände wirklich schmutzig zu machen. Wir haben in der Vergangenheit LLMs und selbst trainierte Modelle für die Merkmalsextraktion sowie vortrainierte Modelle verwendet. Eine Sache, die 2023 in jedem Blogartikel vorkommt, ist die automatische Erstellung von Bildern mit Midjourney oder anderen KI Tools. Diese Tools funktionieren jedoch fast immer in einem Cloud-System. Diese Bilder können realistisch oder künstlerisch sein, je nach verwendetem Modell.

Wo startet man?

Einen Ausgangspunkt zu finden, ist nicht einfach. Ich habe bisher Automatic1111, ComfyUI, Gradio und InvokeAI als Benutzeroberflächen getestet. Alle haben ihre Vor- und Nachteile und sogar unterschiedliche Leistungen in Bezug auf die Berechnungsgeschwindigkeit.

Ich habe für mich festgestellt, dass InvokeAI die einfachste und benutzerfreundlichste Lösung ist, die es derzeit gibt. Die Installation ist schnell und einfach und die Benutzerfreundlichkeit unter den Bedingungen ist ziemlich gut.

 

1.Voraussetzungen

InvokeAI ist kompatibel mit Linux, Windows und Mac. Linux-Benutzer haben die Möglichkeit, Nvidia-basierte Karten (mit CUDA-Unterstützung) oder AMD-Karten (mit ROCm-Treiber) zu verwenden.

Automatischer Installer: Ideal für Anfänger

Sehr empfohlen für Neulinge.

Dieses Skript übernimmt die Installation aller notwendigen Drittanbieterbibliotheken und von InvokeAI selbst. Es beinhaltet eine „Entwicklerkonsole“ für das Debuggen und den Zugriff auf experimentelle Funktionen. Wir werden uns hier auf den automatischen Installer konzentrieren.

Manuelle Installation: Für Erfahrene und Entwickler

Siehe InvokeAIs Installationsseite: https://invoke-ai.github.io/InvokeAI/installation/INSTALLATION/#manual-installation

Systemanforderungen:

Ihr System sollte eines der folgenden haben:

Eine Nvidia-basierte Grafikkarte mit mindestens 4 GB VRAM.
Eine AMD-basierte Grafikkarte mit mindestens 4 GB VRAM (nur Linux).
Einen Apple-Computer mit einem M1-Chip.

SDXL 1.0 Spezifikationen: Um SDXL zu nutzen, benötigen Sie:

Eine Nvidia-basierte Grafikkarte mit 8 GB oder mehr VRAM.
Eine AMD-basierte Grafikkarte mit 16 GB oder mehr VRAM (nur Linux).
Einen Apple-Computer mit einem M1-Chip.

Speicher und Festplatte:

Mindestanforderungen sind:

Mindestens 12 GB Hauptarbeitsspeicher (RAM).
Mindestens 18 GB freier Festplattenspeicher für das maschinelle Lernmodell, Python und seine Abhängigkeiten.

       

      2. Installation

      Anleitung für den automatischen Installer (Ideal für Erstbenutzer)

      1. Navigiere zum Ende der Seite Latest Release Page.
      2. Wähle und lade die .zip-Datei herunter, die zu deinem Betriebssystem passt (Windows, macOS oder Linux).
      3. Nach dem Herunterladen, entpacke die Datei.
      4. Für Windows-Benutzer: Doppelklicke auf das Skript install.bat. Für macOS: Öffne ein Terminal, ziehe die Datei install.sh aus dem Finder in das Terminal und drücke die Eingabetaste. Für Linux: Führe das Skript install.sh aus.
      5. Während der Installation wirst du aufgefordert, ein Verzeichnis für InvokeAI und seine Bilddateien für die Bildgenerierung zu wählen. Wähle einen Ort mit mindestens 15 GB freiem Speicherplatz, mehr, wenn du zusätzliche Modelle hinzufügen möchtest.
      6. Warte geduldig, während der Installer alles einrichtet. Nach der Installation wird ein Skript gestartet, um InvokeAI zu konfigurieren und erste Modelle für die Bildgenerierung auszuwählen.
      7. Suche das Installationsverzeichnis von InvokeAI (beachte, dass dies nicht dasselbe ist wie der Ort, an dem du die Zip-Datei entpackt hast!). Standardmäßig ist dies ~/invokeai auf Linux/Mac und C:\Users\DeinName\invokeai auf Windows. In diesem Verzeichnis findest du Startskripte mit den Namen invoke.sh und invoke.bat.
      8. Um auf Windows zu starten, doppelklicke auf die Datei invoke.bat. Auf macOS und Linux öffne ein Terminal, ziehe die Datei invoke.sh in das Terminal und drücke die Eingabetaste.
      9. Sobald die Software läuft, drücke die 2, um die „browserbasierte Benutzeroberfläche“ zu öffnen, drücke Enter und gib Stable Diffusion ein paar Minuten Zeit, um zu starten. Navigiere dann in deinem Webbrowser zu http://localhost:9090.

       

      3. Die Modelle

      Die Verwendung der richtigen Modelle ist entscheidend für deinen Erfolg bei der Bildgenerierung. Der einfachste Weg ist, ein sogenanntes „fertiges“ Modell zu finden, bei dem die zusätzlichen Lernschritte in SDXL bereits integriert sind. Für unser Beispiel hier schlage ich vor, das Realvis 3.0 SDXL Baked von https://civitai.com/ zu verwenden. Dieses Modell ist auf Fotorealismus trainiert und wird dir großartige Ergebnisse liefern, wenn du die richtigen Aufforderungen nutzt. Ein weiteres Geheimnis für großartige Ergebnisse ist der sogenannte „Refiner“. Dieser zusätzliche Schritt verleiht deinen Ergebnissen die letzten 10% an Qualität. Ich verwende den „stable-diffusion-xl-refiner-1-0″.

      Die Installation dieses Modells ist ziemlich einfach, indem du den Link einfach in das Import Models Dialog von InvokeAI einfügst.

      4. Der Spaß beginnt, lass es laufen

      Jetzt beginnt der spaßig Teil. Ein Beispiel um einphotorealistisches Bild zu generieren.

      Prompt:

      Hyper-realistic full-body image of a captivating female cybernetic android that will overtake the world with a wide, genuine smile and deep, piercing blue eyes. She boasts a bold blond buzzcut hairstyle and sophisticated dark makeup, highlighting her perfect skin. The image is taken in white plastic clothes and in a futuristic spaceship with warm, soft light, capturing her face and shoulders and emphasizing fine details like the texture of her skin and the subtle shine in her eyes. The photograph, styled as a high-fashion portrait, conveys a blend of natural beauty and contemporary style, ideal for a high-quality magazine cover.

      Style:

      comic style, 8k, agfa vista, photographic, high quality, realistic face

      Negative Prompt:

      (worst quality, low resolution, minimal details, oversaturated or undersaturated colors, overexposed or underexposed lighting, grayscale, black and white, poor photography techniques:1.4), (any watermarks, signatures, text fonts, usernames, errors, logos, words, letters, digits, autographs, trademarks, names:1.2), (blurry or grainy textures), grotesque, unsightly features, asymmetry, malformed or mutilated elements, poorly lit areas, bad shadowing, drafts, cropped or out of frame subjects, censored parts, jpeg artifacts, out of focus areas, glitches, duplicates, (airbrushed, cartoonish, anime-style, semi-realistic, CGI, rendered, digital art, manga, amateurish effects:1.3), (3D models, 3D game scenes, 3D characters:1.1), (incorrect anatomy, disproportionate body parts, facial distortions, imperfect teeth, awkward limbs:1.3)

      nutze den „DPM++ SDE Karras“ sampler, 4-10 steps und CFG Scale 1-2.5.

      Abschlussworte

      Das Generieren von Bildern auf einem lokalen Rechner ist heutzutage kein Problem mehr. Es ist ziemlich einfach zugänglich und auf nahezu jedem Rechner mit einer leistungsfähigen Grafikkarte reproduzierbar. Grundsätzlich würde es auch auf jedem anderen Rechner funktionieren, aber man müsste leider sehr lange warten. Dadurch macht es nur auf Systemen Spaß wo es ein gewisses Maß an Hardwareunterstützung gibt.

      Über den Autor

      Matthias

      Als CEO der onexip GmbH mit über 20 Jahren Erfahrung in der Softwarebranche bringt Matthias Expertise in KI, Audio- und Videotechnologien sowie Hochleistungssoftwarearchitektur mit.

      Er ist immer auf dem neuesten Stand der Technologie, liebt es Neues zu lernen und sich herauszufordern. Als Futurist, Skeptiker und praktisch denkender Leader strebt er danach, stets Qualität und Mehrwert zu liefern.

      Häufig gestellte Fragen:

      Welche Schritte sind erforderlich, um KI lokal zu nutzen?

      Text

      Was sind die Voraussetzungen für die Installation von InvokeAI?

      Die Voraussetzungen für die Installation von InvokeAI variieren je nach Betriebssystem und den gewünschten Funktionen. Allgemein benötigen Sie eine kompatible Grafikkarte mit ausreichend VRAM, genügend Arbeitsspeicher (RAM) und freien Festplattenspeicher.

      Wie installiert man InvokeAI mit dem automatischen Installer?

      Die Installation mit dem automatischen Installer ist einfach: Laden Sie die entsprechende Datei für Ihr Betriebssystem herunter, entpacken Sie sie und führen Sie das Installations-Skript aus. Während der Installation werden Sie aufgefordert, einen Speicherort zu wählen und weitere Einstellungen vorzunehmen.

      Welche Modelle sind für die Bildgenerierung empfehlenswert?

      Für die Bildgenerierung sind die richtigen Modelle entscheidend. Es wird empfohlen, „fertige“ Modelle zu verwenden, die bereits auf Fotorealismus trainiert sind. Ein Beispiel dafür ist das Realvis 3.0 SDXL Baked Modell. Zusätzlich kann ein „Refiner“ verwendet werden, um die Qualität der Ergebnisse zu verbessern.

      Wie verwendet man die installierten Modelle in InvokeAI?

      Die Verwendung der installierten Modelle erfolgt über die Benutzeroberfläche von InvokeAI. Nach der Installation können Sie die Modelle auswählen und entsprechende Aufforderungen eingeben, um die gewünschten Ergebnisse zu erzielen.

      Weitere Blogbeiträge

      Revolutionary Vision

      Revolutionary Vision: Hochperformante Einbindung von Industriekameras in Electron-Apps? Ein Praxisbericht.

      Erfahre, wie du leistungsstarke industrielle Kameras nahtlos in Electron-Anwendungen integrierst. Martin Spindler teilt praxisnahe Einblicke, wie er Bildverarbeitung mit der Baumer VLU-02M Kamera effizient in Electron realisiert hat. Von der Nutzung von C++ für schnelle Datenverarbeitung bis zur Implementierung von IPC-Mechanismen für stabile Bildausgabe – dieser Beitrag zeigt, wie du hochperformante Bildverarbeitung mit flexiblen webbasierten Frameworks kombinierst. Entdecke die Potenziale für innovative Anwendungen und Lösungen in der industriellen Bildverarbeitung mit Electron.

      Zeitmaschinen in der Software-Entwicklung

      Stell dir vor, du könntest durch die Zeit reisen und die Fehler der Vergangenheit korrigieren - und das ohne eine Zeitmaschine. In der Welt der Softwareentwicklung haben wir genau das: Zeitmaschinen, die uns helfen, die Probleme der Vergangenheit zu analysieren und...

      The German-Angst aus Sicht eines CEO: Was KI nicht ist!

      Der Schock des Jahres 2022: ChatGPT betritt die Bühne und stellt die Frage, ob KI die Softwareentwicklung dominieren wird. Unsere Reise durch die emotionale Achterbahn der psychologischen Phasen, von der Verleugnung bis zur Akzeptanz, wird in diesem Beitrag von CEO Matthias beleuchtet. Erfahre in unserem Blogbeitrag, wie wir mit der Herausforderung umgegangen sind, und entdecke unsere Antwort, die wir auf die entscheidende Frage gefunden haben. Hier erhältst du einen Einblick in unsere Reise, bei der wir uns die Hände schmutzig gemacht und unser eigenes KI-Modell entwickelt haben.

      The German-Angst aus Sicht eines CEO: wird KI die Softwareentwicklung übernehmen?

      Der Schock des Jahres 2022: ChatGPT tritt auf die Bühne und stellt die Frage, ob KI die Softwareentwicklung dominieren wird. Unsere Reise durch die emotionale Achterbahn der psychologischen Phasen, von der Verleugnung bis zur Akzeptanz, wird in diesem Beitrag des CEO Matthias beleuchtet. Erfahren Sie, wie wir mit der Herausforderung umgegangen sind, und entdecken Sie die Antwort, die wir auf die entscheidende Frage gefunden haben.

      Von Null auf IONIC: Code mit Leichtigkeit deine Einkaufslisten-App

      Lerne mehr über die Entwicklung einer App mit Ionic und Angular, die mühelos auf iOS und Android erweitert wird. Entdecke die Vorteile von Dependency Injection, Service-Management und Capacitor-API-Integration für native Funktionen. Mit unseren Anleitungen wechselst du leicht von Web- zu mobiler Entwicklung und erstellst eine vielseitige App für verschiedene Plattformen.