GPU-beschleunigt auf der GPU, die du schon hast.
Modelle lokal auszuführen bedeutet meist ein Einrichtungsprojekt: ein CUDA-Toolkit, eine Python-Umgebung, eine Treiberversion, die passen muss. privstory ist eine native App mit der Beschleunigung eingebaut in den Download. Installiere sie, und sie nutzt, was dein Rechner hat.
Ein Installer pro Plattform, kein Toolkit
Auf macOS nutzt Apple Silicon automatisch das Metal-Backend. Es gibt nichts auszuwählen und nichts daneben zu installieren.
Unter Windows und Linux nutzen die Builds Vulkan, das NVIDIA-, AMD-, Intel- und integrierte GPUs vom selben Installer abdeckt. Es gibt keinen separaten CUDA-Build zu wählen und kein Treiber-Toolkit einzurichten. Wird keine nutzbare GPU gefunden, fällt die App auf die CPU zurück, statt den Start zu verweigern.
Wie viel Speicher du wirklich brauchst
Es gibt keine einzelne Zahl, weil privstory die Modelle nicht mitliefert. Ein Modul bringt sein eigenes Chat-Modell und Bildmodell mit, also ist der Bedarf das, was die Modelle dieses Moduls brauchen. Ein kleines Modul läuft bequem auf bescheidener Hardware; ein grosses will viel VRAM.
Das nützliche Detail ist, dass die beiden Modelle nie gleichzeitig im Speicher liegen. Der Spitzenspeicher wird vom grösseren aus Chat-Modell und Bildmodell gesetzt, nicht von ihrer Summe, das macht ein Modul mit zwei umfangreichen Modellen auf einer einzelnen Mittelklasse-GPU machbar.
Wie sich die Leistung anfühlt
Die Textgenerierung ist die leichtere Hälfte. Auf einem aktuellen Apple-Silicon-Mac oder einer dedizierten GPU treffen Antworten ungefähr im Lesetempo ein, was der Punkt ist, an dem sich das Gespräch lebendig statt stapelweise verarbeitet anfühlt.
Die Bildgenerierung ist die schwerere Hälfte und der klarere Test deiner Hardware. Auf einer leistungsfähigen GPU kommt ein Porträt oder Hintergrund in Sekunden. Auf integrierter Grafik dauert es deutlich länger, und im CPU-Fallback ist es langsam, brauchbar zum Ausprobieren, aber nicht so, wie es auf einer GPU ist.
Nichts wird an uns ausgelagert
Es gibt keinen Hybridmodus, in dem schwere Arbeit still an einen Server geht. Jedes Token und jedes Pixel wird auf deinem Rechner berechnet, was den Datenschutz und das Fehlen von Nutzungslimits überhaupt erst möglich macht.
Die Folge sei klar gesagt: Deine Hardware ist die Leistungsgrenze. Das ist der Tausch, den du für einen Chat ohne Abrechnung, ohne Konto und ohne Daten, die das Gerät verlassen, eingehst.
Häufige Fragen.
Brauche ich eine NVIDIA-GPU unter Windows oder Linux?
Nein. Jeder Download ist von Haus aus GPU-beschleunigt. macOS nutzt Metal; die Windows- und Linux-Builds nutzen Vulkan, also werden NVIDIA-, AMD-, Intel- und integrierte GPUs alle vom selben Installer unterstützt, ohne separaten Build oder Treiber-Toolkit. Die App fällt auf die CPU zurück, wenn sie keine nutzbare GPU findet.
Wie viel VRAM brauche ich?
Das hängt vom Modul ab, da das Modul beide Modelle liefert. Weil Chat- und Bildmodell nie gleichzeitig im Speicher sind, brauchst du genug für das grössere der beiden, nicht für beide zusammen.
Läuft es ganz ohne GPU?
Ja, mit einem CPU-Fallback. Die Textgenerierung ist erträglich; die Bildgenerierung ist langsam. Es ist eine Möglichkeit, die App auszuprobieren, statt das Erlebnis, für das sie gebaut ist.
Läuft aus Leistungsgründen irgendetwas auf einem Server?
Nein. Es gibt keinerlei Auslagerung. Der einzige Netzwerkzugriff ist der einmalige Modell-Download und, wenn du einen Lizenzschlüssel eingibst, eine schlanke Lizenzprüfung.