Block VIII · KI auf dem eigenen Rechner · Lektion 46
Unzensierte Modelle: was sie sind und welche Risiken sie haben
Wir erklären, wie man einem Modell das Ablehnen abgewöhnt (Abliteration und Fine-Tuning), welche Fähigkeiten dabei verloren gehen, welche Varianten es für Chat, Code, Bild und Video gibt und welche rechtliche Verantwortung du bei der Nutzung übernimmst.
- 10 Min.
- 9 animierte Folien
- Quiz mit 4 Fragen
- Vertont in 6 Sprachen
Das erwartet dich in dieser Lektion
- Was ein «unzensiertes» Modell ist
Ein offenes Modell, dem man die Verweigerungen entfernt oder abgeschwächt hat: Es antwortet auf fast alles, weiß aber nicht mehr und ist nicht zuverlässiger.
- Abliteration: die «Richtung» der Verweigerung löschen
2024 zeigte sich, dass Verweigerungen vor allem von einer einzigen internen Richtung im Modell abhängen; entfernt man sie, lehnt es nicht mehr ab.
- Heretic: automatische Abliteration
Offenes Tool (AGPL-3.0), das selbst die Einstellung sucht, die die meisten Verweigerungen entfernt und das Original am wenigsten verändert.
- Der andere Weg: mit anderen Beispielen nachtrainieren
Familien wie Dolphin oder Hermes passen das Modell mit ausgewählten Gesprächen an, damit es dem Systemprompt folgt, statt abzulehnen.
- Was dabei verloren geht
Verweigerungen zu entfernen ist fast nie umsonst: Am meisten leidet das schrittweise Denken, etwa in Mathematik.
- Bild und Video: Der Filter steckt in der App
Webdienste filtern auf ihren Servern; ein offenes Bild- oder Videomodell auf deinem Rechner hat diesen Filter nicht.
- Legitime Einsätze und wie du klug vorgehst
Sinnvoll sind sie, wenn dich das normale Modell bei legitimer Arbeit blockiert, nicht um das Gesetz zu umgehen.
- Was das Gesetz sagt: Verantwortlich bist du
Das Gesetz fragt nicht, ob das Modell einen Filter hat, sondern was du damit tust: Bilder von Personen, Daten, fremde Werke und illegale Inhalte.
- Zusammenfassung
Ein unzensiertes Modell ist ein stärkeres, weniger geschütztes Werkzeug: Nutz es für legitime Arbeit, auf deinem Rechner und mit Verstand.
Tools und Begriffe
- Heretic
- Dolphin
- Hermes 4
- Abliterated
Melde dich mit deinem Google-Konto an und starte diese Lektion und den ganzen Kurs.
Weitere Lektionen im Block
- Offene Modelle, die sich heute lohnen
- Quantisierung: So passt ein großes Modell auf deine Grafikkarte
- Ollama, LM Studio, llama.cpp oder vLLM: Welche Engine nutzen
- Welche Hardware du brauchst: Minimum, Empfehlung und Oberklasse
- Kostenlose lokale Tools: Chat, Stimme, Transkription und Bild
- Das Neueste für lokal: Strata und TensorFold