Heretic
Modelin 'hayır' deme huyu nasıl sökülüyor?. Transformer tabanlı dil modellerindeki güvenlik hizalamasını, yani reddetme davranışını, yeniden eğitim yapmadan kaldırır. Bunun için modelin içindeki 'ret yönü'nü bulup katman ağırlıklarından çıkarır; bu tekniğe abliteration ya da yönsel ablasyon deniyor. Optuna tabanlı bir optimizasyonla ret sayısını ve orijinal modelden sapmayı (KL ıraksaması) birlikte en aza indirdiği için ayar yapmaya gerek kalmadan otomatik çalışır.
Yerel dil modeli çalıştıran, model iç yapısını merak eden araştırmacılar ve ileri düzey kullanıcılar için.
Nasıl kullanılır?
5 adımDil modelleri bazı istekleri reddeder; bu davranış, güvenlik eğitimiyle modelin içine işlenir. Heretic bu reddetme davranışını, modeli yeniden eğitmeden kaldıran bir araçtır.
Yöntemin adı abliteration: modelin iç hesaplarında 'reddetme yönü' denen bir doğrultu bulunur ve bu doğrultu katman ağırlıklarından çıkarılır.
yani: yönsel ablasyon.
Zor kısım ayardır: ret azalsın ama model bozulmasın. Heretic bunu otomatik yapar; bir optimizasyon kütüphanesiyle (Optuna) ret sayısını ve orijinal modelden sapmayı birlikte en aza indirir, elle ayar gerekmez.
Kullanımı iki komut: pip install -U heretic-llm, sonra heretic <model-adı>. İyi bir ekran kartı (GPU) ister; süre modele ve karta göre değişir.
Kendiniz çalıştırmak istemiyorsanız, Heretic ile işlenmiş binlerce hazır model Hugging Face'te 'heretic' etiketiyle yayınlanmış durumda; geliştiricinin kendi hesabında örnekleri var.
Kendin kur
pip install -U heretic-llm && heretic Qwen/Qwen3-4B-Instruct-2507
Bu araç modellerin güvenlik kısıtlarını kaldırır; ortaya çıkan model zararlı içerik üretebilir ve kullanım sorumluluğu tamamen kullanıcıya aittir. Bazı model lisansları ve yerel yasalar bu tür değişiklikleri kısıtlayabilir; yasal/etik gri alan. Lisansı AGPL-3.0 (güçlü copyleft).
Bu proje tarayıcıda denenmiyor; kurulum gerekiyor. Yukarıdaki adımlar tam da bunun için.