PS5LM
PlayStation 5'te sohbet robotu çalıştırmak. llama.cpp'yi jailbreak'li PS5'e taşıyan asıl proje. Payload olarak çalışıyor ve yaklaşık 6 GiB bellek kullanıyor, GPU'ya erişimi yok. Model kütüphanesi ve araştırma kısmı da buradan geliyor. README'ye göre 27B model bu modda CPU'da, diskten akıtılarak dakikada yaklaşık 1 token üretiyordu.
Konsol donanımını kurcalamayı seven homebrew ve yerel yapay zekâ meraklıları için.
Nasıl kullanılır?
5 adımPS5LM, llama.cpp adlı yapay zekâ motorunu PlayStation 5'e taşır. Konsol, internetsiz kendi sohbet robotunu çalıştırır.
Çalışması için konsolun jailbreak'li olması gerekir; bu herkese uygun değildir.
yani: yazılım kısıtlamaları kaldırılmış.
Program, payload denen küçük bir dosya olarak konsola gönderilir ve yaklaşık 6 GB bellek kullanır.
Model dosyaları (GGUF biçimi) diskten okunur; sorular konsol kumandasıyla ekrandan yazılır.
Grafik işlemciye erişim yok; büyük modeller bu yüzden çok yavaş kalır, küçük modeller daha kullanışlıdır.
Jailbreak gerektirir: garantiyi riske atar, PSN hesabı yasağına yol açabilir ve yasal olarak gri alandadır.
Bu proje tarayıcıda denenmiyor; kurulum gerekiyor. Yukarıdaki adımlar tam da bunun için.