Windows ML’ye deneysel GGUF ve llama.cpp desteği geldi. GGUF için doğrulanan seçenekler CPU ve CUDA; NPU desteklenmiyor. Yeni API’ler üretim kullanımına hazır değil.
https://gamizm.com/windows-mlye-deneysel-gguf-ve-llamacpp-destegi-geldi
@gamizm.com
@gamizm.comWindows ML’ye deneysel GGUF ve llama.cpp desteği geldi. GGUF için doğrulanan seçenekler CPU ve CUDA; NPU desteklenmiyor. Yeni API’ler üretim kullanımına hazır değil.
https://gamizm.com/windows-mlye-deneysel-gguf-ve-llamacpp-destegi-geldi
@neowin.netWindows ML is getting a major local AI boost, and the latest changes could make running models on Windows much easier than before. #Microsoft #WindowsML #AI