Torna alle repository
Andyyyy64whichllm

whichllm: open source da tenere d’occhio

CLI che trova i modelli LLM locali realmente eseguibili sul tuo hardware.

Perché ne parliamo

Scegliere un modello in base alla macchina che hai davvero.

whichllm rileva GPU, CPU e RAM e ordina i modelli Hugging Face che sembrano adatti al sistema. Può simulare configurazioni hardware e distinguere ciò che entra da ciò che funziona bene.

Cosa trovi dentro

  • Rileva hardware e classifica i modelli compatibili.
  • Simula GPU e workstation multi-GPU.
  • Filtri per VRAM, velocità e headroom.
  • Output CLI, Markdown, JSON e snippet Python.
whichllm | Trending Repo | DevOP