Llmfit

Trova gli LLM adatti al tuo PC

AlexsJones
 
Open sourceStrumento da riga di comando

Software di terzi da repository pubblici. bestappfor.me non lo ospita, non lo verifica e non risponde del suo uso. Scarica solo dalla fonte ufficiale e controlla la licenza. Termini e esclusione di responsabilità

Stelle
37,9K
GitHub
Salute
Solida
10 controlli superati su 11
Licenza
MIT
Open source
Versione
1.1.17
5 giorni fa
Categoria
App di IA
Strumento da riga di comando
Linguaggio
Rust

Descrizione

Scopri quali modelli linguistici open source il tuo computer riesce a far girare bene. llmfit esamina CPU, RAM, GPU e VRAM, poi consiglia modelli nelle quantizzazioni più diffuse e li valuta per qualità, velocità, adattamento e contesto.

Stima l'uso di memoria e i token al secondo di ogni modello. Di base ha un'interfaccia interattiva da terminale, ma c'è anche la modalità CLI classica, una dashboard web e un'API REST. Puoi inoltre misurare un modello sulla tua macchina e condividere i risultati con il progetto. Funziona su macOS, Linux e Windows.

In evidenza

  • Rileva CPU, RAM, GPU e VRAM
  • Valuta qualità, velocità, adattamento e contesto
  • Interfaccia da terminale, dashboard web e API REST

Per chi è

Ideale per chi prepara l'AI in locale e vuole sapere quali modelli può gestire il suo hardware.

Descrizione scritta dalla nostra redazione con assistenza automatica, non dallo sviluppatore, e non ancora rivista.

Perché è qui

  • Codice modificato 1 giorni fa
  • Nuova release 5 giorni fa

Canali ufficiali

Solo canali ufficiali. Non ospitiamo né ripacchettizziamo i download.

Homebrew
macOS, Linux
1.1.17
brew install llmfit
winget
Windows
1.1.10
winget install --id AlexsJones.llmfit -e

Verificato: installer URL on github.com/AlexsJones/llmfit

Release GitHub
Linux, Windows, macOS
v1.1.17

Potrebbero piacerti anche

Vedi tutto