whichllm: descubra qual LLM local roda no seu PC

whichllm é uma ferramenta de linha de comando que responde a uma pergunta cara: qual modelo de IA roda de verdade na sua máquina. Com 3.827 stars no GitHub (junho de 2026), ela detecta automaticamente GPU, CPU e memória RAM do computador e ranqueia os melhores modelos open-source do HuggingFace que cabem ali — não pelo número de parâmetros, mas por benchmarks reais e atualizados (recency-aware, ou seja, que levam em conta dados recentes de desempenho). O comando único whichllm faz tudo: lê o hardware, cruza com os números de performance e devolve uma lista ordenada do que vale instalar. Está em alta porque resolve o gargalo de quem quer rodar IA localmente sem pagar API: parar de chutar se um modelo de 27B ou 32B vai travar a placa de vídeo. Distribuída sob licença MIT, com 9 releases e commit no mesmo dia da consulta, virou referência para quem monta ambiente de IA sem queimar dinheiro em hardware errado.

O que faz

O problema que a whichllm ataca é simples de entender e caro de resolver no escuro: rodar um LLM (large language model, modelo de linguagem grande) na própria máquina exige que o modelo caiba na VRAM (memória da placa de vídeo) e ainda entregue velocidade aceitável. Sem isso, ou o modelo nem carrega, ou roda lento demais para uso real.

A ferramenta lê o seu hardware — placa de vídeo, processador, RAM — e cruza com benchmarks recentes dos modelos disponíveis no HuggingFace (a maior biblioteca pública de modelos de IA). O resultado é um ranking: não o maior modelo, mas o que roda melhor no que você tem.

Um detalhe que mostra a inteligência da lógica: mesmo quando um modelo de 32B cabe na placa, a whichllm pode ranquear um 27B em primeiro lugar, porque ele entrega desempenho superior no conjunto. Tamanho não é qualidade. Há ainda um modo de simulação de GPU — você testa qual modelo rodaria numa placa antes de comprá-la. Útil para quem está dimensionando uma estação de trabalho de IA. É o tipo de utilitário que cabe direto numa rotina de vibe coding.

Por que está em alta

O movimento de rodar IA localmente cresceu por dois motivos: privacidade de dados e fuga do custo de API. Quem processa muitos prompts por dia descobre rápido que pagar por token (a unidade de cobrança das APIs de IA) sai caro — e que um modelo local resolve boa parte sem mensalidade.

Mas a barreira sempre foi técnica: descobrir o que roda no seu hardware envolvia tentativa e erro, downloads de dezenas de GB e travamentos. A whichllm encurta isso para um comando. Com 9 releases até 05/06/2026 e commits diários, o projeto ganhou tração entre desenvolvedores de Apple Silicon (chips M da Apple), donos de GPU NVIDIA e quem usa Ollama (gerenciador popular de modelos locais). Os 213 forks e 17 contribuidores indicam comunidade ativa, ainda que concentrada.

Tabela de métricas

Métrica	Valor
Stars	3.827
Licença	MIT
Último update	0 dias (junho de 2026)
Linguagem	Python
Contributors	17

Para quem serve / Para quem NÃO serve

Serve para o dono de negócio ou desenvolvedor que quer rodar IA na própria máquina — seja para automatizar tarefas, processar dados sensíveis sem mandar para a nuvem, ou simplesmente cortar a fatura de API. Serve também para quem vai comprar hardware: o modo de simulação evita gastar R$ 10 mil numa placa que não entrega o que você precisa. Quem já usa Ollama ou mexe com modelos GGUF (formato de arquivo otimizado para rodar localmente) ganha tempo direto.

NÃO serve para quem busca uma interface gráfica — é ferramenta de terminal, exige conforto com linha de comando. Também não substitui APIs como GPT ou Claude para quem precisa dos modelos de ponta: o foco é o melhor modelo que roda no SEU hardware, não o melhor do mundo. E há um sinal de alerta de governança: 83% dos commits vêm de um único contribuidor. Se ele parar, o projeto fica vulnerável. Para uso pessoal isso é tolerável; para infraestrutura crítica de empresa, pondere.

Alternativas

Não há concorrente direto que faça exatamente o ranking por hardware, mas há ferramentas que cobrem partes do problema:

Ollama (gratuito, open-source): roda e gerencia modelos locais, mas não recomenda qual cabe na sua máquina — você descobre instalando. Complementa a whichllm.
LM Studio (gratuito): interface gráfica para rodar LLMs locais, com filtro de compatibilidade básico por RAM. Mais amigável, menos preciso no ranking.
HuggingFace Hub (gratuito): a fonte dos modelos, mas sem nenhuma orientação de hardware.

Para quem prefere não montar nada local e parte para API paga, vale entender antes como usar IA para otimizar processos e calcular se o volume justifica o custo.

Veredicto

Ferramenta enxuta que resolve uma dor real: parar de chutar qual IA roda na sua máquina. Vale instalar para qualquer um que rode modelos locais ou esteja prestes a comprar hardware de IA. A dependência de um único mantenedor é o ponto a vigiar — mas, sendo MIT e em Python, o risco é contornável.

Fonte: whichllm no GitHub