Ir para o conteúdo

Modelos abertos

Adaptador LoRA público sobre o Mistral 7B para otimizar prompts em inglês britânico

Adaptador LoRA de rank 16 em oito nomes de módulo do Mistral 7B, feito com PEFT e publicado com pesos, configuração e tokenizador, ao lado de um model card ainda por escrever.

A aba Files and versions de roneymatusp/british-optimizer-mistral-final no Hugging Face, vista no computador: o nome do repositório, as tags e os sete arquivos com seus tamanhos, de adapter_config.json com 929 bytes a adapter_model.safetensors com 694 MB.
Captura de tela em largura de computador
A mesma página do modelo em um celular: o nome do repositório british-optimizer-mistral-final, as tags (Text Generation, PEFT, Safetensors, lora, sft, trl) e as abas Model card, Files e Community.
Captura de tela em largura de celular

O problema

Um adaptador de ajuste fino (fine-tuning) só é útil para outras pessoas se elas conseguirem carregá-lo, ver como foi feito e julgar se funciona. Publicar os pesos é a parte fácil.

Estes dois repositórios são o trabalho do fundador em otimização de prompts em inglês britânico para o Mistral 7B. Um deles contém um adaptador LoRA: pesos, uma configuração e um tokenizador. O outro está vazio. Os dois foram criados no mesmo dia, em agosto de 2025, e estavam públicos em 24 de setembro de 2026.

Este estudo de caso registra o que os repositórios dizem e o que não dizem. Fechar essa distância é a razão de ser do método da NASCIA.

O que foi construído

Dois repositórios públicos na conta do fundador no Hugging Face, ambos criados em 11 de agosto de 2025. Só um deles contém um adaptador.

roneymatusp/british-optimizer-mistral-final é um adaptador LoRA para mistralai/Mistral-7B-v0.1, construído com PEFT, com as tags lora, sft e trl, e registrado para geração de texto. Ele traz sete arquivos: a configuração do adaptador, os pesos do adaptador em safetensors (cerca de 694 MB), três arquivos do tokenizador, o model card e os atributos do git.

roneymatusp/british-prompt-optimizer-mistral-lora não tem model card e guarda apenas um arquivo de atributos do git. Aparece aqui para que a lista fique completa; esta página não afirma nada além disso sobre ele.

O propósito declarado nos dois nomes de repositório é a otimização de prompts em inglês britânico. O model card não descreve o que o adaptador faz com um prompt, e o segundo repositório não tem card, então esta página também não descreve.

Como funciona

O LoRA deixa os pesos do modelo base como estão e treina pequenas matrizes de baixo rank em módulos escolhidos; na inferência, os dois são combinados. A configuração do adaptador mostra as escolhas: rank 16, alpha 32, dropout 0,05, em oito nomes de módulo do modelo base: q_proj, k_proj, v_proj e o_proj na atenção, gate_proj, up_proj e down_proj no bloco feed-forward, e lm_head, a camada de saída. O tipo de tarefa é modelagem causal de linguagem; os termos de viés (bias), o DoRA e o rsLoRA estão desligados. A biblioteca é o PEFT 0.17.0.

Um prompt entra no Mistral 7B com o adaptador LoRA em oito nomes de módulo e sai texto; a configuração do adaptador, seus pesos e o tokenizador são os arquivos publicados no Hugging FacePromptMistral 7Badaptador em 8 módulosAdaptador LoRA, r 16TextogeradoHugging FaceConfiguraçãoPesosTokenizador
Role para o lado para ver o diagrama inteiro.
Um prompt entra no Mistral 7B com o adaptador LoRA em oito nomes de módulo e sai texto; a configuração do adaptador, seus pesos e o tokenizador são os arquivos publicados no Hugging Face

Para executá-lo, o leitor baixa o modelo base da Mistral e o adaptador do repositório, depois carrega o adaptador sobre a base com o PEFT. O card não inclui esse código. A configuração também deixa vazio o caminho do modelo base, por isso a página do Hugging Face mostra um aviso de leitura da configuração e o painel de uso não encontra o modelo base; quem carrega o adaptador precisa indicar o modelo base por conta própria.

Evidências

Os números desta página vêm dos arquivos do repositório, não de um card. Rank 16, alpha 32 e dropout 0,05 estão na configuração do adaptador, assim como a lista de oito nomes de módulo alvo. Os pesos do adaptador têm 694.438.976 bytes, conforme a árvore de arquivos do Hugging Face. Os dois repositórios foram criados em 11 de agosto de 2025.

O que falta importa tanto quanto o que está lá. O model card é o template do Hugging Face sem preenchimento: desenvolvedor, licença, dados de treinamento, avaliação e resultados dizem todos "More Information Needed". O segundo repositório não tem card nenhum. Não há avaliação publicada deste adaptador, nem licença declarada, nem dados de treinamento declarados, e este site não afirma nenhum deles.

  • 694 MBde pesos do adaptador em safetensors, 694.438.976 bytesFonte: árvore de arquivos do Hugging Face, acesso em 24 de setembro de 2026
  • 16rank do LoRA no adaptador publicado, com alpha 32 e dropout 0,05Fonte: adapter_config.json no repositório, acesso em 24 de setembro de 2026
  • 8nomes de módulo alvo: as projeções de atenção, as projeções do bloco feed-forward e a camada de saídaFonte: adapter_config.json no repositório, acesso em 24 de setembro de 2026
  • 11 de agosto de 2025os dois repositórios criados no mesmo diaFonte: registros dos repositórios no Hugging Face, acesso em 24 de setembro de 2026

Tecnologias

Mistral 7B v0.1 como modelo base; um adaptador LoRA via PEFT 0.17.0, com as tags sft e trl; pesos em safetensors; o Hugging Face Hub para distribuição, no repositório roneymatusp/british-optimizer-mistral-final.

  • Mistral 7B v0.1
  • LoRA
  • PEFT 0.17.0
  • TRL
  • safetensors
  • Hugging Face Hub

O que demonstra

Definir. Uma tarefa bem delimitada, um modelo base aberto, um adaptador. O nome do repositório declara a tarefa e a configuração declara o método.

Instrumentar. É aqui que o artefato fica aquém, e dizemos isso. Sem uma avaliação publicada, ninguém consegue distinguir melhora de sorte, e é por isso que o método constrói a bancada de avaliação antes do modelo.

Integrar. O adaptador usa o formato padrão do PEFT e traz seu tokenizador, então pode ser carregado com as mesmas ferramentas de qualquer outro adaptador PEFT.

Transferir. Os pesos são públicos e a configuração é legível por qualquer pessoa. O card deveria trazer o resto, e esta página nomeia os campos que continuam vazios.

Outros trabalhos

  • Estudo de vazamento de respostas

    Auditoria forense de quantas vezes o feedback de teste entregou a resposta esperada a agentes de código

    Ler o estudo de caso
  • HELIX V6

    Um runtime interno para cargas de trabalho de IA com inferência local, construído pelo fundador sozinho

    Ler o estudo de caso

Traga o processo que vive quebrando.

Uma conversa costuma bastar para saber se um sistema assim cabe na sua operação, como avaliá-lo e o que seria preciso para mantê-lo funcionando.