Ir para o conteúdo

Modelos abertos

Adaptador LoRA público no Mistral 7B para otimizar prompts em inglês britânico, e um segundo repositório vazio

Adaptador LoRA de rank 16 em oito nomes de módulo do Mistral 7B, feito com PEFT e publicado com pesos, configuração e tokenizador, ao lado de um model card ainda por escrever.

A aba Files and versions de roneymatusp/british-optimizer-mistral-final no Hugging Face em largura de desktop: o nome do repositório, as tags e os sete arquivos com seus tamanhos, de adapter_config.json com 929 bytes a adapter_model.safetensors com 694 MB.
Site público em computador, capturado para este estudo de caso
A mesma página do modelo em um celular: o nome do repositório, as tags, as abas Model card, Files e Community, o aviso de leitura da configuração que o Hugging Face mostra para o adaptador e os primeiros campos do card, que dizem More Information Needed.
Site público em celular, capturado para este estudo de caso

O problema

Um adaptador de fine-tuning só é útil para outras pessoas se elas conseguirem carregá-lo, ver como foi feito e julgar se funciona. Publicar os pesos é a parte fácil.

Estes dois repositórios são o trabalho do fundador em otimização de prompts em inglês britânico para o Mistral 7B. Um deles carrega um adaptador LoRA: pesos, uma configuração e um tokenizador. O outro está vazio. Os dois foram criados no mesmo dia, em agosto de 2025, e estão públicos hoje.

Este estudo de caso registra o que os repositórios dizem e o que não dizem. A distância entre uma coisa e outra é o problema que o método da NASCIA existe para fechar.

O que foi construído

Dois repositórios públicos na conta do fundador no Hugging Face, ambos criados em 11 de agosto de 2025. Só um deles carrega um adaptador.

roneymatusp/british-optimizer-mistral-final é um adaptador LoRA para mistralai/Mistral-7B-v0.1, construído com PEFT, com as tags lora, sft e trl, e registrado para geração de texto. Ele traz sete arquivos: a configuração do adaptador, os pesos do adaptador em safetensors (cerca de 694 MB), três arquivos do tokenizador, o model card e os atributos do git.

roneymatusp/british-prompt-optimizer-mistral-lora não tem model card e guarda apenas um arquivo de atributos do git. Aparece aqui por completude; nada nesta página afirma mais do que isso sobre ele.

O propósito declarado nos dois nomes de repositório é a otimização de prompts em inglês britânico. O model card não descreve o que o adaptador faz com um prompt, e o segundo repositório não tem card, então esta página também não descreve.

Como funciona

O LoRA deixa os pesos do modelo base como estão e treina pequenas matrizes de baixo rank em módulos escolhidos; na inferência, os dois são combinados. A configuração do adaptador mostra as escolhas: rank 16, alpha 32, dropout 0,05, em oito nomes de módulo do modelo base: q_proj, k_proj, v_proj e o_proj na atenção, gate_proj, up_proj e down_proj no bloco feed forward, e lm_head, a camada de saída. O tipo de tarefa é modelagem causal de linguagem; termos de bias, DoRA e rsLoRA estão desligados. O framework é o PEFT 0.17.0.

Um prompt entra no Mistral 7B com o adaptador LoRA em oito nomes de módulo e sai texto; a configuração do adaptador, seus pesos e o tokenizador são os arquivos publicados no Hugging FacePromptMistral 7Badaptador em 8 módulosAdaptador LoRA, r 16TextogeradoHugging FaceConfiguraçãoPesosTokenizador
Um prompt entra no Mistral 7B com o adaptador LoRA em oito nomes de módulo e sai texto; a configuração do adaptador, seus pesos e o tokenizador são os arquivos publicados no Hugging Face

Para executá-lo, o leitor baixa o modelo base da Mistral e o adaptador do repositório, depois carrega o adaptador sobre a base com o PEFT. O card não inclui esse código. A configuração também deixa vazio o caminho do modelo base, por isso a página do Hugging Face mostra um aviso de leitura da configuração e o painel de uso não encontra o modelo base; quem carrega o adaptador precisa nomear o modelo base por conta própria.

Evidências

Os números desta página vêm dos arquivos do repositório, não de um card. Rank 16, alpha 32 e dropout 0,05 estão na configuração do adaptador (open-models-06), assim como a lista de oito nomes de módulo alvo (open-models-07). Os pesos do adaptador têm 694.438.976 bytes, conforme a árvore de arquivos do Hugging Face (open-models-10). Os dois repositórios foram criados em 11 de agosto de 2025 (open-models-11).

O que falta importa tanto quanto o que está lá. O model card é o template do Hugging Face sem preenchimento: desenvolvedor, licença, dados de treinamento, avaliação e resultados dizem todos "More Information Needed" (open-models-12). O segundo repositório não tem card nenhum (open-models-13). Não há avaliação publicada deste adaptador, nem licença declarada, nem dados de treinamento declarados, e este site não afirma nenhum deles.

Tecnologias

Mistral 7B v0.1 como modelo base; um adaptador LoRA via PEFT 0.17.0, com as tags sft e trl; pesos em safetensors; o Hugging Face Hub para distribuição, no repositório roneymatusp/british-optimizer-mistral-final.

O que demonstra

Definir: uma tarefa bem delimitada, um modelo base aberto, um adaptador. O nome do repositório declara a tarefa e a configuração declara o método.

Instrumentar: é aqui que o artefato fica aquém, e dizemos isso. Sem uma avaliação publicada, ninguém consegue distinguir melhora de sorte. Por isso a bancada de avaliação agora vem antes do modelo em todo projeto.

Integrar: o adaptador usa o formato padrão do PEFT e traz seu tokenizador, então carrega com o mesmo ferramental de qualquer outro adaptador PEFT.

Transferir: os pesos são públicos e a configuração é legível por qualquer pessoa. O card deveria carregar o resto, e esta página nomeia os campos que continuam vazios.

Evidências

rank do LoRA, com alpha 32 e dropout 0,05Fonte: adapter_config.json no repositório (open-models-06), 24 de setembro de 2026
16
nomes de módulo alvo: as projeções de atenção, as projeções do bloco feed forward e a camada de saídaFonte: adapter_config.json no repositório (open-models-07), 24 de setembro de 2026
8
de pesos do adaptador em safetensors, 694.438.976 bytesFonte: árvore de arquivos do Hugging Face (open-models-10), 24 de setembro de 2026
694 MB
os dois repositórios criados no mesmo diaFonte: API do Hugging Face Hub (open-models-11), 24 de setembro de 2026
11 de agosto de 2025

Tecnologias

  • Mistral 7B v0.1
  • LoRA
  • PEFT 0.17.0
  • TRL
  • safetensors
  • Hugging Face Hub

Outros trabalhos

  • Estudo de vazamento de respostas

    Auditoria forense de quantas vezes o feedback de teste entregou a resposta esperada a agentes de código

    Ler o estudo de caso
  • HELIX V6

    Runtime de IA com inferência local: orquestração, memória, roteamento de ferramentas e avaliação

    Ler o estudo de caso

Traga o processo que vive quebrando.

Uma conversa costuma bastar para saber se um sistema assim cabe na sua operação, como avaliá-lo e o que seria preciso para mantê-lo funcionando.

Fale com a NASCIA