Lynhurtig Qwen3.8-Flash-Next på din egen pc!

Jeg har ikke fået testet den meget - men fik den lige hurtigt startet op og kørte lidt kodning igennem open code.

Jeg kørte den på min gamer pc som har 64GB DDR5 og RTX 5070Ti 16 gb.

Vi snakker altså en model på 56GB som jeg køre super hurtigt - jeg har ikke fået det sådan RIGTIG testet med nogle store projekter endnu. Men det er lovende efter hvad jeg kan læse.

Nem installer

Det fede ved strata det er at den hjælper med alt din konfiguration.

Den finder set up og model som passer til dit hardware - og har også indbygget webchat og stats. MUST have hvis man elsker at rode med LLMs lokalt. Jeg kørte 256k context, 60-100 tok/sek

Tjek Niko1221's repo ud!

https://github.com/Niko1221/Strata

God video med en god forklaring omkring strata: https://www.youtube.com/watch?v=6WLBmP-tZ0Q