Über die Nacht hatte der HP die 2 x 20+ GB Modelle heruntergeladen. Hätte nur eins, das Neue, gebraucht. Abends dann spielte ich mit dem neuen Version für mmap herum. Der Start ging jetzt etwas fixer, doch bei 30b Params sinkt bei meiner i5-1135G7 CPU dann die Tokenausgabe auf ja eins nur alle 2-3 Sekunden.
Fortfahren ‚Alpaca 30b‘ zu lesen