1-Bit LLM’s

Sucht jemand was beeindruckendes? Wie wäre es mit einem 1-Bit Chatbot der im Browser Cache läuft?

21.07.26

Funktioniert gut und nichts verlässt den eigenen Rechner! Ich meinte ja, beeindruckend….

Run 1-bit Bonsai LLMs (1.7B, 4B, 8B) entirely locally in your browser on WebGPU, powered by Transformers.js.

*** Belong to the cool Kids! It’s Easy: Here is the RSS-Feed of this Blog. Experience ZWENTNERS’s Life on Instagram and listen to our Podcast about Vinyl ***