Ollama Benchmark: Vergelijk LLMs Lokaal
Ollama Benchmark is een gratis Chrome-extensie die gebruikers in staat stelt om verschillende Large Language Models (LLMs) zoals Mistral, LLaMA en Qwen te benchmarken en te vergelijken. Met deze tool kunnen gebruikers eenvoudig meerdere modellen tegelijk testen en gedetailleerde prestatiegegevens exporteren. Het biedt een gebruiksvriendelijke interface waarmee gebruikers prompt-gebaseerde tests kunnen uitvoeren en belangrijke prestatie-indicatoren zoals token telling, responstijd en verwerkingssnelheid kunnen analyseren.
De extensie ondersteunt zowel lokale als externe Ollama API's en biedt de mogelijkheid om resultaten op te slaan in verschillende bestandsformaten zoals .txt, .csv en .json. Daarnaast zijn gebruikersinstellingen en resultaten lokaal op te slaan, wat het gebruiksgemak vergroot. Met een meertalige interface in het Engels en Turks is de tool toegankelijk voor een breed publiek. Ollama Benchmark is volledig gratis en zorgt ervoor dat er geen gegevens worden verzameld, waardoor privacy gewaarborgd blijft.
