Mistral introducerar två nya modeller Ministral3B och8B för edge-bearbetning

les Ministraux är de senaste AI-modellerna från Mistral, som syftar till att möjliggöra effektiv edge-bearbetning med stöd för en mängd tillämpningar, inklusive lokala smarta assistenter och autonom robotik.

Med edge beartbtning menas att AI kan köras smidigt på bärbara datorer och mobiltelefoner.

  • Dessa modeller följer upp framgången av Mistral7B och bygger på dess innovationsanda.

  • Ministral3B och8B tillhandahåller upp till128k kontextlängd och effektiv uppgiftsbearbetning.

  • Modellerna är designade för att stödja lokala och integritetsfokuserade tillämpningar som språköversättning och smart assistans.

  • Båda modellerna fungerar bra när de används tillsammans med större språkmodeller för komplexa arbetsflöden.

  • Mistrals interna benchmarking visar att les Ministraux överträffar många av sina konkurrenter på flera viktigaste områden.

  • Modellerna är tillgängliga för kommersiellt bruk med en början i prissättning av 0.04perMtokensfo¨r3Boch0.04perMtokensfo¨r3Boch0.1 för8B.

Les Ministraux, en serie av AI-modeller inklusive Ministral 3B och Ministral 8B, visar stor potential för användning inom autonom robotik och Internet of Things (IoT) enheter.

Mistral introducerar två nya modeller Ministral3B och8B för edge-bearbetning

Dessa modeller är särskilt värdefulla på grund av sin energieffektivitet och förmåga att bearbeta data direkt på enheten, vilket säkerställer användarens integritet. Denna kombination av egenskaper öppnar upp många möjligheter för praktiska tillämpningar, även om det är viktigt att beakta deras begränsningar också.

Modellerna för Ministral 8B Instruct är tillgängliga för forskningsändamål, och båda modellerna kommer snart att finnas tillgängliga från molnpartners.


https://huggingface.co/mistralai/Ministral-8B-Instruct-2410

https://mistral.ai/news/ministraux/

Related articles

8 Significant Research Papers on LLM Reasoning

Simple next-token generation, the foundational technique of large language models (LLMs), is usually insufficient for tackling complex reasoning...

AI-Generated Masterpieces: The Blurring Lines Between Human and Machine Creativity

Hey there! Just the other day, I was admiring a beautiful painting at a local art gallery when...

Marek Rosa – dev blog: GoodAI LTM Benchmark v3 Released

 The main purpose of the GoodAI LTM Benchmark has always been to serve as an objective measure for...