Tweakers · Technologie

Mac mini (M6) en Mac Studio (M5 Ultra) voor AI

De Mac mini en Mac Studio, populair voor lokale AI-modellen, krijgen M6 en M5 Ultra chips. Deze bevatten neural accelerators, wat hun AI-potentieel verhoogt. Ze kunnen clusters vormen voor taalmodellen via Thunderbolt 5.

Geheugen is cruciaal voor AI. Drie factoren bepalen prestaties: rekenkracht (prefill), geheugenbandbreedte (decode) en capaciteit. Modellen moeten in het geheugen passen.

Verschillende systemen excelleren anders. Videokaarten zijn snel maar hebben beperkt geheugen. Systemen met veel geheugen zijn langzamer door lagere bandbreedte.

Vier AI-modellen (Gemma 4, Qwen 3.5) zijn getest met llama.cpp, van lege tot 90k tokens context. Vergelijkingen met MacBook Pro (M5 Max), Framework Desktop en DGX Spark (128GB).

Bij Qwen 3.5-9B presteert Mac Studio (M5 Ultra) vergelijkbaar met RTX 5080, dubbel zo snel als M5 Max. Mac mini (M6) is langzaamst.

Voor 27B-model presteert Mac Studio na RTX 5090 het best. Mac mini heeft moeite met grote contexten. Mac mini voltooit Gemma 4-26B-A4B test wel.

Bij grote modellen (gpt-oss-120b, Qwen 3-Coder-Next) zet Mac Studio (M5 Ultra) recordprestaties neer, sneller dan M5 Max en concurrenten. Mac mini valt hier buiten.

Mac Studio (M5 Ultra) is significant sneller dan M5 Max en concurrenten bij de grootste modellen, met name Qwen 3-Coder-Next. Mac mini (M6) kan deze niet aan.

AI-samenvatting op basis van de bron.