On-device LLM magyar mobilappokban 2026: Nano vs Apple

Ket eve az on-device LLM tudomanyos projekt volt. 2026-ban deploy-cel. A Google es az Apple is szallit sajat on-device modellt publikus API-val, a RAM-mennyezet vegre elfer 2-4B parameteres modelleket, es a fogyasztas vedhetо olyan feature-oknel, amelyek percenkent parszor futnak.

Amit ma on-device-on szallitunk

• Smart-reply draft chat-appoknal · 80-150ms, spinner nelkul.
• Nyugta / szamla mezo-extrakcio · teljesen offline, GDPR-trivialis.
• Foto-caption + kereso-index on-device.
• Megbeszeles-transzkripcio + bullet-summary (Whisper.cpp + lokalis summarizerel).

Gemini Nano · hol nyer

• Szelesebb eszkoz-matrixon elerhetо · Android 15+ 8GB+ RAMmal.
• Az AICore kezeli a modell-updateket playstore-szallitas nelkul.
• A summarization- es rewriting-API stabil es kiszamithato.
• Jobb nem-angol nyelveken, mint az Apple Intelligence kozepkategorias hardveren.

Apple Intelligence · hol nyer

• Csak A17 Pro / M-szerias · szukebb matrix, de a modellek erezhetoen jobbak.
• A Writing Tools API egy-az-egyben cseri a cloud-hivast · nulla glue-kod.
• A Private Cloud Compute fallback automatikus es audit-barat.
• Koherensebb Foundation-models API-felulet · egy SDK, nem harom.

Magyar-nyelvi valosag-check

Mindket modell alulteljesit magyarul angol-hoz kepest. A mi evaljainkban a Gemini Nano ~85% elfogadhato-output-rataval megy magyar summarizationon, az Apple Intelligence ~80%-kal. Osszehasonlitasra a Claude 3.7 Haiku ~97%. A HU-heavy feature-okhoz egyelore cloud-fallbacket tartunk.

Mikor hivunk meg cloudot

1. Minden agentikus folyamat tool-hivasokkal · az on-device tool-use torekeny.
2. Hosszu-kontextus feladatok (> 8k effective token) · az on-device kontext-ablakok meg kicsik.
3. Biztonsag-kritikus output · orvosi, jogi, penzugyi tanacs · policy-gated cloud-call audit-loggal.
4. Tobbnyelvu feature, ahol a nem-angol minoseg szamit a konverziora.