Apple sucht weiter nach Wegen, größere KI-Modelle direkt auf dem iPhone laufen zu lassen.
Apple will bei KI bekanntlich möglichst viele Dinge direkt auf dem Gerät erledigen. Das ist schneller und bietet einen besseren Datenschutz. Ein junges Startup könnte dabei helfen.
54 GB werden zu 4 GB – und das wäre ein echter Sprung
Laut einem aktuellen Leak hat Apple bereits Gespräche mit PrismML geführt. Das Startup arbeitet daran, große Sprachmodelle so stark zu verkleinern, dass sie lokal auf einem iPhone laufen können.
Konkret soll PrismML ein Qwen-3.6-Modell von Alibaba von 54 GB auf nur 4 GB komprimiert haben. Das Modell kommt demnach auf 27 Milliarden Parameter – deutlich mehr als viele Modelle, die normalerweise auf Smartphones laufen.
Mehr Siri-Power ohne ständigen Server-Umweg?
Spannend ist dabei vor allem die Behauptung, dass die Leistung des Modells nicht leiden soll. Das verkleinerte Modell soll komplexe Chats, Reasoning-Aufgaben und sogar autonome Agenten unterstützen können.
Für Apple wäre das genau die Richtung, in die auch Siri und Apple Intelligence gehen müssen. Noch ist aber völlig offen, ob aus den Gesprächen mit PrismML wirklich eine Partnerschaft wird – oder wann Nutzer davon profitieren könnten.
Hinweis: Artikel enthält Affiliate-Links. Was ist das? Bild: Apple