Kleine Helfer aus großen Modellen
Für lokalen iPhone-Einsatz: Apple verkleinert Googles Gemini-KI
Apple arbeitet offenbar daran, die großen KI-Modelle von Google Gemini so umzubauen, dass sie direkt auf dem iPhone laufen können. Dabei setzt das Unternehmen auf eine Methode, die als Destillation bezeichnet wird. Ziel ist es, die umfangreichen Fähigkeiten großer Modelle in kleinere, spezialisierte Varianten zu übertragen, die ohne Serveranbindung auskommen.
Bereits bekannt war, dass Apple im Rahmen einer Vereinbarung mit Google Zugriff auf Gemini erhält, um eigene KI-Funktionen zu verbessern. Ein neuer Bericht des Fachmagazins „The Information“ deutet nun darauf hin, dass Apple deutlich tiefer in die Struktur der Modelle eingreifen kann als bislang angenommen. Demnach stehen den Entwicklern vollständige Einsichten in den Aufbau und die Funktionsweise von Gemini zur Verfügung, zumindest innerhalb von Apples eigener Infrastruktur.
Kleine Helfer aus großen Modellen
Bei der Destillation wird das Wissen eines großen KI-Modells auf ein kleineres übertragen. Vereinfacht gesagt lernt ein kompakteres Modell von einem leistungsfähigeren Vorbild. Apple nutzt diesen Ansatz, indem ein eigenes Modell als eine Art Schüler fungiert. Es analysiert, wie Gemini bestimmte Aufgaben löst, und ahmt diese Abläufe nach.
- Google Gemini: Siri-KI soll 1 Milliarde Dollar pro Jahr kosten
Ein entscheidender Vorteil liegt in der Spezialisierung. Statt ein großes Modell für alle Aufgaben zu betreiben, können mehrere kleinere Modelle jeweils einzelne Funktionen übernehmen. Diese arbeiten mit vergleichbarer Geschwindigkeit und Genauigkeit wie das große Vorbild, benötigen jedoch deutlich weniger Rechenleistung. Dadurch wird eine direkt Ausführen auf dem iPhone möglich.
Fokus auf lokale Verarbeitung
Die Entwicklung solcher Mini-Modelle ist Teil von Apples Strategie, KI stärker auf den Geräten selbst zu verarbeiten. Das reduziert Abhängigkeiten von Cloud-Diensten und kann Vorteile bei Datenschutz und Reaktionsgeschwindigkeit bieten. Gleichzeitig bleiben große Modelle wie Gemini weiterhin im Einsatz, etwa um komplexere Anfragen über Server zu beantworten.
Unklar ist bislang, ob Apple auf Basis der destillierten Modelle ein vollständig eigenes, großes KI-System entwickeln will. Hinweise darauf gibt es derzeit nicht. Stattdessen scheint der Fokus zunächst darauf zu liegen, bestehende Modelle effizienter nutzbar zu machen und schrittweise mehr Funktionen direkt auf das iPhone zu verlagern.
Mit Blick auf eine erwartete Überarbeitung von Siri im Sommer dürfte Google Gemini vorerst weiterhin eine zentrale Rolle spielen. Parallel arbeitet Apple jedoch daran, immer mehr Aufgaben unabhängig von externen Servern zu lösen.
Ob es wohl eine Option gibt die Installation der Google KI auf das eigene iPhone zu verhindern?
Moin,
unter welchem Anreiz sollte man das tun?
Speicherplatz wäre ein Punkt
Google-Vermeidung ein anderer
Vielleicht auch einfach so, weil ich es möchte – genauso wie grundlos am Rhein stehen
Wäre auch mein erster Gedanke gewesen. Habe gestern nach den Updates meine Macs gecheckt.
Apple Intelligence nimmt da 12,9GB, ich weiß aber nicht ob ich das irgendwo nutze.
Vielleicht genauso wie jetzt. Man MUSS Apple Intelligence ja nicht aktivieren.
Sehr cool! Ich bin sehr positiv eingestellt was Apple da noch alles aus dem Hut zaubert
+1
Ankündigen und aus dem Hut zaubern ist ja in den letzten Jahren nicht das gleiche.
Aber ja, wenn man nur die Algorithmen lokal nutzen könnte, wäre das klasse.
Eher Google
Hört sich erst einmal sinnvoll an … befürchte dann aber das Apple das wieder als Upselling nutzen wird um seine Pro Modelle zu pushen: Super neue KI Funktionen auf dem iPhone 18 Supersportwagen für 1.400€ ;-)
Damit würde sich Apple keinen Gefallen tun, denn dann nehmen die User einfach eine andere KI.
Die 1 Milliarde Dollar pro Jahr wird sich Apple sicher zurückholen, und ich fürchte nicht über die Gerätepreise.
Das ist dann pro verkauftes Gerät ca. 1-1,50 Euro an mehrkosten pro Gerät
Bei aller Faszination für die Zukunft von KI: Ich frag mich schon manchmal, was man mit den astronomisch großen finanziellen Summen alles für Demokratie, Umweltschutz, Armutsbekämpfung und Medizin tun könnte …
Ich glaube KI wird zumindest in der Medizin einiges bewirken. Ich habe eine chronische Krankheit die mehrere Ärzte, über Jahre, nicht entdeckt haben. Mittlerweile unterstützt hier die KI bei der Auswertung von Bild Aufnahmen. Meine Hoffnung ist, dass hier zukünftige Generationen es leichter haben und ihnen schneller geholfen werden kann. Zeit spielt oft einen entscheidenden Faktor. Es fallen mir noch mehr Beispiele ein, Krebsforschung, Hautscreening usw. Wenn die Menschheit dieses Mal den Mehrwert nutzt, kann viel Gutes entstehen. Wir können uns das noch nicht vorstellen, was die KI verbessern kann und was die Menschheit daraus macht. Ich ahne zwar was die Menschheit daraus macht, aber hoffe immer noch auf das gute. Zumindest bei dem Großteil.
Das kannst du dich noch mehr bei der Gaming Industrie fragen, die jetzt seit über einem Jahrzehnt einen größeren Umsatz und Gewinn hat als der Militärsektor.
Das mit der Höhe der Militärausgaben ändert sich gerade dank ein paar völlig Bekloppten aus Russland, den USA und Israel…
+1
Ich habe fast das Gefühl, das wird nichts mit der schlauen Siri bis zu iOS 27.0. Dafür scheint mir die ganze Sache einfach viel zu komplex.
Ob das dann der große Wurf wird? Eine lokale KI ist nun einmal nicht vergleichbar mit aktuellen, serverbasierten Modellen. Eine Mischung aus beidem wäre OK. Der jetzige KI-Kram von Apple ist ja un nicht wirklich ein großer Wurf, nutzt das irgendjemand?
Genau das macht Apple doch. Einzelne Aufgaben lokal und komplexere Serverbasiert. Darum geht es doch, das nicht jeder Furz auf Server angewiesen ist. Da kann man auch mal ein Bild bearbeiten wenn man gerade keine Internetanbindung hat.
Genau. Steht auch so im Artikel. Aber Lesen ist nicht jedermanns Sache…
Wichtig ist mir nur eins: hoffentlich wird man den ganzen Quark weiterhin vollständig deaktivieren können.
+2 und das Internetz hat sich zum Glück auch nicht durchgesetzt!
Ja das geht, die Funktion heißt: Smartphone und Tablett ausschalten…l
Da fällt mir spontan ein neues Geschäftsmodell für Apple ein: wenn lokale KI erst mal läuft, werden Milliarden von iPhones zu einem KI-Netzwerk zusammengeschaltet. Damit nutzt man ungenutzte Rechenkapazität, ohne in eigene Rechenzentren investieren zu müssen . Wem das nicht gefällt, der kann sich über ein Abo freikaufen.