Apple’ın 2024’e kadar ve sonrasında büyük bir yapay zeka hamlesi planladığı uzun zamandır söyleniyordu. Şimdi yeni araştırma, Apple’ın güvenlik ve gizlilik talebini koruyarak bunu gerçeğe dönüştürme yolunda uzun bir ilerleme sağlayabilir. İşte Apple yapay zeka planı hakkında her şey!
Apple yapay zeka planını nasıl güçlendirdi?
Bugüne kadar, ChatGPT’nin dayandığı gibi büyük dil modelleri (LLM’ler) veri merkezlerinde bulunan bilgisayarlar tarafından desteklendi ve bir web sayfası veya bir iPhone uygulaması aracılığıyla erişildi. Bunlar, düzgün çalışmaları için eşit derecede büyük miktarda kaynak gerektiren devasa yazılım parçaları ve bu da onları yakında çıkacak olan iPhone 16 gibi telefonlarda yerel olarak çalıştırmayı denemeyi sorunlu hale getiriyor.
Ancak LLM’lerin veri merkezlerinde çalıştırılması gizlilikle ilgili bir endişeyi de beraberinde getiriyor. Apple’ın halihazırda mümkün olduğunca çok Siri talebini cihaz üzerinde tutmaya çalıştığı düşünüldüğünde, üzerinde çalıştığı herhangi bir LLM uygulamasında da aynı şeyi yapmak istemesi şaşırtıcı değil.
Şimdi, bir araştırma makalesi bu sorunun cevabını veriyor olabilir ve Apple’ın şirket içi Apple GPT’sinin Apple Park dışında bir çıkış yapmasına zemin hazırlayabilir. Ancak Siri gerçekten büyük bir yükseltme alacaksa, 2024 iPhone’ları çok erken ortaya çıkabilir mi?
Birden fazla Apple mühendisi tarafından kaleme alınan “LLM in a flash: Efficient Large Language Model Inference with Limited Memory” başlıklı araştırma makalesi, LLM’nin iPhone’lar gibi sınırlı RAM’e (veya DRAM’e) sahip cihazlarda nasıl kullanılabileceğini tartışıyor. Makale, Apple Watch’tan bahsetmeksizin, düşük kaliteli MacBook’lar ve iPad gibi benzer RAM kısıtlamalı cihazlara Siri yükseltmeleri getirmek için de yararlı olacak.
“Büyük dil modelleri (LLM’ler) modern doğal dil işlemenin merkezinde yer almakta ve çeşitli görevlerde olağanüstü performans sağlamakta. Bununla birlikte, yoğun hesaplama ve bellek gereksinimleri, özellikle sınırlı DRAM kapasitesine sahip cihazlar için zorluklar ortaya çıkarıyor. Bu makale, model parametrelerini flash bellekte depolayıp talep üzerine DRAM’e getirerek mevcut DRAM kapasitesini aşan LLM’leri verimli bir şekilde çalıştırma zorluğunu ele almaktadır.” yazdı Apple mühendisleri.
Makalede, “bu yöntemlerin toplu olarak, CPU ve GPU’daki naif yükleme yaklaşımlarına kıyasla çıkarım hızında sırasıyla 4-5 kat ve 20-25 kat artışla, mevcut DRAM boyutunun iki katına kadar model çalıştırmaya olanak sağladığı” belirtiliyor.
Böyle bir yaklaşımın faydaları ortada. Bir LLM’yi iPhone’da saklamak sadece uzak bir veri merkezinde saklama ihtiyacını ortadan kaldırmak ve gizliliği artırmak açısından faydalı olmakla kalmayacak, aynı zamanda çok daha hızlı da olacaktır. Zayıf veri bağlantılarının yarattığı gecikmeyi ortadan kaldırmak bir yana, hız artışı bunun da ötesine geçerek Siri’nin her zamankinden daha doğru ve daha hızlı yanıt vermesini sağlayabilir.
Apple’ın iPhone 16 serisine gelişmiş mikrofonlar getirmek için çalıştığı söyleniyor. Muhtemelen Siri’nin insanların kendisine sorduklarını daha net duymasını sağlamak amaçlanıyor. Bunu bir LLM atılımı potansiyeli ile birleştirdiğimizde 2024 iPhone’ları ciddi bir yapay zeka becerisine sahip olabilir.
