Connect with us

apple

Apple heeft een baanbrekende methode ontwikkeld voor LLM-werk op de iPhone

Apple GPT op zak? Ja, dit kan sneller werkelijkheid worden dan u denkt. Apple AI-onderzoekers beweren dat ze dankzij de uitvinding van een innovatieve flash-geheugentechniek een belangrijke doorbraak hebben bereikt in de implementatie van grote taalmodellen (LLM’s) op de iPhone en andere Apple-apparaten met beperkt geheugen.

LLM en geheugenbeperking

LLM-gebaseerde chatbots zoals ChatGPT zijn ongelooflijk data- en geheugenintensief. Ze vereisen doorgaans een enorme hoeveelheid geheugen, wat een probleem is voor apparaten zoals de iPhone met beperkte bronnen. Om dit probleem op te lossen hebben Apple-onderzoekers een nieuwe techniek ontwikkeld die gebruik maakt van flash-geheugen – hetzelfde geheugen dat je apps en foto’s opslaat – om de gegevens van het AI-model op te slaan.

AI opslaan in flashgeheugen

In een nieuw onderzoeksartikel (PDF) met de titel ‘LLM in Flash: Efficient Inference of Large Language Models with Limited Memory’ merken de auteurs op dat flash-geheugen op mobiele apparaten vaker voorkomt dan het RAM-geheugen dat traditioneel wordt gebruikt om LLM uit te voeren. Hun methode omzeilt deze beperking op een slimme manier door gebruik te maken van twee belangrijke technieken die de gegevensoverdracht minimaliseren en de doorvoer van het flashgeheugen maximaliseren:

  1. Ramen: Beschouw het als een recyclingmethode. In plaats van elke keer nieuwe data te laden, hergebruikt het AI-model een deel van de data die het al heeft verwerkt. Dit vermindert de behoefte aan constante geheugentoegang, waardoor het proces sneller en soepeler verloopt.
  2. Rij-kolombundeling: Deze techniek is vergelijkbaar met het lezen van een boek in grote stukken in plaats van één woord tegelijk. Door gegevens efficiënter te groeperen, kunnen deze sneller uit het flashgeheugen worden gelezen, waardoor het vermogen van AI om informatie te begrijpen en te genereren wordt versneld.

Door de combinatie van deze technieken kunnen AI-modellen twee keer zo snel werken als het beschikbare geheugen van de iPhone, aldus het artikel. Dit betekent een 4-5x versnelling op standaardprocessors (CPU’s) en een indrukwekkende 20-25x versnelling op grafische verwerkingseenheden (GPU’s). “Deze doorbraak is vooral belangrijk voor het inzetten van geavanceerde LLM’s in omgevingen met beperkte middelen, waardoor hun toepasbaarheid en toegankelijkheid worden vergroot”, schrijven de auteurs.

Snellere AI op iPhone

De doorbraak in AI-efficiëntie opent nieuwe mogelijkheden voor toekomstige iPhones, zoals geavanceerdere Siri-mogelijkheden, realtime taalvertaling en geavanceerde AI-aangedreven fotografie en augmented reality-functies. De technologie maakt ook de weg vrij voor iPhones om geavanceerde AI-assistenten en chatbots te gebruiken, iets waar Apple naar verluidt aan werkt.

Het werk van Apple op het gebied van generatieve kunstmatige intelligentie zou uiteindelijk kunnen worden geïmplementeerd in zijn Siri-stemassistent. In februari 2023 hield Apple een top over kunstmatige intelligentie en vertelde werknemers over zijn werk aan een groot taalmodel. Volgens SamaGame streeft het bedrijf ernaar een slimmere versie van Siri te creëren die diep geïntegreerd is met kunstmatige intelligentie. Apple is van plan de manier waarop Siri met de Berichten-app communiceert te updaten, zodat gebruikers complexe vragen effectiever kunnen beantwoorden en suggesties voor automatisch aanvullen kunnen gebruiken. Bovendien gaan er geruchten dat Apple van plan is om kunstmatige intelligentie toe te voegen aan zoveel mogelijk van zijn apps.

Apple GPT

Het gerucht gaat dat Apple zijn eigen generatieve kunstmatige-intelligentiemodel ontwikkelt, genaamd Ajax. Ontworpen om te concurreren met modellen als OpenAI GPT-3 en GPT-4, verwerkt Ajax 200 miljard parameters, wat wijst op een hoge mate van complexiteit en kracht bij het begrijpen en genereren van tekst. Ajax staat bekend als ‘Apple GPT’ en is bedoeld om de ontwikkeling van machine learning bij Apple te verenigen, als onderdeel van een bredere strategie gericht op een diepere integratie van AI in het ecosysteem van het bedrijf.

Volgens de laatste gegevens wordt Ajax als functioneler beschouwd dan de vorige generatie ChatGPT 3.5. Er wordt echter gespeculeerd dat in september 2023 nieuwe OpenAI-modellen de mogelijkheden van Ajax zouden kunnen overtreffen.

The Information en analist Jeff Pu beweren dat Apple rond eind 2024, wanneer iOS 18 uitkomt, een soort generatieve AI-functie op de iPhone en iPad zal introduceren. In oktober zei Pu dat Apple in 2023 enkele honderden AI-servers zal bouwen, en in 2024 zullen dat er nog meer zijn. Apple zal naar verluidt een combinatie van cloudgebaseerde AI en AI op het apparaat aanbieden.

De baanbrekende camera van Apple’s iPhone 15 Pro Max: een potentiële game-over voor concurrenten

Apple heeft de kleuren van siliconen hoesjes voor iPhone en bandjes voor Apple Watch bijgewerkt

De iPhone 16 zal deze nieuwe functie hebben die de iPhone 15 niet heeft en Apple denkt dat dit het verschil kan maken

De 5 belangrijkste nieuwe features van Apple: iPhone 15 Pro, Apple Watch Series 9, AirPods Pro met USB-C…

Google Pixel 8 versus iPhone 15: heeft Google eindelijk Apple verslagen?

Apple’s iPhone 15 gaat nieuwe records breken, helaas heeft dit gevolgen voor de prijs

Apple heeft een webgebaseerde zelfdiagnosetool voor de iPhone uitgebracht

Apple heeft een advertentie voor de iPhone 15 Plus uitgebracht waarin de lange batterijduur van het apparaat wordt benadrukt

Apple heeft een belangrijke functie ‘gestolen’ van Russische iPhone-gebruikers

Heeft Apple toegegeven aan de Russische wetten? Het bedrijf stond aankopen toe die de App Store omzeilden

Onthulling van de batterijduur en oplaadfuncties van Apple iPhone 15 en iPhone 15 Pro Max

Apple iPhone 15 Pro Max versus iPhone 14 Pro Max: belangrijkste verschillen

Apple noemt iPhone 15 Pro de “beste gameconsole”

iPhone 15: welke releasedatum voor het nieuwe Apple-model?

Apple breidt zijn Self Service Repair-programma uit naar de nieuwste iPhone- en MacBook M2-modellen!

15 nieuwe softwarefuncties voor iOS 17 op iPhone, Apple Watch en Mac om te proberen

iPhone versus Android: hoe vaak wisselen Apple-gebruikers van telefoon?

Bedien je Apple TV met je iPhone: de geheime gids onthuld!

Apple iPhone inruilaanbieding: uw oude mobiel is nu goud waard

iPhone 15: Apple begraaft definitief de inkeping?

Written By

strong educational background and a passion for programming. After studying at the prestigious Munich University of Applied Sciences, he furthered his knowledge by obtaining an MS in Computer Engineering from Santa Clara University in 2006. Armed with a deep understanding of computer engineering principles, Russell immerses himself in the world of programming with great enthusiasm. From writing elegant code to tackling complex challenges, he embraces the intricacies of the digital realm. Constantly expanding his skill set, Russell remains at the forefront of technology, always seeking new opportunities to innovate and create transformative solutions.

You May Also Like

steam

Slechts 2 dagen na de release brak de visuele roman “Russen zijn niet tegen hagedissen” met een overvloed aan inhoud voor volwassenen door in...

iphone

Als je een screenshot van je iPhone 8 wilt maken, houd dan tegelijkertijd de aan/uit-knop en de homeknop ingedrukt totdat er een screenshot is...

sims

Paradox Tectonic studio en uitgever Paradox Interactive hebben de releasedatum bepaald van Life by You, een levenssimulator in de geest van De Sims. De...

apple

Samen met de aankondiging van de nieuwe MacBook Air heeft Apple de kleurenschema’s van veel iPhone-hoesjes en Apple Watch-bandjes bijgewerkt. Apple’s siliconen iPhone-hoesje met...