Hva er On-Device AI og hvordan fungerer det?

Viktige takeaways

• AI på enheten refererer til funksjoner for kunstig intelligens som kjører lokalt på en enhet uten å koble til internett, noe som gir personvern og raskere behandling.
• Med AI på enheten kan smarttelefoner utføre imponerende oppgaver, som å generere bilder raskt, gi personlige AI-assistenter og forbedre spillgrafikk og lydkvalitet.
• Selskaper som Qualcomm integrerer spesialisert maskinvare i enhetene sine for å optimalisere AI på enheten ytelse, som leverer avanserte funksjoner som intelligente assistenter, sanntidsoversettelse og automatisert Foto redigering.

Fra chatbots til selvkjørende biler, AI forvandler teknologilandskapet. Et område hvor AI-adopsjon akselererer raskt, er på forbrukerenheter som smarttelefoner. Tekniske giganter kappløper for å integrere AI-funksjoner på enheten i deres nyeste maskinvare og programvare.

Men hva er egentlig AI på enheten, og hvordan fungerer det?

Hva On-Device AI er og hvordan det fungerer

I dag er det meste av forbruker-AI drevet av enorme datasett lagret i skyen. Derimot, opplasting av personlige data til AI-servere er ikke bra for personvernet. Det er her AI på enheten kommer inn.

AI på enheten refererer til funksjoner for kunstig intelligens som kjører lokalt på en enhet i stedet for i skyen. Dette betyr at AI-behandlingen skjer rett på telefonen, nettbrettet eller andre enheter uten å koble til internett.

Slik fungerer det under panseret: AI-modeller liker Stabil diffusjon, DALLE-E, Midjourney, osv., trenes i skyen ved hjelp av mye data og datakraft. Disse modellene blir deretter optimalisert for å kjøre effektivt på målenhetene. De optimaliserte AI-modellene er innebygd i apper og lastet ned til hver brukers enhet. Appdataene forblir isolert i en sikker enklave.

Når appen trenger å utføre en oppgave som å gjenkjenne en lyd eller identifisere et objekt på et bilde, kjører den AI-modellen lokalt ved å bruke enhetens innebygde CPU eller GPU. AI-modellen behandler inndataene og genererer en utgangsprediksjon eller resultat uten å sende noen data eksternt.

Alt dette skjer utelukkende på enheten din, og holder interaksjonene dine private.

Hvordan On-Device AI kan være til nytte for deg

AI på enheten gir imponerende funksjoner på enheten din. Dette inkluderer rask bildegenerering ved bruk av modeller som Stable Diffusion, der bilder kan lages på sekunder, noe som går lynraskt. Dette kan være flott hvis du raskt vil lage bilder og bakgrunner for innleggene dine på sosiale medier. Og siden det behandles lokalt, forblir bildemeldingene dine private.

En AI-assistent kan også drives lokalt, og gir en personlig opplevelse basert på dine data og preferanser, som favorittaktiviteter og treningsnivåer. Den kan forstå naturlig språk for oppgaver som foto- og videoredigering. For eksempel kan du kanskje si "fjern personen til venstre" for å redigere et bilde umiddelbart.

For fotografering kan AI på enheten aktivere funksjoner som utvidelse av bildegrenser (i likhet med Photoshops fyllfunksjon), ved å bruke kameraer foran og bak samtidig for videoeffekter, og redigere forskjellige lag uavhengig.

Spillgrafikk kan også dra nytte av AI på enheten gjennom oppskalering av oppløsning opp til 8K, akselererende strålesporing for realistisk belysning og effektiv dobling av bildehastigheter. Når det gjelder lyd, kan AI på enheten aktivere sanntidslydsynkronisering slik at lyden fra videoer og spill aldri går ut av synkronisering. Det gir også mulighet for krystallklare samtaler og musikk selv om du går inn i et annet rom.

Totalt sett stemmer AI på enheten med det mange brukere ønsker – raske resultater og personvern – ettersom den holder mer lokal prosessering i stedet for skyen.

AI på enheten gir raskere og mer private AI-opplevelser

AI på enheten er ganske ryddig. Det lar telefonene våre og andre dingser kjøre avanserte AI-algoritmer lokalt uten å måtte koble til skyen og uten etterslep.

Selskaper som Qualcomm pakker allerede sine nyeste brikker med spesialisert maskinvare for å kjøre nevrale nettverk effektivt på enhetene våre. For eksempel støtter Qualcomms Snapdragon 8 Gen 3 opptil 24 GB (på en smarttelefon!), har integrert støtte for Stable Diffusion og Llama 2, og bruker Qualcomms AI Stack for å levere noen av de beste AI-ytelsene på enheten for øyeblikket tid.

Så med hver nye generasjon smarttelefoner kan du forvente å se enda kraftigere AI-funksjoner på enheten for ting som intelligente assistenter, sanntidsoversettelse, automatisert bilderedigering og lynrask generativ AI-bilde generasjon.