Kuinka ajaa Deepseek AI paikallisesti Androidilla, iOS: lla, Windows & Macilla

Eräs6 miljoonan dollarin AI -projektion juuri lyönyt ChatgPT: n valtaistuimeltaan #1 iPhone -sovelluksena ja aiheuttanut NVIDIA: n menettävän 400 miljardia dollaria markkina -arvosta. Deepseek on vaikuttava chatbot, joka on luonut jännitystä maailmanlaajuisesti. Jos olet utelias ja haluat testata sitä, PockectPal AI antaa sinun ajaa erilaisia LLM -tiedostoja, mukaan lukien Deepseek AI paikallisesti Androidilla ja iOS: lla. Lisäksi tarkistamme helppoja tapoja asentaa Deepseek R1 Windows-, Linux- tai MacOS -koneisiin.

Deepseek erottuu muista AI -työkaluista juoksemalla kokonaan offline -tilassa. Tämä tarkoittaa, että tietosi ovat yksityisiä, ja saat nopeampia vastauksia. Deepseek AI: n ajaminen paikallisesti antaa sinun mukauttaa ja hallita AI -kokemusta luottamatta apilvipohjainenpalvelin. Käytätkö Android -laitetta, iOS-, Windows- tai MacOS -laitetta, Deepseek AI: n asettaminen voi olla suoraviivaista ja kätevää. Sukellakaamme jokaisen alustan vaiheittaiset oppaat.

Mikä on Deepseek AI ja miksi asentaa paikallisesti

DeepSeek AI julkaistiin vuonna 2023 avoimen lähdekoodin tekoälyn työkaluna, joka käsittelee kaiken koodin valmistumisesta dokumentin luomiseen. Yhtiö rakensi tämän voimakkaan AI -mallin alle 6 miljoonalla dollarilla, mikä tekee siitä paljon halvemman kuin kilpailijat, jotka sijoittivat satoja miljoonia samanlaiseen tekniikkaan.

Deepseek -mallit osoittavat vaikuttavia tuloksia erilaisissa testeissä. He saivat 5,5 6: sta suorituskykykokeissa, lyömällä Openain O1-mallin ja ChatgPT-4O: n. Näihin tuloksiin liittyi paljon alhaisemmat juoksevat kustannukset.

DeepSeekin tekniset läpimurtot tekevät siitä tehokkaan:

• Päätelmäaika laskennallinen skaalaus muuttaa vaivaa tehtävien monimutkaisuuden perusteella
• Kuormitusstrategia pysäyttää asiantuntijan ylikuormituksen dynaamisten muutosten kautta
• PTX -ohjelmoinnin optimointi suorittaa GPU -ohjeet paremmin

Malli hoitaa erilaisia tehtäviä erityisellä tavalla:

• Välittömät päivitykset ja vahva keskusteluliittymä
• Edistyneet päättelyominaisuudet
• Vahva tuki teknisiin tehtäviin ja koodaukseen
• Nopea monikielinen prosessointi

Suuremmat mallit, kuten Deepseek-R1, toimivat parhaiten GPU-pohjaisten tapausten kanssa, kuten ML.P5E.48xLarge. Eri mallit voivat käsitellä erilaisia tekstimääriä, ja Deepseek V3 -käsittely on jopa 66 000 merkkiä.

Keskeiset ominaisuudet

Deepseekin merkittävät ominaisuudet ja saatavuus erottivat sen muista. Alustalla on malliversioita, joiden parametrit ovat 1,5b - 70B, jotta käyttäjät voivat valita tietokoneiden tarpeidensa perusteella. Tässä on se, mikä tekee DeepSeekistä erottuvan:

• Edistyneet päättely- ja ongelmanratkaisumahdollisuudet
• Koodin valmistuminen ja virheenkorjaustuki
• Asiakirjojen luominen ja käsittely
• Käyttäjäystävällinen käyttöliittymä sekä teknisille että ei-teknisille käyttäjille
• Suorita offline -toiminnallisuus
• Ei tilausmaksuja tai piilotettuja kustannuksia

DeepSeek sujuu sujuvasti kuluttajalaitteistoissa ja tarvitsee minimaalisen infrastruktuurin verrattuna muihin AI -malleihin. Alusta toimii hyvin nykyaikaisissa GPU: issa, koska se on optimoitu paikalliseen käyttöönottoon, mikä tekee siitä täydellisen käyttäjille, joilla on tavallinen korkean suorituskyvyn laitteisto.

Paikallisen asennuksen yksityisyyden suojaa

Deepekekin ajaminen paikallisesti antaa sinulle huomattavia yksityisyyden suojaa. Laitteesi tai palvelin käsittelee kaiken tiedonkäsittelyn, joten sinun ei tarvitse lähettää arkaluontoisia tietoja ulkoisille palvelimille. Paikalliset palvelimet, jotka käyttävät Deepseekiä, suojaavat tietojasi kokonaan näillä tärkeimmillä eduilla:

• Alhaisemmat toimintakustannukset alkuperäisen asennuksen jälkeen
• Säilytät konfiguraatioiden ja päivitysten hallinnan
• Parempi tietoturva ilman ulkoista valotusta
• Vähentynyt latenssi paikallisesta prosessoinnista
• Muokattava laitteiston optimointi

Oikean Deepseek -mallin valitseminen paikallisesti ajamiseen

Deepseek R1 tarjoaa useita LLM -malleja välillä 1,5b - 70b. Suorittaaksesi Deepseek R1: n paikallisesti tietokoneessa, Mac- tai Linux -järjestelmässä, tietokoneesi tarvitsee vähintään 8 Gt RAM -muistia. Tämä riittää tehokkaasti käyttämään tehokkaasti pienempää Deepseek R1 1,5B -mallia, saavuttaen noin 13 merkkiä sekunnissa.

Älypuhelimien suhteen on suositeltavaa, että heillä on vähintään 6 Gt muistia Deepseek R1 -mallin suorittamiseksi sujuvasti. Muista, että älypuhelimien on osoitettava RAM -muistia käyttöjärjestelmään, muihin sovelluksiin ja GPU: lle, mikä edellyttää vähintään 50%: n puskuria, jotta puhelimesi hidastaisi siirtämällä mallin vaihtamistilaan.

DeepSeek tarjoaa useita malliversioita, joista kukin on rakennettu toimimaan parhaiten tietyissä tehtävissä ja laskentavoimissa. Sen päämalli käyttää kokeilun seoksen (MOE) järjestelmää, jossa on 671 miljardia parametria, mutta se käyttää vain 37 miljardia jokaista tehtävää. Tämä huipputekninen lähestymistapa auttaa meitä käyttämään resursseja paremmin menettämättä valtaa.

Tislattuja mallivariantteja ovat:

• Deepseek R1-Distill-Qwen vaihtelee välillä 1,5b-32b parametrit
• Deepseek R1-Distill-LLAMA saatavana 8b ja 70b -kokoonpanoissa

Mallin koko vaikuttaa siihen, kuinka paljon tallennustilaa tarvitset. 1,5B -malli vie noin 2,3 Gt tallennustilaa, kun taas 70B -malli tarvitsee yli 40 Gt. Nämä vaihtoehdot toimivat kaiken tyyppisissä laitteistoissa henkilökohtaisista tietokoneista yrityspalvelimiin.

Jokainen Deepseek -versio tarvitsee tiettyä laitteistoa parhaimmillaan. Tässä on mitä erilaiset mallikoot tarvitsevat:

Deepseekin asentaminen Androidiin ja iOS: ään paikallisesti

Paikalliset asennusvaihtoehdot toimivat hyvin tietyissä tapauksissa tai tekniikan taitavissa käyttäjissä oikealla laitteistolla. Useimmat Android -käyttäjät pitävät Play Store -version vakaimman ja helpointa käyttää. Jokaisella virallisella menetelmällä ja vaihtoehtoisilla lähestymistavoilla on etuja, jotka riippuvat laitteen ominaisuuksista ja painopisteistä.

Virallinen sovellus pitää tietosi salattuna siirron aikana ja sisältää täydelliset ominaisuudet, jotka tekevät vuorovaikutuksesta nopeasti. Deepseek AI -assistentti sovellustaiApp StoreAntaa sinulle keskeytymättömän kokemuksen Deepseek-V3-mallista, jolla on yli 600B parametrit. Sovellus toimii parhaiten nykyaikaisissa Android -laitteissa ja tarvitset vain Android 5.0: n tai korkeamman sen suorittamiseksi sujuvasti.

Kiinan alkuperäisenä Deepseek raportoi käyttäjätiedot takaisin Kiinaan, mikä voi aiheuttaa vakavia yksityisyyden suojaa koskevia huolenaiheita suurimmalle osalle käyttäjiä. Onneksi sovellukset, kuten yksityinen AI, Pocketpal AI, Llaamao ja LM Playground, antavat sinun ajaa paikallisia paikallisia AI -malleja paikallisesti. Tässä oppaassa käytämme PocketPal AI: tä Deepseek R1: n ajamiseen Androidilla ja iOS: lla.

1. Lataa ja asenna PocketPal AI -sovellus puhelimeesi.
   • Pocketpal AI (App Store)
2. Avaa sovellus ja napautaMennä malleihinvaihtoehto pohjassa.
3. Napauta sitten 'Tai'Kuvake ja valitseLisää halaamia kasvoja.
4. Sinulla on nyt suuri luettelo kaikista AI LLM: istä, jotka ovat saatavilla paikallisesta lataamisesta. NapauttaaHakulaatikko pohjassa ja kirjoita Deepseek. Etsi Deepseek R1 LLM, joka sopii puhelimesi laitteistoon ja lataa se. Minun tapauksessani latasin Bartowskin 'DeepSeek-R1-Distill-Qwen-1.5b'.
5. Kun lataus päättyy, palaa takaisin PocketPalin päähuoneelle, valitseMennä malleihinja napautaLadatavaihtoehto.
6. Se on! Olet kaikki valmis keskustelemaan Deepseek AI: n kanssa ja vastaanottamaan nopeita vastauksia.

Deepseek AI: n ajaminen paikallisesti tietokoneella

Deepseek AI toimii Windowsissa useiden asennusmenetelmien avulla. Laitteistoominaisuudet ja erityistarpeesi määrittävät parhaan tien. Tässä on mitä sinun on tiedettävä vaatimuksista ja siitä, miten se asennetaan.

Lisätietoja:Zoom kirjaudu sisään kanssa, kun SSO ei toimi Windowsissa, Macissa, Androidissa tai iOS: ssä

LM -studion käyttäminen Windowsissa. Mac ja Linux

LM -studio antaa sinun ajaa erilaisia Deepseek -malleja offline -tilassa. Työkalu hallitsee resurssien allokointia ja mallin lataamista automaattisesti. Tämä tekee siitä täydellisen, jos haluat yksinkertaisen asennusprosessin.

1. LadataLM -studioWindowsille, Macille tai Linuxille viralliselta verkkosivustolta.
2. Asenna ohjelmisto näytönohjeiden mukaisesti.
3. NapsauttaaEtsi/löydäVasemmanpuoleisen ruudun kuvake ja valitse malli, joka sopii parhaiten tietokoneesi laitteistokokoonpanoon. Valitsin Deepseek R1 -tisteen (Llaama 8b).
4. NapsauttaaLadatapainike.
5. Odota latauksen valmis ja napsauta sittenLadatavaihtoehto.
6. Nyt voit keskustella Deepseek AI: n kanssa paikallisesti tai offline -tilassa.

Ollaman käyttäminen Windows/Mac/Linuxissa

Ollama antaa sinulle uuden luotettavan tavan ajaa LLAMA 3.3, Deepseek-R1, Phi-4, Mistral, Gemma 2 ja muut mallit paikallisesti. Asenna DeepSeek.

1. Lataa uusinOllama -asennusviralliselta verkkosivustolta.
2. Kun Ollama-asetustiedosto ladataan, kaksoisnapsauta sitä.
3. Kun asennus päättyy, Ollama käynnistää pääteikkunan.
4. Lataa LLM, joka on Deepseek R1 nykyisessä skenaariossa, suorita yksi seuraavista komennoista tietokoneen muistista riippuen asennettavaksi1,5b, 7b, 8b, 14b, 32b tai 70bmalli. 1.5B -parametrimalli toimii hyvin useimmissa järjestelmissä, jos sinulla on rajoitettu laitteisto. Käyttäjät, joilla on parempia laitteistovaatimuksia, voivat valita suurempia malleja jopa 70B -parametreihin.

   ollama run deepseek-r1:1.5b

   ollama run deepseek-r1:7b

   ollama run deepseek-r1:8b

   ollama run deepseek-r1:14b

   ollama run deepseek-r1:32b

   ollama run deepseek-r1:7b

   

5. Odota, kunnes lataus on valmis. Voit nyt keskustella DeepSeekin kanssa kirjoittamalla kyselyni jälkeen 'Lähetä viesti'nopea.
6. Huomaa, että Ollamalla ei ole käyttöliittymiä. Jos haluat keskustella Deepseekin tai kielimallin kanssa ensi kerralla, suorita seuraava komento komentoikkunassa.

   ollama run deepseek-r1:8b

   

Nyt tiedät kuinka ajaa Deepseek AI: tä ja muita LLM: ää paikallisesti käyttämällä sovelluksia, kuten PocketPal AI, Ollama ja LM Studio. Jos tiedät paremman sovelluksen hyödyntääksesi AI: n voimaa offline -tilassa, ota meihin yhteyttä.

Faqit

Q1. Mitkä ovat järjestelmän vaatimukset Deepseek AI: n suorittamiseen paikallisesti?

Vaatimukset vaihtelevat mallin koon mukaan, mutta yleensä tarvitset vähintään 8 Gt RAM -muistia, 10 Gt ilmaista säilytystilaa ja modernin GPU: n. Optimaalisen suorituskyvyn saavuttamiseksi suuremmilla malleilla suositellaan 32 Gt RAM -muistia ja NVIDIA GPU: ta, jolla on 16 Gt: n VRAM.

Q2. Voinko käyttää Deepseek AI: tä offline -tilassa mobiililaitteessani?

Kyllä, voit käyttää Deepseek AI: tä offline -tilassa mobiililaitteissa paikallisten asennusmenetelmien avulla. Tämä vaatii kuitenkin enemmän tallennustilaa ja prosessointitehoa pilvipohjaiseen viralliseen sovellukseen verrattuna. App Storen tai Play Storen virallinen sovellus vaatii tyypillisesti Internet -yhteyden optimaaliseen toimintoon.

Q3. Kuinka Deepseek AI verrataan muihin AI -malleihin suorituskyvyn ja kustannusten suhteen?

DeepSeek AI on osoittanut vaikuttavan suorituskyvyn, pisteyttäen 5,5 6: sta vertailuarvoissa, ylittäen jotkut kilpailijat. Se saavutti nämä tulokset huomattavasti alhaisemmilla kustannuksilla. Kehityskulut olivat vain 5,60 miljoonaa dollaria verrattuna 80-100 miljoonaan dollariin vastaavista hankkeista muiden yritysten toimesta.

Q4. Mitkä ovat paikallisesti Deepseek AI: n asentamisen yksityisyyden suojaa?

Deepseek AI: n asentaminen tarjoaa paikallisesti parannettua tietosuojaa, koska kaikki käsittely tapahtuu laitteella tai palvelimella. Tämä eliminoi tarpeen lähettää arkaluontoisia tietoja ulkoisille palvelimille, tarjoaa täyden hallinnan kokoonpanoihin ja päivityksiin ja auttaa noudattamaan tiukkoja tietosuojamääräyksiä.

Q5. Kuinka voin valita oikean Deepseek -mallin tarpeilleni?

Oikean Deepseek -mallin valitseminen riippuu laitteistoominaisuuksista ja suorituskykyvaatimuksistasi. Mallit vaihtelevat 1,5b - 70B parametrit, vastaavilla VRAM -vaatimuksilla 0,7 Gt - 32,7 Gt. Harkitse käytettävissä olevaa GPU: ta, säilytystilaa ja tehtävien monimutkaisuutta, jotka aiot suorittaa mallin valitsemalla.