Käytä chatgPT: tä offline-tilassa ajamalla GPT-ESC paikallisesti tietokoneellasi

Openai on julkaissut ensimmäisen kerran avoimen lähdekoodin AI-mallin nimeltä “GPT-ESS”, joka voi suorittaa samalla tavalla kuin GPT-O3-malli, sama, jota Chatgpt käytti muutama kuukausi sitten. Voimme nyt käyttää tätä uutta LLM: ää CHATGPT: n offline -tilassa. Tämä voidaan tehdä missä tahansa Windows- tai MacOS -tietokoneessa käyttämällä AI -mallia manuaalisesti paikallisesti. Tässä on vaiheittainen opas.

Mikä on GPT-OSS?

GPT-OSS on avoimen lähdekoodin suuri kielimalli, jolla on jopa 120 miljardia parametria. Se tarjoaa päättelytaitoja ja kirjoituskykyjä, jotka ovat samanlaisia kuin GPT-O3-mini. LLM voidaan ladata mille tahansa koneelle vähintään 16 Gt RAM -muistia. Yksinkertaisesti sanoin, mikä tahansa tietokone, joka täyttää laitteistovaatimukset, voi nyt suorittaa ChatgPT: n offline-version GPT-OSS: llä.

Tämä LLM on saatavana kahdessa muunnelmassa:GPT-OSS-120BniinGPT-OSS-20B, missä numero tarkoittaa parametrien lukumäärää. 120B tarjoaa enemmän kontekstia ja parempaa tarkkuutta vastauksissa, mutta vaatii enemmän laskentaresursseja, kun taas 20B sopii paremmin kevyille ja tavallisille käyttäjille.

Lue myös:Käytä AI -chatbotteja ilman Internetiä puhelimitse

Suorita GPT-ESC LM Studio -sovelluksella

LM Studio on ilmainen ohjelmisto, jonka avulla voit käyttää suuria kielimalleja paikallisesti tietokoneellasi. Se tarjoaa myös siistiä käyttöliittymän, samanlaisen kuin ChatgPT. Näin voit käyttää sitä GPT-OS: n ajamiseen.

1.Lataa ja asennaLM -studiotietokoneellasi.

2.Tyyppilms get openai/gpt-oss-20bLataa LLM koneesi.

3.Valitse ja lataaGPT-OSS-20Bmalli.

4.Tämä vaihe voikestää viisi minuuttia, riippuen siitä, kuinka tehokas järjestelmäsi on.

5.Kun malli on ladattu, voit kirjoittaa kysymyksesi tekstiruutuun ja käyttää sitä kuten chatgpt.

LM Studio on nopea, helppo ja tehokas tapa ladata GPT-OSS tietokoneellesi tai kannettavalle tietokoneelle. Itse sovellus kuluttaa kuitenkin merkittäviä resursseja, minkä vuoksi järjestelmäsi ylikuormitetaan, kun aloitat LLM: n. Siksi saatat kohdata hidastumisia käytettäessä sitä tai joskus tietokoneesi voi roikkua väliaikaisesti. Tämä ongelma on yleisempi vanhemmilla järjestelmillä, vaikka ne täyttäisivätkin laitteistovaatimukset.

Aikaisemmin olemme myös testanneet muita AI-malleja, kuten Deepseek R1, Llaama ja muut järjestelmässamme, emmekä ole ongelmia. Kokimme kuitenkin merkittävän viiveen GPT-OS: n ajaessamme, mikä viittaa siihen, että se on raskaampi verrattuna muihin AI-malleihin. ChatgPT: n online -versiota on helpompi käyttää sen sijaan, että yrittäisit käyttää sitä paikallisesti järjestelmässäsi, koska se vain tukahduttaa tietokoneesi pisteeseen, jossa siitä tulee käyttökelvoton.

Lue myös:Tarkista, onko chatgpt -luoma tekstisi piilotettu vesileima

Käytä GPT-OS: ää komentokehotteen avulla

Jos sinulla on vanhempi tietokone tai heikompi järjestelmä, sinulla ei ole parasta kokemusta GPT-ESS: n suorittamisesta LM-studiolla. Tällaisissa tapauksissa voit suorittaa LLM: n suoraan komentokehotuksessasi Ollaman avulla. Tämä prosessi kuluttaa suhteellisen vähemmän resursseja, koska GUI: ta ei ole mukana, ja tämä ohittaa myös tarvittavan Pythonin ja muiden mallin suorittamiseen tarvittavien kirjastojen manuaalisen asennuksen. Noudata näitä vaiheita:

Katso myös:OpenAi julkaisee GPT OSS: n 120B & 20B -mallilla avoimen lähdekoodin AI

1.Lataa ja asennaOllamatietokoneellasi.

2.Avaa järjestelmän komentokehote ja kirjoitaollama pull gpt-oss:20bladata GPT-OSS-20B.

3.Kun lataus on valmis, kirjoitaollama run gpt-oss:20bAI -mallin suorittaminen paikallisesti tietokoneellasi.

4.Voit nyt kirjoittaa kysymyksesi ja saada vastauksia suoraan komentokehotteeseen, ja koko prosessi toimii offline -tilassa.

CMD: n GPT-OSS: n reaktioajat Ollamaa käyttämällä eivät vieläkään ole niin nopeita kuin tavallisen online-chatgPT: n käyttäminen, mutta se on parempi kuin LM-studion käyttö. Jos haluat graafisen käyttöliittymän, voit myös seurata samaa prosessia avaamalla Ollama -sovelluksen manuaalisesti tietokoneellesi.

Paras tapa ajaa GPT-ESC paikallisesti

Testasimme GPT-ES: tä käyttämällä sitä paikallisesti tietokoneellamme kolmella eri tavalla, ja näin se meni:

Suoritimme tämän testin sekä Windows -tietokoneessa että MacBookissa, ja tulokset olivat melko samanlaisia. Kokemuksemme perusteella ei ole mahdollista käyttää GPT-ESS: ää CHATGPT: n offline-version suorittamiseen. Se on liian hidas, ja yleinen reagointikyky ei ole yhtä hyvä. Joskus yksinkertaisten yhden lauseen vastausten luominen voi kestää jopa 10-15 minuuttia.

Faqit

K. Onko GPT-OSS-tietoa?

GPT-OSS LLM toimii paikallisesti järjestelmässäsi, eikä jaa tietoja Openain tai muun yrityksen kanssa.

K. Onko GPT-OSS parempi kuin chatgpt?

GPT-OSS-mallilla on samanlainen suorituskyky kuin GPT-O3-minimalli. ChatgPT käyttää kuitenkin nyt GPT-4O: ta ja muita edistyneitä malleja, jotka ovat nopeampia ja parempia, joten chatgpt on parempi kahdesta.

K. Mikä on parempi, GPT-OSS tai Deepseek?

Vertailuarvojen mukaan GPT-OSS: llä on parempia päättely- ja ongelmanratkaisutaitoja. Deepseek tarjoaa kuitenkin enemmän monipuolisuutta luovan kirjoittamisen ja vastaavien tehtävien kanssa.

Kääriä

ChaTGPT, Openai on epäilemättä suosituin AI -chatbot, jota miljoonat ihmiset käyttävät ympäri maailmaa. Uusi GPT-OSS LLM luo kehittäjille uusia mahdollisuuksia integroida CHATGPT: n kaltaiset voimat ilmaiseen versioon. Huomaa, että CHATGPT: n säännölliset sovellusliittymät maksetaan, kun taas GPT-OSS on avoimen lähdekoodin, tarkoittaen, että todistamme joitain luovia AI-projekteja, jotka perustuvat tähän uuteen malliin tulevien kuukausien aikana.

Onko sinulla mitään kysymyksiä ohjeitamme tai mihin tahansa tekniikan maailmassa? Katso uusiGadgetsouse AI -chatbot ILMAINEN, Powered by Chatgpt.