Google julkaisi juuri uuden selittäjän, joka käsittelee kysymyksen, jota useimmat AI: n käyttävät ihmiset eivät koskaan lopeta kysyä: Mitä tapahtuu sen jälkeen kun olet lyönyt ”Enter” chatbotissa?
Google -insinööri Dale Markowitz vie viimeisimmässä Techspert -viestissä AI -päätelmän kulissien takana olevat lukijat, prosessin, joka käyttää jokaista chatgpt -vastausta, kuvan luomista tai käännöspyyntöä. Jos koulutus on kuinka mallit oppivat, päätelmät ovat mitä he tekevät, kun ne tehdään töihin.
Ja osoittautuu, että päätelmät eivät ole halpoja. Joka kerta kun joku esittää kysymyksen, mallin on suoritettava miljardeja laskelmia. Tämä prosessi vaatii massiivista laskentavoimaa, varsinkin kun käytetään suuria kielimalleja, kuten Gemini tai GPT-4.
Muut viimeaikaiset Google -uutiset -
Markowitz vertaa AI -päätelmiä etsimään Internet -kokoisen kirjaston läpi melkein heti. Vaikka mallin kouluttaminen voi viedä viikkoja ja miljoonia dollareita, päätelmät tapahtuvat reaaliajassa, tuhansia kertoja sekunnissa ympäri maailmaa. Siksi yritykset, kuten Google, Microsoft ja Openai, rakentavat omaa infrastruktuuria pysyäkseen ajan tasalla.
Suositeltu lukeminen:Miksi Android -puhelimeni värähtelee ilman syytä?
Post huomauttaa myös, että päätelmäkustannukset määrittävät usein, mitä ominaisuuksia AI -työkaluja voi tarjota tai mitkä pysyvät palkkaseinän takana. Suuremmat mallit antavat parempia vastauksia, mutta tarvitsevat paljon enemmän resursseja.
Tämä ei ole vain tekninen yksityiskohta. Tämä päätelmä muodostaa kaiken chatbot -nopeudesta tuotteen hinnoitteluun. Ja nyt,Googlehaluaa, että useammat ihmiset tietävät, mikä on konepellin alla.
Voit myös olla kiinnostunut lukemaan -
