Kun olet lisännyt Kaksoset, auta minua kirjoittamaan ja muita AI -ominaisuuksia Chromessa, Google valmistautuu nyt heidän mukanaan liittyviin turvakysymyksiin. Huomasin Chromin gerritin muutoksen, joka lisäsi täysin uuden AI -osan Chromen turvallisuusasiakirjoihin. Tämä päivitys on nyt suorana lähetyksenä Chrome Security -asiakirjassa, joka merkitsee ensimmäistä kertaa, kun Google on julkaissut Selaimen AI: lle omistetut tietoturvasäännöt.
Tässä on Takeaway: AI: n outo tai väärä vastaus ei ole turvallisuusongelma, mutta jos AI tekee jotain haitallista, Google kohtelee sitä erittäin vakavasti.
Kun AI "virhe" ei ole turvallisuusvirhe
Jos Chrome's AI antaa sinulle outoa, virheellistä tai sopimattomia vastauksia, Google sanoo, että se ei ole tietoturvaongelma. AI käyttäytyy odottamatta. Sinun tulisi ilmoittaa näistä ongelmista käyttämällä Chromessa ”peukalo/peukalo alas” tai “Lähetä palautetta” -painikkeita. Tämä auttaa Googlea parantamaan AI: ta, mutta sitä ei kohdella turvallisuusuhana.
Kun AI -toiminnot muuttuvat vakavaksi
Turvallisuusongelma syntyy, kun verkkosivusto huijaa Chromen AI: ta tekemään jotain, mitä sen ei pitäisi. Tätä kutsutaan ”epäsuoraksi nopeaksi injektioksi”, jossa verkkosivustolla piilotetut ohjeet tekevät AI: n:
Suorita toimenpide, jota et pyytänyt, tai paljasta tietoja, joita sinun ei pitäisi.
Jos löydät tämän, Google haluaa sinun ilmoittavan siitä. Sinun on annettava todisteita, kuten videotallennus, käytetyt tiedostot ja AI -istunnon yksityiskohdat auttaakseen heitä tutkimaan.
Entä AI: n luominen koodi?
Jos AI auttaa sinua kirjoittamaan koodia, joka sisältää tietoturvavirheen (kuten sivustojen väliset skriptit), sitä voidaan pitää myös todellisena turvallisuusriskinä. Google tarvitsee selkeän esittelyn ongelmasta sen korjaamiseksi.
Miksi tällä on merkitystä
Vaikka suurin osa ihmisistä ei lue koko turvallisuuskysymyksiä, tämä uusi osa on erittäin tärkeä. Se osoittaa, että Google ajattelee nyt AI: ta hyökkääjien potentiaalisena tavoitteena. Määrittelemällä selkeästi eron yksinkertaisen AI -virheen ja vaarallisen toiminnan välillä, Google rakentaa pohjatyötä uuden, älykästä selaimen pitämiseksi turvallisena kaikille.
Tähän saakka Chromen tietoturvadokumentaatio ei sisältänyt lainkaan AI -ominaisuuksia.Wayback -tilannekuva elokuun lopustaNäyttää sivun ilman tätä osaa. Google Hannyt tehty Chrome AI -kysymyksetelää.
Se on hiljainen lisäys, mutta tärkeä. Se osoittaa, että Google piirtää ensimmäiset rivit siitä, kuinka Chromen AI arvioidaan: omituiset lähdöt eivät ole virheitä, mutta haitalliset toimet ovat erilainen tarina.
Se ei ole kaikki. Google valmistelee Chromessa uutta 'tee oletuspainike' -painiketta, joka ei vain aseta sitä Windowsin pääselain, vaan myös kiinnittää sen tehtäväpalkkiin. Lisäksi Chrome antaa sinun käyttää pian viimeisimmät välilehtiryhmät uudesta välilehden sivulta ja voi integroida AI -tilan Google -linssiin.
Ehdotettu lukeminen:Googlen Android XR asettaa nähtävyytensä Metalle ja Applelle Kaksosellöillä olevilla kuulokkeilla ja älykkäillä laseilla
