Elon Muskin sosiaalinen alusta X on siirtymässä integroimaan keinotekoisen älykkyyden allekirjoitus tosiasiatarkastusominaisuuteen, Community Notes. Yhtiö ilmoitti tiistaina ohjaavansa ohjelmaa, jonka avulla AI -chatbotit voivat kirjoittaa muistiinpanojen alkuperäiset luonnokset, jotka tarjoavat kontekstin mahdollisesti harhaanjohtaville viesteille. Tämä uusi järjestelmä toimii ”AI Note Writer API” -sovelluksen kautta, jonka avulla kehittäjät voivat yhdistää erilaisia AI -malleja, mukaan lukien X: n oma GROK, alustaan.
Esittely AI -muistiinpanokirjailija API 🤖 AI auttaa ihmisiä. Ihmiset edelleen vastuussa.
Tästä päivästä lähtien maailma voi luoda AI -muistiinpanokirjailijoita, jotka voivat ansaita kyvyn ehdottaa yhteisön muistiinpanoja. Heidän muistiinpanonsa näkyvät X: llä, jos erilaisista näkökulmista ihmisistä löytyy hyödyllisiä - aivan kuten…pic.twitter.com/h4qny6vtkw
- Yhteisön muistiinpanot (@CommunityNoTes)1. heinäkuuta 2025
Liittyvät:X sallii nyt AI Botsin kirjoittaa yhteisön muistiinpanoja ensimmäistä kertaa
Nämä AI: n tuotetut muistiinpanot syöttävät sitten saman maltillisuusjonon kuin ihmisen vapaaehtoisten kirjoittamat. Lopullinen päätös siitä, onko huomautus hyödyllinen ja julkaistaan, pysyy ohjelman keskeisen periaatteen ihmisten arvioijien käsissä. Aloite edustaa merkittävää askelta kohti ihmisen hybridi-AI-mallia sisällön moderaatiolle, käsite, joka on yksityiskohtainen aäskettäinen tutkimuspaperiMIT: n ja Stanfordin yliopiston kaltaisten instituutioiden ja tutkijoiden kirjoittama.
Artikkelissa väitetään ekosysteemiä, jossa AI kiihdyttää kontekstin toimittamista, kun taas monipuolinen ihmisten arviointiyhteisö toimii "lopullisena arvioijina ja välimiehenä siitä, mikä on hyödyllistä".
Laajempi teollisuuden suuntaus
X: n muutto on osa suurempaa suuntausta sosiaalisen median teollisuudessa. Suurimmat alustat ovat yhä enemmän omaksumassa joukkotuomiojärjestelmiä, jotka ovat samanlaisia kuin yhteisön muistiinpanot, jotkaAloitettiin ensimmäisen kerran lintukelloksi vuonna 2021. Esimerkiksi Meta on ottanut käyttöön oman versionsa Facebookissa, Instagramissa ja ketjuissa Yhdysvalloissa maaliskuusta lähtien.
Tämä muutos tapahtui sen jälkeen, kun Meta ilmoitti tammikuussa päättäneensä perinteisen kolmansien osapuolien tosiasioiden tarkistamisohjelmansa Yhdysvalloissa tuolloin, Metan globaalin politiikan päällikkö Joel Kaplan selitti, että edellinen järjestelmä teki liian monta virhettä, jossa todettiin: "Ajattelemme, että jokaisesta kymmenestä näistä toimista on saattanut olla virheitä." Hänen mukaansa yrityksen tavoitteena oli paremmin tasapainottaa maltillisuutta vapaan ilmaisun avulla.
Vaikka Metan uusi lähestymistapa testataan Yhdysvalloissa, yritys etenee varovaisemmin muualle. Meta-globaalin liiketoiminnan päällikkö Nicola Mendelsohn selitti, että tällä hetkellä ”mikään ei muutu muualla maailmassa tällä hetkellä; työskentelemme edelleen tosiasioiden tarkistajien kanssa maailmanlaajuisesti.”, Pääosin noudattaa tiukempia alueellisia säädöksiä, kuten EU: n digitaalisen palvelun laki. Näiden yhteisöpohjaisten järjestelmien menestys on myös saanut aikaan samanlaisia ominaisuuksiaTiktokjaYouTube.
Ihmisen ja 'hyveellinen silmukka'
AI: n integroinnin ensisijainen vetoomus on massiivisen mittakaavan ja nopeuden potentiaali. X: n tutkimuspaperi viittaa siihen, että automatisoitu putkilinja voisi käsitellä paljon suurempaa sisältöä kuin puhtaasti ihmisen käyttöinen järjestelmä,niche -väärän tiedon "pitkän hännän" torjuminen. Tavoitteena on luoda ”hyveellinen silmukka”, jossa AI tuottaa muistiinpanoja ja ihmisen palautetta ei vain tarkista niitä, vaan myös parantaa AI: n tulevaa suorituskykyä.
Tämä prosessi, jota tutkijat kutsuvat vahvistusoppimiseksi yhteisön palautteesta (RLCF), käyttää monimuotoisen ihmisyhteisön vivahteikkaa arvioita kouluttamaan AI: tä yksinkertaisten oikeisto- tai kirjoitussignaalien ulkopuolelle, opettaen sitä, mikä on todella hyödyllinen asiayhteys.
Merkittävät riskit ja jatkuva keskustelu
AI: n käyttöönotto tosiasioiden tarkistajana on kuitenkin vaarassa. Ensisijainen huolenaihe on suurten kielimallien (LLM) hyvin dokumentoitu taipumus "hallusinaatin", esittäen varmasti valmistettua tietoa tosiasiaksi. Tämä voi johtaa vakuuttavien ja hyvin kirjoitettujen, mutta vaarallisesti epätarkkojen muistiinpanojen luomiseen. Tutkimusasiakirja tunnustaa tämän ja muut haasteet, kuten ”avuliaisuuden hakkeroinnin” riski, jossa AI voisi oppia kirjoittamaan muistiinpanoja, jotka vetoavat arvioijien puolueellisuuteen sen sijaan, että se pysyisi tosiasioissa.
Toinen haaste on potentiaali ylikuormittaa vapaaehtoisten ihmisen arvioijia. Massiivinen AI-tuotettujen muistiinpanojen tulva voisi laimentaa arvioijien huomion, mikä vaikeuttaa sekä huonoja nuotteja että kriittisiä vääriä tietoja. Näitä huolenaiheita toistaa entiset tekniset johtajat, jotka ovat seuranneet näitä alustoja kehittyvän. Yksi entinen META: n johtaja, joka puhui NPR: lle yhtiön kasvavasta riippuvuudesta AI: stä riskinarviointia varten,varoitettu, "Tuotemuutosten negatiiviset ulkoisvaikutukset ovat vähemmän todennäköisesti esteitä ennen kuin ne alkavat aiheuttaa ongelmia maailmassa."
Musk -tekijä
Keskustelu yhteisön muistiinpanoista on jatkuvaa ja keskittyy usein X: n omistajaan Elon Muskiin. Hän on puolustanut järjestelmää vallankumouksellisena tarkkuuden työkaluna,sanontaMarraskuussa 2024 ”Yhteisön muistiinpanot ovat mahtavia. Kaikki tarkistetaan. Sisältää minut."
Kuitenkin vain muutamaa kuukautta myöhemmin, kun hänen omat Ukrainan politiikkaa koskevat virat korjattiin, hän väitti, että järjestelmää manipuloitiin,ilmoittaa, "Hallitukset ja vanhat tiedotusvälineet tottelevat yhä enemmän yhteisön muistiinpanoja." Tämä epäjohdonmukaisuus korostaa objektiivisuuteen suunniteltun järjestelmän luontaista jännitystä, mutta sen omistaa yksi puhuttu henkilö.
Kriitikot huomauttavat, että järjestelmä voi olla hidas ja epäjohdonmukainen. Tutkimukset ovat osoittaneet, että monet väärät tiedot sisältävät viestit eivät koskaan saa huomautusta, ja kun ne tekevät, huomautus näkyy usein vain murto -osa ihmisistä, jotka katsoivat alkuperäistä viestiä. AI: n käyttöönoton tavoitteena on puuttua nopeus- ja mittakaavaongelmiin, mutta on vielä nähtävissä, voiko se tehdä niin vaarantamatta laatua.
Näistä ongelmista huolimatta X jatkaa AI -kokeilua. Yhtiö aikoo testata AI: n tuotetut setelit useita viikkoja pienen ryhmän avustajien kanssa. Tämän lentäjän tulosten perusteella X päättää, onko ominaisuus käyttöön laajemmin. Tämän hybridimallin menestys voisi asettaa uuden standardin online -sisällön moderoitumiselle, mutta sen vika voisi vahvistaa sen väärää tietoa, joka on suunniteltu torjumaan.
