Meta: Claude-työkalun pyynnöt saivat turvajärjestelmän jäädyttämään No Kings -tilin
Metan mukaan sen oma automaattinen turvajärjestelmä jäädytti virheellisesti No Kings Coalitionin Instagram-tilin, koska Anthropicin Claude-työkalun tiheät pyynnöt näyttivät bottiliikenteeltä. Meta ei kertonut, mikä työkalu oli kyseessä tai kuka sitä käytti.
Meta Platformsin mukaan sen automaattinen turvajärjestelmä jäädytti 17. lokakuuta virheellisesti No Kings Coalitionin Instagram-tilin. Trumpia vastustava liike järjesti samaan aikaan valtakunnallisia mielenosoituksia ja kampanjoi ennakkoäänestyksen puolesta ennen 3. marraskuuta pidettäviä välivaaleja. Tiedot perustuvat Bloombergin uutiseen, jonka The Straits Times julkaisi 19. lokakuuta.
Metan viestintäjohtaja Andy Stone kertoi selityksen somepäivityksessään 18. lokakuuta. Stonen mukaan Instagramin insinöörit selvittivät, että turvajärjestelmän käynnisti tilin niin sanottu lukutoiminta eli sisällön hakeminen. Anthropicin Claude-tekoälyn työkalu haki profiileja, julkaisuja ja aihetunnisteita lyhyinä, voimakkaina ryöppyinä noin neljä kertaa tavallista tiheämmin.
”Nämä äkilliset, suuret ja peräkkäiset pyynnöt lyhyessä ajassa muistuttivat automaattista bottiliikennettä eivätkä tavallista ihmistä, joka selaa järjestelmiämme”, Stone kirjoitti. Botilla tarkoitetaan ohjelmaa, joka käyttää palvelua automaattisesti ihmisen sijaan.
Metan kuvauksen mukaan Claude ei siis tehnyt jäädytyspäätöstä. Tilin jäädytti Metan oma järjestelmä, joka tulkitsi Claude-työkalun pyynnöt botin toiminnaksi. Stone ei kertonut, mistä Claude-työkalusta oli kyse, kuka sitä käytti tai mitä työkalulla tilin yhteydessä tehtiin.
Selitys poikkeaa siitä, mitä Stone sanoi tapahtumapäivänä. Silloin hänen mukaansa automaattiset järjestelmät reagoivat tavallista tiheämpään julkaisemiseen, jakamiseen ja kommentointiin. Jo silloin hän kutsui jäädytystä ”selvästi” virheeksi. Uuden selityksen mukaan syy oli sisällön lukeminen eikä julkaiseminen.
Metan mukaan automaattinen tarkistus totesi noin tuntia myöhemmin, ettei tiliä olisi pitänyt poistaa, ja palautti sen. Ylläpito-oikeuksien palauttaminen kesti yhtiön mukaan pidempään. ”Haluamme toistaa vilpittömän pahoittelumme virheestä”, Stone kirjoitti.
No Kings Coalition kertoi 17. lokakuuta, että sivu oli poissa näkyvistä noin 90 minuuttia ja että järjestäjät eivät päässeet tilille vielä senkään jälkeen, kun se näkyi taas julkisesti. Liikkeen mukaan täydet oikeudet palautuivat kello 17.33 New Yorkin aikaa. Järjestäjät arvostelivat Metaa siitä, että tiliä rajoitettiin kesken mielenosoitusten, sillä Instagram on heidän mukaansa keskeinen kanava tukijoiden tavoittamiseen.
Liikkeen oman ilmoituksen mukaan miljoonat ihmiset osallistuivat lähes 3 000 tapahtumaan kaikissa 50 osavaltiossa ja Washingtonissa. No Kings ei heti vastannut Bloombergin kommenttipyyntöön Metan selityksestä.