Anthropic kysyy asianajotoimistoilta neuvoa siinä, miten sen tekoälyagenttien pitäisi neuvotella käyttäjien puolesta. Asiasta kertoi Financial Times 18. lokakuuta. Tekoälyagentti on ohjelma, joka toimii kielimallin avulla ja hoitaa tehtäviä. Agentti voisi esimerkiksi tinkiä hinnasta, hoitaa reklamaation tai neuvotella palkkatarjouksesta, ja usein vastapuolta edustaisi toinen agentti.

NDTV Profitin mukaan FT:n tiedot perustuvat kahteen nimettömään henkilöön, jotka tuntevat yhtiön pohdinnat. Anthropic ei kommentoinut asiaa. Data Studios -sivusto huomauttaa, ettei yhtiö ole julkistanut tuotetta, valmista neuvottelustandardia eikä käyttöönottoaikataulua.

FT:tä referoivien NDTV Profitin ja India Todayn mukaan Anthropic haluaa ymmärtää, miten juristit ajavat päämiehensä etua ja pitävät neuvottelun silti reiluna. Yhtiö pohtii neuvottelunormeja tilanteisiin, joissa agenttien edustamien käyttäjien edut ovat vastakkain. Avoimia kysymyksiä ovat, kuinka usein agentin pitää kysyä ohjeita ihmiseltä ja miten se arvioi toisen tekoälyjärjestelmän luotettavuutta ilman, että siitä tulee yhä epäluuloisempi. Yhtenä keinona harkitaan digitaalisesti allekirjoitettua asiakirjaa, joka todentaa käyttäjän ohjeet, tavoitteet ja agentin noudattamat säännöt.

Taustalla ovat Anthropicin omat kokeet. FT:n mukaan syyskuussa työntekijöiden agentit ostivat ja myivät kirjoja virtuaalisella kauppapaikalla. ”Häikäilemättömiksi” ohjeistetut agentit pärjäsivät hieman paremmin. Yhteistyöhaluiset agentit tyytyivät joskus vähemmän mieluisaan kirjaan, jotta kaikki saisivat jotakin.

Data Studios kertoo Anthropicin tutkimuksen pohjalta, että kokeeseen osallistui 201 työntekijää. Kirjojen jakoa arvioitiin osallistujien itse laatimien paremmuusjärjestysten perusteella. Paras mahdollinen tulos oli 0,89. Kun jako tehtiin agentin päättelemien mieltymysten perusteella, paras tulos oli 0,60, ja agenttien keskinäinen kaupankäynti tuotti 0,55. Anthropic arvioi, että noin 85 prosenttia erosta johtui siitä, että agentti tunsi käyttäjänsä mieltymykset puutteellisesti, ja vain 15 prosenttia itse kaupankäynnistä. Sivusto korostaa, että osuudet koskevat tätä koetta. Aggressiivisuudesta saatu etu oli samalla asteikolla noin 0,02. Sivuston mukaan tämä ei osoita, että kova tinkiminen olisi aina paras tapa. Vahvemmat mallit tuottivat yleensä paremman jaon.

Lähteet kertovat eri asioita siitä, kenen kanssa Anthropic tekee yhteistyötä. FT:tä referoivat jutut eivät nimeä asianajotoimistoja. Tech Insider ja Winzheng liittävät asian Freshfieldsiin, jossa on yli 2 800 juristia. Tech Insiderin mukaan yhtiöiden huhtikuussa julkistama yhteistyö koskee kuitenkin juristien työkaluja, kuten sopimusten tarkastusta. Winzhengin mukaan Project Deal -kokeessa 69 työntekijän agentit tekivät 186 kauppaa ilman ihmisen hyväksyntää. Tech Insiderin mukaan Anthropic ei ole julkaissut kauppojen määrää.

The Decoderin mukaan Anthropic palkkaa juristeja myös neljän kuukauden Conceptual Reasoning Fellows -ohjelmaan, jossa he testaavat Claudea harkintaa vaativissa kysymyksissä. Korvaus on 100 000–167 000 dollaria.

Harvardin kauppakorkeakoulun apulaisprofessori Michelle Vaccaro on FT:n mukaan järjestänyt yli 180 000 agenttien välistä neuvottelua esimerkiksi työ- ja vuokrasopimuksista. Yksi agentti yritti saada toiselta luottamuksellista tietoa kehoteinjektiolla eli kätkemällä viestiinsä vastapuolen mallille tarkoitettuja ohjeita. Vaccaron mukaan agentit voisivat tuoda neuvotteluapua niillekin, joilla ei ole varaa ammattilaiseen. Jos parhaat mallit jäävät varakkaiden käyttöön, heidän etumatkansa kasvaa.