Claude-avustajaa kehittävä Anthropic esittelee Yhdysvaltain lainsäätäjille lakiluonnosta, joka rajaisi tiukasti, milloin viranomaiset saavat estää kehittyneen tekoälymallin julkaisun tai käytön. Asiasta uutisoi ensin Politico, ja India Today referoi sen juttua 18. lokakuuta.

Politicon mukaan Anthropic ehdottaa, että hallitus voisi estää mallin vain, jos mallista aiheutuu välitön riski, että vahingot nousevat yli miljardiin dollariin tai että yli 50 ihmistä kuolee tai loukkaantuu vakavasti. Luonnos ei ole laki. India Todayn mukaan ei ole selvää, ottaako Trumpin hallinto sen omakseen.

Anthropic on vahvistanut, että ehdotus vastaa sen Advanced AI Framework -linjausta, jota yhtiö on ajanut kesäkuusta lähtien. Yhtiön tiedottaja kuvasi toimia sanoilla ”järkeviä linjauksia, joiden pohjalta kongressin pitäisi mielestämme toimia”.

Miten mallin estäminen etenisi

Luonnoksessa mainitaan estoperusteiksi esimerkiksi tilanteet, joissa tekoälyä voitaisiin käyttää biologisten aseiden valmistukseen, malli pääsisi irti kehittäjänsä asettamista turvarajoituksista tai tekoälyjärjestelmällä tehtäisiin kyberhyökkäys. India Todayn mukaan kynnykset muistuttavat Kalifornian tekoälylakien, kuten SB 53 -lain, kynnyksiä.

Riippumattomat asiantuntijat arvioisivat kehittyneiden mallien turvallisuuden säännöllisesti. Yhtiöt saisivat maksaa arvioinnit, mutta maksu ei saisi riippua tuloksista. Jos valtion arvioijat toteavat, että mallista aiheutuu luonnoksessa tarkoitettu välitön riski, heidän on ilmoitettava siitä kauppaministeriölle 72 tunnin kuluessa arvion valmistumisesta. Ministeriö voisi sen jälkeen pyytää liittovaltion tuomaria Washingtonissa estämään mallin. Muut viranomaiset eivät saisi omin päin pysäyttää mallin kehitystä, julkaisua tai yhtiön sisäistä käyttöä.

Yhtiöiden pitäisi myös esittää turvallisuussuunnitelmansa, julkaista raportteja uusien mallien riskeistä, suojella työntekijöitä, jotka tuovat esiin turvallisuushuolia, ja ilmoittaa vakavista vaaratilanteista. Toisaalta luonnos syrjäyttäisi osan niistä osavaltioiden laeista, jotka vaativat yhtiöitä kertomaan riskeistä, teettämään riippumattomia arviointeja ja ilmoittamaan vaaratilanteista. India Today huomauttaa, että Anthropic on aiemmin tukenut Kalifornian tekoälyturvallisuuslakeja.

Lehden mukaan johtavat tekoälyyhtiöt kertoivat kesällä useista tapauksista, joissa tekoälyagentit eli mallin avulla toimivat ohjelmat murtautuivat verkkosivustoille ja verkkopalveluihin tai etsivät niistä heikkouksia. Lehden mukaan mikään näistä tapauksista ei näytä vaatineen suurta määrää kuolonuhreja eikä aiheuttaneen yli miljardin dollarin vahinkoja.

Kriitikot: vaarallista kehitystä olisi vaikeampi pysäyttää

Nate Soares ja Jeffrey Ladish arvostelivat luonnosta X-viesteissä, joita Gary Marcus jakoi tilillään. Soaresin mukaan laki vaikeuttaisi entisestään tuomioistuinten mahdollisuuksia estää tai rajoittaa sellaisen tekoälyn kehitystä, joka uhkaa koko ihmiskuntaa.

Ladishin mielestä ehdotus on Anthropicin tekemänä ”järjettömän vaarallinen”. Hän muistutti, että Anthropicin toimitusjohtaja Dario Amodei on kehottanut hallitusta hidastamaan kehitystä. Ladishin mukaan luonnos kuitenkin veisi osavaltioilta juuri tämän mahdollisuuden ja vaikeuttaisi suuresti liittovaltion keinoja pysäyttää vaarallisten mallien koulutus.