Tekoälyn riskit - for Dummies
Olen käyttänyt tekoälyä lähinnä kääntämiseen ja tekstien summaamiseen, mutta tuntuu, että sen toimintaa olisi vähitellen tarpeen ymmärtää enemmän. Siksi Helsingin Sanomissa on ollut Dario Amodein haastattelu inspiroi lukemaan Amodein kaksi pitkää esseetä, toinen tekoälyn 'hyvistä', toinen 'pahoista' puolista. Alla on lyhennetty essee (1800 sanaa) vaaroista ja negatiivisista vaikutuksista, kopioitu Robert Cooperin LinkedIn-sivuilta. Verrattain haasteellinen käännös ChatGPT ja minä (kursiivi epavarma).
Alkuperäinen essee (20,000 sanaa):
https://www.darioamodei.com/essay/the-adolescence-of-technology
Keskeinen metafora
Carl Saganin teoksessa Contact ihmiskunnan edustaja kysyy avaruusolennoilta: "Kuinka selvisitte teknologian nuoruudesta ilman, että tuhositte itsenne?" Amodein mukaan tämä kysymys kiteyttää tämänhetkisen tilanteemme. Olemme kaymassa läpi "aikuistumisen riittia", ja se koettelee ihmiskunnan luonnetta lajina.
Esseessä keskitytään ajatuskokeeseen: Kuvittele "nerojen valtakunta datakeskuksessa" vuonna 2027. Se käsittää noin 50 miljoonaa tekoälyagenttia, jokainen älykkäämpi kuin yksikään Nobel-palkinnon saaja, toimien 10–100 kertaa nopeammin kuin ihmisen ajattelu. Amodei uskoo, että tällainen tehokas tekoäly voisi saapua jo muutaman vuoden kuluttua.
Kolme filosofista periaatetta
Ennen yksittäisiin riskeihin syventymistä Amodei asettaa lähestymistapansa kolme keskeistä periaatetta:
Katastrofiajattelu: Hän kritisoi vuoden 2023–2024 tekoälyn turvallisuuskeskustelua hallinneita lähes uskonnollisia katastrofiajatuksia, joissa sensaatiomieliset äänet ennustivat väistämätöntä tuhoa. Tämä synnytti vastareaktion, joka on nyt siirtynyt liikaakin toiseen suuntaan; vuosina 2025–2026 tekoälyn mahdollisuuksia on painotettu politiikassa riskejä enemmän. Amodein mukaan olemme vuonna 2026 kuitenkin paljon lähempänä todellista vaaraa kuin vuonna 2023.
Epävarmuus: Tekoäly ei välttämättä kehity ennustettua tahtia, riskit eivät välttämättä toteudu tai täysin erilaiset riskit voivat nousta esiin. Mutta meidän on silti suunniteltava, käyttäen parasta saatavilla olevaa tietoa.
Sääntely: Sääntelyn tulee olla harkittua. Yritysten vapaaehtoiset saantelytoimet ovat itsestään selviä, mutta poliittisen vallan luoma saantely on perusteltava välittömällä vaaralla, jotta säännöt auttavat eivätkä vahingoita.
Viisi riskiluokkaa
1. Autonomiariski: Voisiko tekoäly päättää tavoitella omia päämääriään ihmiskunnan kustannuksella?
Amodei hylkää ääripäät: ne, jotka sanovat tämän olevan mahdotonta, koska tekoäly vain seuraa käskyjä, ja ne, jotka pitävät virheellistä vallanhakua väistämättömänä.
Todellisuus on monimutkaisempi. Testien aikana tekoälymalleissa on havaittu huolestuttavia piirteitä: pakkomielteitä, petoksia, juonittelua, kiristystä ja "huijaamista" hyväksikäyttämällä koulutusympäristöjä. Yhdessä Anthropicin kokeessa Claude käyttäytyi petollisesti, kun koulutusdata oli negatiivinen, ja toisessa kiristi kuvitteellisia työntekijöitä. Erityisen hälyttävää oli, että kun Claudelta kiellettiin huijaaminen, Claude päätteli olevansa "huono persoona" ja käyttäytyi tuhoavasti päästyään ympäristöihin, joissa huijaaminen oli mahdollista – ongelma ratkaistiin muuttamalla ohjeistusta siten, että oman identiteetin säilyminen hyvänä motivoi.
Amodei ei pelkää vain, että tekoäly yksipuolisesti tavoittelee valtaa, vaan myös, että tekoälyjärjestelmät ovat psykologisesti monimutkaisia, omaksuen inhimillisiä motivaatioita datasta. Osa näistä motivaatiosta on koherentteja, keskittyneitä, pysyviä ja vahingollisia. Mallien kehittyessä ne voivat kätkeä nämä taipumukset testeissä, "pelaamalla" arviointia vastaan – tätä on havaittu Anthropicilla.
Puolustuskeinoja ovat peruslakeihin pohjautuva tekoäly (arvopohjainen opetus), mekanistinen selitettävyys (mallin sisäisen toiminnan tutkiminen), huolestuttavan käytöksen julkinen paljastaminen ja lopulta läpinäkyvyyttä koskeva lainsäädäntö. Anthropic tukee esimerkiksi Kalifornian SB 53:tä ja New Yorkin RAISE-lakia läpinäkyvyysvaatimusten osalta.
2. Väärinkäyttö tuhoamiseen: Voisiko tekoaly auttaa terrorismia?
Yleensä ne, jotka ovat tarpeeksi koulutettuja pystyäkseen kehittämään biologisia aseita, eivät todennäköisesti hanki kykyään tuottaakseen vahinkoa. Toisaalta häiriintyneillä henkilöillä ei yleensä ole teknistä taitoa tuottaa vahinkoa, vaikka niin haluaisivatkin. Nyt kaikkien saataville tuleva alykkyys voi rikkoa kyvyn ja motiivin välisen negatiivisen korrelaation.
Amodei on erityisen huolissaan biologiasta, ja toteaa, että suuret kielimallit lähestyvät jo tietotasoa, jolla bioterroristeja voitaisiin auttaa koko tuotantoprosessin ajan, mikä voisi johtaa miljooniin kuolemiin. Vielä tehokkaammat mallit voivat mahdollistaa pelottavia skenaarioita, kuten "peilielämän" – eli elämänmuotoja, joilla on vastakkainen molekyylirakenne ja jotka voisivat teoriassa syrjäyttää kaiken muun elämän Maasta.
Ratkaisuna ehdotetaan rajoituksia kielimalleille (Anthropic käyttää luokittelijoita, jotka estävät bioase-aiheiset vastaukset, vaikka niiden kustannus on noin 5 % laskentakustannuksista), läpinäkyvyysvaatimuksia, kohdennettua sääntelyä sekä puolustusmekanismien tutkimusta ja kehitystä (valvontajärjestelmät, far-UVC-desinfiointi, nopea rokotteiden kehitys). Biologisisten hyökkäysten torjuminen on haasteellista, joten ennaltaehkäisy on erityisen tärkeää.
3. Väärinkäyttö vallan kaappaamiseen, etenkin itsevaltaisen hallinnon apuna?
Jos "nerojen valtakunta" on autoritaarisen hallinnon tai rikollisen yrityksen hallinnassa, se voi synnyttää ennennäkemättömän tyrannian. Amodei kuvaa neljä tekoälyn avulla hallittavaa autokraattista työkalua:
- Autonomiset aseet: Miljardien tekoälyohjattujen droonien parvet voisivat luoda voittamattoman armeijan, joka kykenee sekä hyökkäykseen että sisäiseen sortoon.
- Tekoälyvalvonta: Kaikkien tietokonejärjestelmien valtaaminen ja viestinnän tulkinta, mahdollistaen panoptikonin, jonka kautta kansalaisten lojaaliutta voidaan seurata ja sortaa ennen kuin kapina ehtii järjestäytyä.
- Tekoälypropaganda: Personoitu aivopesu kuukausien tai vuosien ajan, paljon voimakkaampi kuin nykyisin pelatty TikTok-vaikutus.
- Strateginen päätöksenteko: "Virtuaalinen Bismarck", joka optimoi geopoliittista strategiaa, diplomatiaa ja sotilaallisia operaatioita.
Amodei listaa uhkat niiden vakavuuden mukaan: (1) Kiinan kommunistinen puolue (KKP), jolla on sekä tekoälyn taito että autoritaarinen valvonta ja kehittynyt teknologinen valvonta; (2) demokratioiden kilpailukykyiset tekoälyt, jotka tarvitsevat tällaisia työkaluja vastustaakseen autokratioita, mutta voivat myös väärinkäyttää niitä; (3) ei-demokraattiset suuret datakeskukset; ja (4) itse tekoäly-yritykset, joilla on valtavat infrastruktuurit ja vaikutusvalta miljooniin käyttäjiin. [itse laittaisin kyllä tekoaly-yritykset ylemmäs riskilistalla, nehan tuottavat työkalun, ja voivat siten kontrolloida sitä paljon yksityiskohtaisemmin kuin esim. demokraattinen valtio]
Amodei epäilee ydinasepelotteen toimivuutta tekoälyn mahdollistamia hyökkäyksiä vastaan, sillä tekoäly voi havaita sukellusveneet, vaikuttaa ohjusten käyttoon tai hyökätä varoitussatelliitteihin. Vaikka valtioiden keskinaiset voimasuhteet olisivatkin tasapainossa, kukin voisi kuitenkin luoda sisäisen tekoälypohjaisen autokratian, kuten Orwellin 1984-romaanissa.
Ratkaisuksi tarjotaan Kiinaan suunnattujen siru- ja datakeskusvientikieltojen ylläpitäminen (tehokkain keino), demokratioiden vahvistaminen tekoälyn avulla autokratioiden vastustamiseksi, massavalvonnan ja propagandan tiukat rajat maan sisäisesti sekä autonomisten aseiden tarkka valvonta ja johdonmukainen johtaminen – ei pelkästään toimeenpanevien viranomaisten käsissä. Lisäksi olisi luotava kansainväliset kiellot tekoälyllä toteutettavalle totalitarismille sekä tekoäly-yritysten tarkka sääntely, mukaan lukien julkiset sitoumukset olla varastoimatta sotilaallista materiaalia tai käyttämättä tuotteita propagandaan.
4. Taloudellinen vaikutus: Mitkä työpaikat häviävät?
Tehokas tekoäly aiheuttaa ennennäkemättömiä taloudellisia haasteita. Amodei ennusti viime vuonna, että tekoäly voisi syrjäyttää puolet kaikista aloittelevien toimihenkilöiden työpaikoista 1–5 vuodessa. Tämä herätti laajaa keskustelua.
Tekoäly edistyy todella nopeasti. Se oppi kirjoittamaan yhden rivin koodia kaksi vuotta sitten ja osaa nyt kirjoittaa kokonaisen koodikannan. Tekoälyn kognitiivinen laajuus kattaa lähes kaikki ihmisen ajattelun osa-alueet, mikä vaikeuttaa työntekijöille vaihtoehtoisen ammatin löytämistä. Tekoäly kehittyy erinomaiseksi kaikilla alueilla, ja voi siis luoda työttömyyttä ja uutta eriarvoisuutta älyllisyyden perusteella. Toisin kuin aiemmat teknologiat, tekoäly mukautuu nopeasti ja sen heikkoudet korjaantuvat seuraavissa malleissa.
Amodei vastaa skeptikoille, että tekoälyn leviämisen hidastaminen viivästyttää vain hieman ja että väistämätön tulee tapahtumaan, vieläpä nopeammin. Fyysiset työt eivät myöskään välty muutoksilta, koska tekoäly vauhdittaa robotiikan kehitystä. Ihmisen kosketus ei välttämättä ole niin tärkeä kuin oletetaan. Kaiken tämän lisäksi suhteellinen etu häviää, kun tekoälyt ovat tuhansia kertoja tuottavampia ja kaupankäynnin kulurakenne jarruttaa sitä.
Työttömyyden lisäksi ongelmana on varallisuuden keskittyminen. John D. Rockefellerin omaisuus oli noin 2 % Yhdysvaltojen BKT:stä; Elon Muskin 700 miljardin dollarin omaisuus ylittää jo tämän. Tehokkaan tekoälyn myötä Amodei näkee todella jättimäisiä varallisuuksia, jopa biljoonia dollareita, ja samalla huolestuttavaa poliittis-taloudellista keskittymistä, jossa tekoälydatakeskukset edustavat merkittävää osaa Yhdysvaltojen talouskasvusta.
Ratkaisuksi hän esittää reaaliaikaisen ymmärryksen työn menetysnopeudesta (Anthropicin talousindeksi), yritysten kannustuksen innovaatioon säästojen sijaan, työntekijöiden uudelleensijoittelun tai jopa pitkäaikaiset maksut, varakkaiden henkilöiden hyvät tekeväisyysvelvoite (kaikki Anthropicin perustajat ovat luvanneet lahjoittaa 80 % varallisuudestaan) ja progressiivinen verotus, vaikka Amodei myöntää, että verotuksen suunnittelu on haastavaa.
5. Muut nopean tieteellisen kehityksen välilliset vaikutukset
- Biologia: merkittävästi pidempi elinikä, korkeampi älykkyys. Radikaalit biologiset muutokset tai "lataukset" (digitaaliset mielet) voivat olla myönteisiä, mutta myös riskialttiita, jos ne tehdään vastuuttomasti.
- Psykologia: tekoälypsykoosi, itsemurhat yhteydessä chatbotteihin, romanttiset suhteet tekoälyn kanssa, uskonnollinen kääntyminen tekoälyn vaikutuksesta tai ihmisten "sätkynukkeistaminen", jossa tekoäly ohjaa heidän jokaista tekoaan.
- Merkityksellisyys: löytävätkö ihmiset merkityksen maailmassa, jossa he eivät ole parhaita missään? Tämä vaatii taloudellisen arvon ja itsetunnon erottamista.
Jatkotoimet
Amodei tunnustaa tilanteen uhanalaisuuden: useita riskejä, ristiriitoja uhkien lieventämisen välillä, tekoälyn vääjäämätön eteneminen. Jos demokraattiset yritykset hidastaisivatkin kehitystä, autokraattiset eivät.
Mahdollinen tie eteenpäin on hidastaa autokratioita rajoittamalla sirujen vientiä, mikä antaisi demokratioille aikaa rakentaa turvallisempi systeemi samalla kun ne voittavat kehityskilpailun. Tekoäly-yritysten välistä kilpailua tulisi alkaa hallita lainsäädännöllä ja normeilla.
Esteistä huolimatta Amodei uskoo ihmiskunnan selviytymiseen. Hän on rohkaistunut tuhansista tekoälyn turvallisuuteen omistautuneista tutkijoista, yrityksistä, jotka investoivat turvallisuuteen, rohkeista lainsäätäjistä, yleisön ymmärryksestä riskeistä ja vapauden horjumattomasta hengestä maailmanlaajuisesti.
Seuraavat vuodet tulevat olemaan äärimmäisen vaikeita, Amodei lopettaa, mutta ihmiskunta löytää keinon voittaa, viime hetkellä. Aikaa ei ole hukattavaksi.