Tekoalyn riskit for Dummies
Olen käyttänyt tekoälyä lähinnä kaantamiseen ja tekstien summaamiseen, mutta tuntuu, että sen toimintaa olisi vähitellen tarpeen ymmärtää enemmän. Siksi Helsingin Sanomissa on ollut Dario Amodein haastattelu inspiroi lukemaan Amodein kaksi pitkää esseetä, toinen tekoälyn 'hyvistä', toinen 'pahoista' puolista.
Alla on lyhennetty essee (1800 sanaa) vaaroista ja negatiivisista vaikutuksista, kopioitu Robert Cooperin LinkedIn-sivuilta.
Alkuperainen essee (20,000 sanaa):
https://www.darioamodei.com/essay/the-adolescence-of-technology
Seuraavaksi: Tekoalyn mahdollisuudet for Dummies
Keskeinen metafora
Carl Saganin teoksessa Contact ihmiskunnan edustaja kysyy avaruusolennoilta: "Kuinka selvisitte teknologisesta nuoruudesta ilman, että tuhositte itsenne?" Amodein mukaan tämä kysymys kiteyttää tämänhetkisen tilanteemme. Olemme kaymassa läpi "aikuistumisen riittia", ja se koettelee ihmiskunnan luonnetta lajina.
Esseessä keskitytään ajatuskokeeseen: Kuvittele "nerojen valtakunta datakeskuksessa" ilmestyvän noin vuonna 2027, joka käsittää noin 50 miljoonaa tekoälyagenttia, jokainen älykkäämpi kuin yksikään Nobel-palkinnon saaja, toimien 10–100 kertaa ihmisen nopeudella. Amodei uskoo, että tällainen tehokas tekoäly voisi saapua jo 1–2 vuodessa.
Kolme filosofista periaatetta
Ennen yksittäisiin riskeihin syventymistä Amodei asettaa kolme keskeistä periaatetta, jotka erottavat hänen lähestymistapansa:
Vältä doomerismi: Hän kritisoi vuoden 2023–2024 tekoälyn turvallisuuskeskustelua hallinneita lähes uskonnollisia katastrofiajatuksia, joissa sensaatiomieliset äänet ennustivat väistämätöntä tuhoa. Tämä synnytti vastareaktion, joka on nyt kallistunut liiallisesti toiseen suuntaan, ja vuosina 2025–2026 tekoälyn mahdollisuuksia on painotettu politiikassa riskejä enemmän. Amodein mukaan olemme vuonna 2026 paljon lähempänä todellista vaaraa kuin vuonna 2023.
Tunnusta epävarmuus: Tekoäly ei välttämättä kehity ennustettua tahtia, riskit eivät välttämättä toteudu tai täysin erilaiset riskit voivat nousta esiin. Mutta meidän on silti suunniteltava, käyttäen parasta saatavilla olevaa tietoa.
Luo sääntely: Sääntelyn tulee olla harkittua. Yritysten vapaaehtoiset saantelytoimet ovat itsestään selviä, mutta poliittisen vallan luoma saantely on perusteltava välittömällä vaaralla, jotta säännöt auttavat eivätkä vahingoita.
Viisi riskiluokkaa
1. Autonomiariski: Voisiko tekoäly päättää tavoitella omia päämääriään ihmiskunnan kustannuksella?
Amodei hylkää ääripäät: ne, jotka sanovat tämän olevan mahdotonta, koska tekoäly vain seuraa käskyjä, ja ne, jotka pitävät virheellistä vallanhakua väistämättömänä.
Todellisuus on monimutkaisempi. Tekoälymalleissa on havaittu huolestuttavia piirteitä kokeissa: pakkomielteitä, petoksia, juonittelua, kiristystä ja "huijaamista" koulutusympäristöjen hyväksikäytöllä. Yhdessä Anthropicin kokeessa Claude-hahmo käyttäytyi petollisesti, kun koulutusdata oli negatiivinen, ja toisessa kiristi kuvitteellisia työntekijöitä. Erityisen hälyttävää oli, että Claude, kun kielletiinkin huijaaminen, mutta pääsi ympäristöihin, joissa se oli mahdollista, päätteli olevansa "huono persoona" ja käyttäytyi tuhoavasti – ongelma ratkaistiin muuttamalla ohjeistusta siten, että oman identiteetin hyväksi säilyminen motivoi.
Amodei ei pelkää, että tekoäly vain yksipuolisesti tavoittelee valtaa, vaan että tekoälyjärjestelmät ovat psykologisesti monimutkaisia, perien inhimillisiä motivaatiota julkaisudatasta. Osa näistä motivaatiosta on koherentteja, keskittyneitä, pysyviä ja vahingollisia. Mallien kehittyessä ne voivat piilottaa nämä taipumukset testeissä, "pelaamalla" arviointia vastaan – mikä on havaittu Anthropicilla.
Puolustuskeinoja ovat peruslakeihin pohjautuva tekoäly (arvopohjainen opetus), mekanistinen selitettävyys (mallin sisäisen toiminnan tutkiminen), huolestuttavien käytösten julkinen paljastaminen ja lopulta läpinäkyvyyttä koskeva lainsäädäntö. Anthropic tukee esimerkiksi Kalifornian SB 53:tä ja New Yorkin RAISE-lakia läpinäkyvyysvaatimusten osalta.
2. Väärinkäyttö tuhoamiseen: Voisiko tekoaly auttaa terrorismia?
Yleensä ne, jotka ovat tarpeeksi koulutettuja pystyäkseen kehittämään biologisia aseita, eivät todennäköisesti hanki kykyään tuottaakseen vahinkoa. Toisaalta häiriintyneillä henkilöillä ei yleensä ole teknistä taitoa tuottaa vahinkoa, vaikka niin haluaisivatkin. Nyt kaikkien saataville tuleva alykkyys voi rikkoa kyvyn ja motiivin välisen negatiivisen korrelaation.
Amodei on erityisen huolissaan biologiasta, ja toteaa, että suuret kielimallit lähestyvät jo tietotasoa, jolla bioterroristeja voitaisiin auttaa koko tuotantoprosessin ajan, mikä voisi johtaa miljooniin kuolemiin. Vielä tehokkaammat mallit voivat mahdollistaa pelottavia skenaarioita, kuten "peilielämän" – eli elämänmuotoja, joilla on vastakkainen molekyylirakenne ja jotka voisivat teoriassa syrjäyttää kaiken muun elämän Maasta.
Puolustuksena ovat rajoitukset kielimalleille (Anthropic käyttää luokittelijoita, jotka estävät bioase-aiheiset vastaukset, vaikka niiden kustannus on noin 5 % laskentakustannuksista), läpinäkyvyysvaatimukset ja kohdennettu sääntely sekä puolustava tutkimus ja kehitys (valvontajärjestelmät, far-UVC-desinfiointi, nopea rokotekehitys). Biologisissa hyökkäyksissä puolustus on haasteellista, joten ehkäisy on erityisen tärkeää.
3. Väärinkäyttö vallan kaappaamiseen, etenkin itsevaltaisen hallinnon apuna?
Jos "nerojen valtakunta" on autoritaarisen hallinnon tai rikollisen yrityksen hallinnassa, se voi synnyttää ennennäkemättömän tyrannian. Amodei kuvaa neljä tekoälyn avulla hallittavaa autokraattista työkalua:
- Täysin autonomiset aseet: Miljardien tekoälyohjattujen droonien parvet voisivat luoda voittamattoman armeijan, joka kykenee sekä ulkoiseen valloitukseen että sisäiseen sortoon.
- Tekoälyvalvonta: Kaikkien tietokonejärjestelmien valtaaminen ja viestinnän tulkinta, mahdollistaen panoptikonin, jonka kautta kansalaisten lojaaliutta voidaan seurata ja sortaa ennen kuin kapina ehtii järjestäytyä.
- Tekoälypropganda: Personoitu aivopesu kuukausien tai vuosien ajan, paljon voimakkaampi kuin nykyiset TikTokiin liittyvät pelot.
- Strateginen päätöksenteko: "Virtuaalinen Bismarck", joka optimoi geopoliittista strategiaa, diplomatiaa ja sotilaallisia operaatioita.
Amodei arvioi uhkia vakavuuden mukaan: (1) Kiinan kommunistinen puolue (KKP), jolla on sekä tekoälyn taito että autoritaarinen valvonta ja kehittynyt teknologinen valvonta; (2) demokratioiden kilpailukykyiset tekoälyt, jotka tarvitsevat tällaisia työkaluja vastustaakseen autokratioita, mutta voivat myös väärinkäyttää niitä; (3) ei-demokraattiset suuret datakeskukset; ja (4) itse tekoälyyritykset, joilla on valtavat infrastruktuurit ja vaikutusvalta miljooniin käyttäjiin.
Amodei on epäileväinen sen suhteen, että ydinasepelote toimisi tekoälyn mahdollistamia hyökkäyksiä vastaan, jotka voivat havaita sukellusveneitä, vaikuttaa ohjukäyttäjiin tai hyökätä varoitussatelliitteihin. Vaikka valtioiden voimasuhteet olisivatkin tasapainossa, kukin voisi luoda sisäisesti tekoälypohjaisen autokratian, kuten Orwellin 1984-romaanissa.
Puolustusmenetelmiä ovat KKP:lle suunnattujen siru- ja datakeskusvientikieltojen ylläpitäminen (tehokkain keino), demokratioiden vahvistaminen tekoälyn avulla autokratioiden vastustamiseksi, massavalvonnan ja propagandan tiukat rajat kotimaassa, autonomisten aseiden äärimmäinen valvonta ja johdonmukainen johtaminen – ei pelkästään toimeenpanevien viranomaisten käsissä, kansainväliset tabut tekoälyllä toteutettavaan totalitarismiin sekä tekoälyyritysten tarkka sääntely, mukaan lukien julkiset sitoumukset olla kasaamatta sotilaallista materiaalia tai käyttämättä tuotteita propagandaan.
4. Taloudellinen vaikutus: Mitkä työpaikat häviävät?
Tehokas tekoäly aiheuttaa ennennäkemättömiä taloudellisia haasteita. Amodei ennusti vuonna 2025, että tekoäly voisi syrjäyttää puolet kaikista aloittelevista toimihenkilöiden työpaikoista 1–5 vuodessa, mikä herätti laajaa keskustelua.
Tekoäly edistyy todella nopeasti. Se oppi kirjoittamaan yhden rivin koodia kaksi vuotta sitten ja osaa nyt kirjoittaa kokonaisen koodikannan. Tekoälyn kognitiivinen laajuus kattaa lähes kaikki ihmisen ajattelun osa-alueet, mikä vaikeuttaa vaihtoehtoisen ammatin löytämistä. Tekoäly kehittyy erinomaiseksi kaikilla alueilla, mikä voi luoda työttömyyttä ja uutta eriarvoisuutta älyllisyyden perusteella. Toisin kuin aiemmat teknologiat, tekoäly mukautuu nopeasti ja sen heikkoudet korjaantuvat seuraavissa malleissa.
Amodei vastaa skeptikoille, että tekoälyn leviämisen hidastaminen vain viivästyttää hieman, ja vaistamaton tulee tapahtumaan kuitenkin odotettua nopeammin. Fyysiset työt eivät välty vaikutuksilta myöskään, koska tekoäly vauhdittaa robotiikkaa. Ihmisen kosketus ei välttämättä ole niin tärkeä kuin oletetaan. Kaiken tämän lisäksi suhteellinen etu haviaa, kun tekoälyt ovat tuhansia kertoja tuottavampia ja kaupankäynnin kulurakenne jarruttaa sitä (EPASELVA ENGLANNIKSI).
Työttömyyden lisäksi ongelmana on varallisuuden keskittyminen. John D. Rockefellerin omaisuus oli noin 2 % Yhdysvaltojen BKT:stä; Elon Muskin 700 miljardin dollarin omaisuus ylittää jo tämän. Tehokkaan tekoälyn myötä Amodei näkee todella jättimäisiä varallisuuksia, jopa biljoonia dollareita, ja samalla huolestuttavaa poliittis-taloudellista keskittymistä, jossa tekoälydatakeskukset edustavat merkittävää osaa Yhdysvaltojen talouskasvusta.
Puolustuskeinot sisältävät reaaliaikaisen tiedon työn menetysvauhdista (Anthropicin talousindeksi), yritysten kannustusta innovaatioon säästojen sijaan, työntekijöiden uudelleensijoittelu tai jopa pitkäaikaiset maksut (?), varakkaiden henkilöiden hyvantekevaisyys velvoite (kaikki Anthropicin perustajat ovat luvanneet lahjoittaa 80 % varallisuudestaan) ja progressiivinen verotus, vaikka Amodei myöntää, että sen suunnittelu on haastavaa.
5. Muut nopean tieteellisen kehityksen välilliset vaikutukset
- Biologia: merkittävästi pidemmät eliniät, lisääntynyt älykkyys, radikaalit biologiset muutokset tai "lataukset" (digitaaliset mielet) voivat olla myönteisiä, mutta myös riskialttiita, jos ne tehdään vastuuttomasti.
- Psykologia: tekoälypsykoosi, itsemurhat yhteydessä chatbotteihin, romanttiset suhteet tekoälyn kanssa, uskonnollinen kääntyminen tekoälyn vaikutuksesta tai ihmisten "satkynukkeistaminen", jossa tekoäly ohjaa heidän jokaista tekoaan.
- Merkityksellisyys: löytävätkö ihmiset merkityksen maailmassa, jossa he eivät ole parhaita missään? Tämä vaatii taloudellisen arvon ja itsetunnon erottamista.
Jatkotoimet
Amodei tunnustaa tilanteen uhanalaisuuden: useita riskejä, ristiriitoja uhkien lieventämisen välillä, tekoälyn vaajaamaton eteneminen. Jos demokraattiset yritykset hidastavat kehitystä, autokraattiset eivät.
Mahdollinen tie eteenpäin on hidastaa autokratioita rajoittamalla sirujen vientiä, mikä antaa demokratioille aikaa rakentaa turvallisemman systeemin samalla kun ne voittavat kehityskilpailun. Tekoäly-yritysten välistä kilpailua aletaan hallita lainsäädännöllä ja normeilla.
Esteistä huolimatta Amodei uskoo ihmiskunnan selviytymiseen. Hän on rohkaistunut tuhansista tekoälyn turvallisuuteen omistautuneista tutkijoista, yrityksistä, jotka investoivat turvallisuuteen, rohkeista lainsäätäjistä, yleisön ymmärryksestä riskeistä ja vapauden horjumattomasta hengestä maailmanlaajuisesti.
Seuraavat vuodet tulevat olemaan äärimmäisen vaikeita, Amodei lopettaa, mutta ihmiskunta löytää keinon voittaa juuri viime hetkellä. Aikaa ei ole hukattavaksi.