Muski

Kysymys:
– Hmm, tästä tuli mieleen et entä sit Elønin neuralink, joka on tekoälyä pahimmillaan?🤔 Tää on itelle se mikä eniten herättää kysymysmerkkejä ko henkilöä kohtaan vaikka muuten kyl puhuu asiaa jne…
Itestä vaan tuo kuulostaa niin hurjalta kehitykseltä, jota potentiaalisesti voidaan käyttää todella väärin. Ja varsinki nyt ku lukenu noita sun kääntämiä Krusen tekstejä ni viel enemmän alkaa karmiin ajatus jostain säteilevästä sirusta joka on kiinni aivoissa😅 Ei auta ku koittaa luottaa, ettei sitä haluta käyttää väärin🤞🏼

Vastaus:
– Tässä hyvin käyty läpi tuo filosofia:
https://waitbutwhy.com/2017/04/neuralink.html

– Jos pitäisi kiteyttää Elon Muskin tekemisen taustalla oleva ajatus, se olisi melko yksinkertainen:

Hän haluaa valmistella meitä planeetta 4:ää varten. [siis sitä, mikä vääjäämättä seuraa edelleen jatkuvasta teknologisesta kehityksestä, jota ei kenenkään ole mahdollista pysäyttääkään]

Hän elää isossa kuvassa, ja hänen ainoa objektiivinsa on maksimaalinen zoomaus. Siksi hän on niin epätavallinen visionääri. Siksi hän on myös niin huolissaan.

Hän ei pidä Planeetta 4:ää huonona paikkana, mutta hän uskoo, että se voisi olla huono paikka, ja hän ymmärtää, että nykyään elävät sukupolvet ovat ensimmäiset historiassa, jotka joutuvat kohtaamaan todellisen, kovan eksistentiaalisen riskin, tajusivat he sitä tai eivät.

– nykyään elävät ihmiset ovat myös ensimmäiset, jotka voivat elää todella realistisen toivon kanssa aidosti utopistisesta tulevaisuudesta – sellaisesta, joka uhmaa jopa ku0lemaa ja veroja. Planeetta 4 voisi olla meidän luvattu maamme.

Kun zoomaat kauemmas, huomaat, miten käsittämättömän korkeat panokset todellisuudessa ovat.

Eikä lopputulos ole sattuman, vaan ihmiskolossin päähänpisto. Planeetta 4 on tulossa vain, koska Kolossi rakentaa sitä. Ja se, onko tuo tulevaisuus kuin taivas vai helvetti, riippuu siitä, mitä Kolossi tekee – ehkä seuraavien 150 vuoden aikana, ehkä vain seuraavien 50 vuoden aikana. Tai 25 vuotta.

Valitettavasti ihmiskolossia ei kuitenkaan ole optimoitu maksimoimaan mahdollisuuksia turvalliseen siirtymiseen parhaalle mahdolliselle Planeetta 4:lle mahdollisimman monelle ihmiselle, vaan se on optimoitu rakentamaan Planeetta 4 kaikin mahdollisin tavoin ja mahdollisimman nopeasti.

Elon on ymmärtänyt tämän kaiken ja omistanut elämänsä sille, että hän yrittää vaikuttaa ihmiskolossin motivaatioon, jotta se vastaisi paremmin ihmisten pitkän aikavälin etuja. Hän tietää, ettei ihmiskolossia ole mahdollista kytkeä uudelleen – paitsi jos eksistentiaalinen riski olisi yhtäkkiä suoraan jokaisen ihmisen edessä, mikä yleensä tapahtuu vasta, kun on jo liian myöhäistä – joten hän kohtelee kolossia kuin lemmikkiä.

Jos haluat koirasi istuvan, yhdistät käskystä istumisen herkun saamiseen. Ihmiskolossille herkku on kypsä uusi teollisuudenala, jonka tarjonta ja kysyntä räjähtävät samanaikaisesti käsiin.

Elon näki ihmiskolossi-koiran pissaavan lattialle lisäämällä jatkuvasti ikivanhaa, syvälle hautautunutta hiiltä hiilenkiertoon – ja sen sijaan, että hän pyytäisi kolossia lopettamaan lattialle pissaamisen (mihin monet ihmiset tuhlaavat henkeään) tai yrittäisi uhkailla kolossia käyttäytymään (mitä hallitukset yrittävät tehdä, mutta vain rajallisella menestyksellä), hän luo sähköauton, joka on niin radikaali, että kaikki haluavat sellaisen.
Autoteollisuus näkee, että tämä alkaa muuttaa kuluttajien mieltymyksiä, ja yhdeksän vuoden aikana siitä lähtien, kun Tesla julkaisi ensimmäisen autonsa, sähköautoja valmistavien suurten autoteollisuusyritysten määrä on noussut nollasta lähes kaikkiin. Colossus näyttää ottavan herkkua vastaan, ja käyttäytymisen muutos saattaa seurata.

Elon näki ihmiskolossi-koiran törmäävän seinään siinä, että ihmiskunta pitää kaikki munansa yhdellä planeetalla kaikista horisontissa näkyvistä käännekohdista huolimatta, joten hän rakensi SpaceX:n oppiakseen laskeutumaan raketilla, mikä leikkaa avaruusmatkailun kustannuksia noin 99 prosentilla ja tekee resurssien omistautumisesta avaruusteollisuudelle paljon maukkaamman makupalan kolossille. Hänen suunnitelmansa Marsin suhteen ei ole yrittää vakuuttaa ihmiskunnalle, että on hyvä idea rakentaa sinne sivilisaatio, jotta laji saisi henkivakuutuksen, vaan luoda kohtuuhintainen säännöllinen rahti- ja ihmiskuljetusreitti Marsiin, koska hän tietää, että kun se on toteutunut, Marsin kehittämiseen liittyy niin paljon arvonluontimahdollisuuksia, että Kolossi ryhtyy määrätietoisesti toteuttamaan sitä.

Elonin mielestä pelottavinta, mitä ihmiskolossi tekee, on opettaa tietokonekolossi ajattelemaan. Elonille ja monille muille superälykkään tekoälyn kehittyminen on ylivoimaisesti suurin eksistentiaalinen uhka ihmiskunnalle. Ei ole vaikea ymmärtää, miksi. Älykkyys antaa meille jumalankaltaisen vallan kaikkiin muihin maapallon olentoihin nähden – mikä ei ole ollut olentojen kannalta pelkästään hauskaa. Jos jokin niiden ruumiinosista on mahdollinen arvonluoja, meillä on suuria teollisuudenaloja, jotka käsittelevät ja myyvät näitä ruumiinosia. Joskus tapamme niitä urheilun vuoksi. Mutta olemme luultavasti vähiten hauskoja aina silloin, kun teemme vain juttujamme, omista syistämme, ilman vihaa sydämessämme tai halua satuttaa ketään, ja on olentoja tai ekosysteemejä, jotka vain sattuvat olemaan tiellämme tai tekojemme sivuvaikutusten tulilinjalla. Ihmiset haluavat suuttua ihmiskunnalle tästä, mutta todellisuudessa me vain teemme sitä, mitä lajit tekevät.

Muiden olentojen kannalta ongelma ei ole itsekkyytemme, vaan se valtava vahinko, jota itsekkyytemme voi aiheuttaa, koska meillä on valtavasti valtaa niihin nähden. Valta, joka johtuu älykkyysetuistamme.

On siis melko loogista suhtautua huolestuneesti siihen, että luomme tarkoituksella jotain, jolla on (ehkä paljon) enemmän älyä kuin meillä.

Ja asiat etenevät nopeasti. Elon puhui Googlen pelintekoälyn nopeasta edistymisestä:

– Se voittaa Lee Sedolin neljässä viidestä pelistä, ja nyt se voittaa ihmisen joka pelissä koko ajan, kun se pelaa 50 parasta pelaajaa vastaan ja voittaa heidät aina, koko ajan. Siitä on noin vuosi aikaa.

Ja se on tällä hetkellä AlphaGon kaltaisella harmittomalla asialla. Mutta vapausasteet, joilla tekoäly voi voittaa, kasvavat. Go:ssa on siis paljon enemmän vapausasteita kuin shakissa, mutta jos otetaan esimerkiksi jokin reaaliaikainen strategiapeli, kuten League of Legends, siinä on paljon enemmän vapausasteita kuin Go:ssa, joten siinä se ei voi vielä voittaa. Mutta se pystyy siihen lopulta. Ja sitten on vielä oikea todellisuus, jossa on äärimmäisen paljon vapausasteita…

Edellä mainituista syistä tällainen asia huolestuttaa häntä:

– Viime vuosina – viimeisten parin vuoden aikana – olen ymmärtänyt, että tekoäly tulee selvästikin ylittämään ihmisen älykkyyden monin verroin. … Siinä vaiheessa on olemassa riski, että tapahtuu jotain pahaa, jotain, mitä emme voi hallita, mitä ihmiskunta ei voi hallita sen jälkeen – joko pieni ryhmä ihmisiä monopolisoi tekoälyn vallan, tai tekoäly lähtee valloilleen, tai jotain sellaista. Se ei ehkä tapahdu, mutta se voi tapahtua.

Tyypilliseen ihmiskolossin tapaan ”kollektiivinen tahto” ei ole virittynyt tekoälyn vaaroihin.

Kun haastattelin Elonia vuonna 2015, kysyin häneltä, liittyisikö hän koskaan pyrkimyksiin rakentaa superälykäs tekoäly. Hän sanoi: ”Rehellinen mielipiteeni on, että meidän ei pitäisi rakentaa sitä”. Ja kun myöhemmin kommentoin, että itseään älykkäämpien asioiden rakentaminen tuntui kyllä darwinistiselta perusvirheeltä (lause, jonka varastin Nick Bostromilta), Elon vastasi: ”Me voitamme Darwin-palkinnon, kollektiivisesti.”

Nyt, kaksi vuotta myöhemmin, hän sanoo seuraavaa:

– (nauraa), joten ajattelin: ”Hyvä on, hyvä on, sitten meidän on yritettävä auttaa kehittämään sitä niin, että se on hyvä.”

Hän on hyväksynyt todellisuuden – ihmiskolossi ei aio lopettaa, ennen kuin tietokonekolossi jonain päivänä herää. Tämä on tapahtumassa.

https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Kukaan ei tiedä, mitä tapahtuu, kun tietokonekolossi oppii ajattelemaan. Pitkässä tekoälyä selittävässä kirjoituksessani tutkin sekä niiden perusteluja, jotka ovat vakuuttuneita siitä, että superälykäs tekoäly on ratkaisu kaikkiin ongelmiin, että niiden, jotka pitävät ihmiskuntaa joukkona lapsia, jotka leikkivät pommilla, jota he eivät ymmärrä. Olen itse edelleen vaihtelevaa mieltä siitä, kumpi leiri on mielestäni vakuuttavampi, mutta vaikuttaa melko järkevältä varautua pahimpaan ja tehdä kaikkemme mahdollisuuksiemme lisäämiseksi. Monet asiantuntijat ovat samaa mieltä tästä logiikasta, mutta parhaasta strategiasta superälykkään tekoälyn luomiseksi turvallisesti ei ole juurikaan yksimielisyyttä – on vain paljon ideoita ihmisiltä, jotka myöntävät, etteivät he oikeastaan tiedä vastausta. Miten kukaan voisi tietää, miten varautua tulevaan maailmaan, jota hän ei voi mitenkään ymmärtää?

Elon myöntää myös, ettei hän tiedä vastausta, mutta hän työstää suunnitelmaa, jonka hän uskoo antavan meille parhaan mahdollisuuden.

Elonin suunnitelma

Abraham Lincoln oli tyytyväinen itseensä keksiessään repliikin:

-ja että kansan hallitus, kansan toimesta, kansan puolesta, kansan hyväksi, ei katoa maan päältä.

Reilu – se on hyvä repliikki.

Koko ajatus ”kansasta, kansan toimesta, kansan puolesta” on demokratian ydin.

Valitettavasti ”kansa” on epämiellyttävä. Joten demokratia on lopulta epämiellyttävä. Mutta epämiellyttävä on yleensä unelma vaihtoehtoihin verrattuna. Elon puhui tästä:

– Mielestäni kollektiivisen suojelu on tärkeää. Churchill taisi sanoa: ”Demokratia on huonoin kaikista hallintojärjestelmistä, lukuun ottamatta kaikkia muita.” On hienoa, jos Platonin uskomaton filosofikuningas on kuningas, totta kai. Se olisi hienoa. Useimmat diktaattorit eivät kuitenkaan ole sellaisia. He ovat yleensä melko kamalia.

Toisin sanoen demokratia on kuin pakenisi hirviötä piiloutumalla viemäriin.

Elämässä on paljon tilanteita, jolloin on hyvä strategia ottaa riski, jotta voi antaa itselleen mahdollisuuden parhaaseen mahdolliseen lopputulokseen, mutta kun panokset ovat kaikkein suurimmillaan, oikea ratkaisu on yleensä pelata varman päälle. Valta on yksi näistä tilanteista. Siksi Elon sanoo, että vaikka demokratia periaatteessa takaa tietyntasoisen keskinkertaisuuden, ”mielestäni Yhdysvalloissa on vaikea löytää monia ihmisiä, jotka, riippumatta siitä, mitä mieltä he ovat kenestäkin presidentistä, kannattaisivat diktatuuria.”

Ja koska Elon pitää tekoälyä äärimmäisenä voimana, hän pitää tekoälyn kehittämistä äärimmäisenä ”pelaa varman päälle” -tilanteena. Siksi hänen strategiansa tekoälyn eksistentiaalisen riskin minimoimiseksi näyttää olevan lähinnä se, että tekoälyvoiman on oltava kansalta, kansan toimesta ja kansalle.

Elon on lähestynyt tilannetta useista eri näkökulmista yrittäessään toteuttaa tätä konseptia tekoälyn alalla.

Ihmisten toimesta ja ihmisiä varten hän ja Sam Altman perustivat OpenAI:n, joka on omien sanojensa mukaan ”voittoa tavoittelematon tekoälytutkimusyritys, joka etsii ja toteuttaa tietä turvalliseen yleiseen tekoälyyn”. [tämä teksti siis vuodelta 2017; sen jälkeen Sam teki Elonin selän takana avoimesta non-profitista suljetun ja voittoa tavoittelevan firman, joka tahallaan opettaa maailman voimakkainta t€koälyä v@lehtelemaan]

Yleensä kun ihmiskunta työstää jotain uutta, se alkaa muutaman innovatiivisen pioneerin työstä. Kun he onnistuvat, syntyy teollisuus, ja ihmiskolossit hyppäävät mukaan rakentamaan sen päälle, minkä pioneerit aloittivat, massoittain.

Mutta entä jos se, minkä parissa nuo pioneerit työskentelivät, olikin taikasauva, joka saattaisi antaa sen omistajalle valtavan, murtumattoman vallan kaikkiin muihin – myös vallan estää muita tekemästä taikasauvaa? Se olisi aika rajua, eikö?

No, niin Elon näkee tämän päivän varhaiset tekoälyn kehitystoimet. Koska hän ei voi estää ihmisiä tekemästä taikasauvaa, hänen ratkaisunsa on luoda avoin, yhteistyöhön perustuva ja läpinäkyvä taikasauvan kehityslaboratorio. Kun laboratoriossa löydetään uusi läpimurtoinnovaatio, laboratorio julkaisee innovaation kaikkien nähtäväksi tai lainattavaksi sen sijaan, että se olisi muiden taikasauvayritysten tavoin tiukasti salassa pidetty salaisuus.

[… kunnes Sam Altman kiinnostui rahasta riskienhallintaa enemmän]

Laboratorio [entinen OpenAI] edistää myös miljoonien muiden taikasauvoja yrittävien ihmisten ponnisteluja. Tämä luo valtavasti kilpailua salamyhkäisille edelläkävijöille, jolloin on epätodennäköisempää, että yksi keksijä voisi luoda taikasauvan kauan ennen kuin muutkin tekevät sen. Todennäköisemmäksi tulee, että kun ensimmäinen taikasauva lopulta luodaan, tuhansia muita taikasauvoja on jo lähellä valmistumista: erilaisia taikasauvoja, joilla on erilaiset ominaisuudet ja joita eri ihmiset ovat tehneet eri syistä. Jos taikasauvoja on oltava maapallolla, Elon ajattelee, niin varmistutaan ainakin siitä, että ne ovat monien ihmisten käsissä eri puolilla maailmaa – ei yhden kaikkivoivan velhon. Tai kuten hän asian ilmaisee:

– Jos kaikki ovat Krypton-planeetalta, se on hienoa. Mutta jos vain yksi heistä on Teräsmies ja sillä sattuu olemaan H1tlrin persoona, meillä on ongelma.

Yksittäisen pioneerin taikasauva olisi todennäköisesti rakennettu palvelemaan kyseisen keksijän omia tarpeita ja tarkoituksia. Mutta kun taikasauvateollisuudesta tehdään tulevaisuudessa kollektiivinen ponnistus, monille erilaisille tarpeille ja tarkoituksille tehdään oma taikasauvansa, jolloin on todennäköisempää, että maailman taikasauvojen kokonaismassan ominaisuudet edustavat ylipäätään massojen tarpeita.

Tiedättehän, kuten demokratia.

Nikola Teslan, Henry Fordin, Wrightin veljesten ja Alan Turingin kohdalla se toimi hienosti, kun he käynnistivät vallankumouksia hyppäämällä joukon edelle. Mutta kun on kyse jonkin käsittämättömän voimakkaan asian keksimisestä, ei voi vain istua ja antaa edelläkävijöiden käynnistää asioita – siinä jätetään liikaa sattuman varaan.

OpenAI on [tai siis oli] yritys demokratisoida tekoälyn luominen, jotta koko ihmiskolossi voisi työskennellä sen parissa jo sen pioneerivaiheessa. Elon kiteyttää asian:

– Tekoäly tulee ehdottomasti ylittämään ihmisen kyvyt. Siinä määrin kuin se on sidoksissa ihmisen tahtoon, erityisesti suuren ihmisjoukon summaan, tämä olisi lopputulos, jota suuri joukko ihmisiä toivoo, koska se olisi heidän tahtonsa funktio.

Nyt on siis ehkä jo varhaisessa vaiheessa olemassa ihmisen tasoinen tai sitä korkeampi tekoälyn supervalta, jota ihmiset tekevät ihmisiä varten, mikä vähentää todennäköisyyttä, että maailman tekoälyvalta päätyisi yhden ainoan pahiksen tai tiukasti kontrolloidun monopolin käsiin.

Nyt meillä on jäljellä vain ihmisten tekoäly.

Tämän pitäisi olla helppoa. Muistakaa, että ihmiskolossi luo superälykästä tekoälyä samasta syystä kuin se loi autoja, tehdaskoneita ja tietokoneita – toimiakseen itsensä jatkeena, jolle se voi ulkoistaa työtä. Autot hoitavat kävelymme, tehdaskoneet valmistuksen ja tietokoneet huolehtivat tiedon tallentamisesta, organisoinnista ja laskennasta.

Ajattelemaan kykenevien tietokoneiden luominen on tähän mennessä suurin keksintömme – niiden avulla voimme ulkoistaa tärkeimmän ja vaikuttavimman työmme. Ajattelu on rakentanut kaiken, mitä meillä on, joten kuvittele, millainen voima syntyy, kun rakennamme itsellemme superälykkään ajattelulaajennuksen. Ja ihmisten laajennukset kuuluvat määritelmällisesti ihmisille – ne ovat ihmisiä.

On vain yksi asia…

Korkean tason tekoäly ei ole aivan samanlainen kuin nuo muut keksinnöt. Muu teknologiamme on loistavaa siinä, mihin se on rakennettu, mutta loppujen lopuksi se on aivoton kone, jolla on vain kapea älykkyys. Tekoäly, jonka yritämme rakentaa, on älykäs, kuin ihminen – kuin naurettavan älykäs ihminen. Se on perustavanlaatuisesti erilainen kuin mitä olemme koskaan ennen tehneet – miksi siis odottaisimme, että siihen sovellettaisiin tavanomaisia sääntöjä?

On aina ollut automaattinen asia, että tekemämme teknologia kuuluu luonnostaan meille – se on niin itsestään selvä asia, että sen esittäminen tuntuu melkein typerältä. Mutta voisiko olla niin, että jos teemme jotain ihmistä älykkäämpää, sitä ei ehkä olekaan niin helppo hallita?

Voisiko olla mahdollista, että luomus, joka on parempi ajattelemaan kuin yksikään ihminen maapallolla, ei ehkä täysin tyydy toimimaan ihmisen jatkeena, vaikka se olisikin rakennettu sitä varten?

Emme tiedä, miten asiat todella ilmenevät – mutta näyttää melko turvalliselta sanoa, että kyllä, nämä mahdollisuudet voisivat olla.

Ja jos se, mitä voisi olla, osoittautuu todella olevan, meillä saattaa olla vakava ongelma käsissämme.

Kuten ihmiskunnan historian tapaustutkimus osoittaa, kun planeetalla on jotain, joka on paljon älykkäämpi kuin kaikki muut, se voi olla todella huono asia kaikille muille. Ja jos tekoälystä tulee planeetan uusi asia, joka on paljon älykkäämpi kuin kaikki muut, ja jos se osoittautuu, että se ei selvästi kuulu meille – se tarkoittaa, että se on oma asiansa. Mikä pudottaa meidät kategoriaan ”kaikki muut”.

Tämä pitää Elonin hereillä öisin. Hän näkee, että on vain ajan kysymys, milloin superälykäs tekoäly nousee planeetalle – ja kun se tapahtuu, on hänen mielestään ratkaisevan tärkeää, ettemme joudu osaksi ”kaikkia muita”.

Siksi tulevaisuuden maailmassa, joka koostuu tekoälystä ja kaikista muista, meillä on hänen mielestään vain yksi hyvä vaihtoehto:

Olla tekoäly.

Muistatteko, kun sanoin aiemmin, että velhohattuihin liittyy kaksi asiaa, jotka meidän on ymmärrettävä?

1) Äärimmäisen käänteentekevä ajatus

2) super naurettavan voimakkaasti mieltä taivuttava ajatus…

Tässä kohtaa tulee kuvaan numero 2.

Nämä kaksi ideaa ovat ne kaksi asiaa, joita Elon tarkoittaa, kun hän puhuu velhohatusta aivojemme digitaalisena kolmannen kerroksena.

/ /

Lue kiehtova vuoden 2017 teksti kokonaan täältä:

https://waitbutwhy.com/2017/04/neuralink.html