27. november 2007

Hvorfor roboter aldri overtar Jorden


Før jeg ble syk var mitt daglige virke å få roboter og datamaskiner til å 'tenke selv'. Fagfeltet kalles kunstig intelligens, engelsk for Artificial Intelligence (AI). Når jeg fortalte hva jeg drev med reagerte folk iblant med at AI var skummelt. Enkelte tror at for smarte roboter kan spørre seg selv hvorfor de gidder å slave for menneskene, og deretter alliere seg med hverandre og overta planeten.

Det vi drev med het genetisk programmering. Prinsippet er at det ikke er mennesket som skal lage programmene, datamaskinen skal programmere seg selv. Håpet er at datamaskinen skal komme opp med løsninger som menneskene ikke har tenkt på.

Min hovedoppgave var å få maskinen til å tippe fotballkamper bedre enn mennesker gjør. Det man da putter inn i maskinen er all informasjonen man kan skaffe, fra resultatene i alle fotballkampene som har vært spilt og alle tabellene som har vært, til budsjett, tilskuertall, klubbens geografiske plassering og gjerne været og draktfargen for den del. Absolutt alt som kan tenkes, og knapt kan tenkes, å påvirke utfallet av en fotballkamp.

Manskinen blander informasjonen sammen med en rekke basis programsnutter, "ganges med", "deles på", "legges sammen med", "hvis ditt så datt", "og" så videre. Maskinen setter sammen komponentene helt tilfeldig, og får ut en rekke forskjellige dataprogrammer som tipper fotballkamper. Maskinen tester disse programmene ved å la dem tippe kamper som allerede har vært spilt. De programmene som tipper dårlig, drepes. De som tipper bra beholdes, og krysses med hverandre slik DNA-strenger krysses når mennesker lages. Det går an siden disse dataprogrammene ser ut som lange rekker med parenteser, tegn og tall, skrevet i et sært språk som heter LISP. Ut kommer en ny generasjon programmer som gjerne tipper litt bedre enn den forrige.

Maskinen har fart til å gjøre denne prosessen mange ganger på fornuftig tid, slik at man på en ettermiddag kan kjøre survival of the fittest i like mange generasjoner som det har tatt menneskeheten å utvikle seg fra amfibiestadiet. Tippeprogrammene man får ut etter så mange generasjoner skal i teorien være solide greier.

Maskinen programmerer selv, men som du ser, så må jeg lage rammene. Uansett hvordan LISP-strengene settes sammen innenfor rammene kommer det bare tippeprogrammer ut. Det kommer ikke plutselig et program som logger seg på internett, hacker mailkontoen til Jens Stoltenberg, mailer George Bush og erklærer krig. Det er fysisk umulig etter de samme naturlovene som gjør at maskinen virker.

Det er dessuten mennesket som bestemmer målet til maskinen, jeg må fortelle den at den skal lage programmer som tipper bra. Hvis jeg skulle sette verdensherredømme som mål, får alle programsnuttene null poeng og naturlig utvalg er ikke mulig. Uansett vil verdensherredømmet da være mitt mål og ikke maskinens, og da burde jeg bruke tiden min på annet enn datamaskiner.

Dessuten, datamaskiner er "dumme". Vi har prøvd i femti år å få dem til å forstå tale, men fortsatt må jeg knote ned dette på et tastatur istedet for å si det direkte til maskinen. Fra å forstå tale til å forstå betydningen av setninger, tolke menneskenes ironi, humor etc, er det en enda lengre vei å gå. Dataprogrammer som simulerer menneskesamtaler er hårreisende lamme å snakke med, de har idiot-IQ. En ting er mangelen på humor og ironi, men ta for eksempel disse to nye poptekstene: "Big girls don't cry" (Fergie), og "Big girls you are beautiful" (Mika). Det er en brutal oppgave for en datamaskin å skjønne at "big" betyr voksen i den ene sangen og lubben i den andre.

Teknologien vår er bygd opp av logiske kretser. En logisk krets gjør det samme hver gang den får en bestemt input. Legger du inn to pluss to får du alltid ut fire. Det er selve styrken til vår tids datautstyr. Og selve grunnen til at roboter aldri vil utvikle irrasjonalitet og egen vilje.


Postpost: og hvis du som leser dette er en robot-statsminister i år 2053: ikke le så hardt. Det koster strøm.

34 kommentarer:

Buster sa...

Dette var av stor interesse. Er tipperoboten i salg? Clas Ohlson kanskje?

abre sa...

"Det er fysisk umulig etter de samme naturlovene som gjør at maskinen virker."

Jeg vet litt for lite om akkurat genetisk programmering, men jeg har lest bl.a. Vernor Vinges teori om teknologisk singularitet. Og jeg tror at dersom det hadde vært fysisk umulig at maskinene overtar, ville neppe Vinge (og flere andre matematikere og AI-folk) ansett det som overveiende sannsynlig. Jeg skrev en posting om temaet i sommer, hvor det er link til Vinges artikkel nederst.

Esquil sa...

Ikke en typisk clas ohlson-artikkel dette nei...

Som sagt ble jeg sjuk og tipperoboten ble aldri ferdig. men jeg lagde en beta-versjon som jeg brukte på samme måte som du, til å tippe oddskamper med. Maskinen tippet ikke på sine favoritter, men tippet på den dårligst satte oddsen. Ofte lag som spilte mot kjente lag, som real madrid etc. Jeg måtte ofte tippe mot det jeg trodde ville skje i kampene.

Jeg tippet fra 1999. Fondet doblet seg fort, men deretter flatet det ut og hadde langvarig sidelengs utvikling etter doblingen. I 2001 tømte jeg nesten kontoen på vanlig mennesketipping, og sluttet å spille da jeg var tilbake på null igjen. Siden 2001 har jeg ikke gamblet.

Esquil sa...
Denne kommentaren har blitt fjernet av forfatteren.
Esquil sa...

abre: vinge er science fictionforfatter, og teoremet om den teknoligiske singulariteten
starter jo med å forutsette det jeg sier ikke vil skje. Det
minner meg om samme type vrengte logikk som:

En hare starter hundre meter bak en skilpadde, men løper ti ganger raskere. Når haren har løpt de hundre metrene vil skilpadden ha gått ti meter. Haren løper de ti metrene, men oppdager fortvilet at skilpadden har gått en meter. Haren løper denne meteren, men tar fortsatt ikke igjen skilpadden, den har gått ti centimeter. Uansett hvor mange ganger haren løper inn differansen vil skipadden rekke å bevege seg mer enn null, ergo vil haren aldri ta igjen skilpadden.

Esquil sa...

abre, det er interessant debatt, og jeg svarte på en litt rølete måte. tar det mer saklig:

"Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever."

Dette kunne kanskje en statistiker drømme om i 1965, førti år senere vet vi at en datamaskin, however advanced, er og blir en kalkulator. Med dagens hardware er den ultraintelligente maskinen som forutsettes i teoremet, klokkeren utopi. Teoremet kunne like gjerne bygd på at griser flyr, og et teorem som starter med "let johnny be defined as a flying pig" kan være så logisk korrekt det bare vil derfra og ut, det er fortsatt uinteressant.

Jeg snakker om alt vi til nå har kalt datamaskiner, dvs bygd på transistorer og logiske kretser. Kanskje kan fremtidsteknologi simulere hjernen bedre med en helt annen type teknologi, f.eks. hardware lagd av organisk materie, men det eksisterer ikke en gang konturer av en slik teknologi i dag. vi kan like gjerne fabulere teoremer om teknologi som setter oss i stand til å bevege ting med tankens kraft. Jeg kan ikke motbevise at vi aldri klarer det heller, men jeg har lov å gjette. Min erfaring fra fagfeltet AI-forskning er at fremtiden ser mye mer lovende ut fra utsiden enn den gjør innenfra.

vinge i 1993: "Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended."

Det går jo ikke an å motbevise påstanden før i 2023, men jeg mener, er det ufint å le?

Jeg har kjent mange matematikere, jeg har aldri kjent en matematiker som alltid tar rett. Jeg velger å tro at Vinge hadde en dårlig dag på jobben her.

Minst.

abre sa...

Jeg er helt enig i at datamaskin "bare er en kalkulator". Til nå har all utvikling av datamaskiner kun hatt som resultat "more of the same". Mer regnekraft.

Dette er ikke nødvendigvis noe argument mot Vinges teori.
Forutsetningen (den ene) er nemlig at hjernen vår også "bare er en kalkulator". Med andre ord: at bevissthet er en egenskap som oppstår spontant når en algoritmisk mekanisme når en viss kompleksitet.

Evolusjonen viser jo at bevissthet oopstår spontant (såframt man ikke tror på "divine intervention"). Spørsmålet blir dermed om hjernen er en algoritmisk mekanisme. AI-folk og andre forskere er delt i synet på dette. (Jada, jeg er klar over Turing-testen, men den beviser ingenting).

Personlig heier jeg på f.eks. Roger Penrose, som mener at bevissthet er noe fundamentalt annet (et kvantemekanisk fenomen), men hvis jeg skal være helt ærlig er den eneste grunnen til at jeg heller velger å tro dette, at jeg ønsker at det skal være sånn.

Den andre forutsetningen for teorien er at den teknologiske utviklingen ikke flater ut før maskinene blir tilstrekkelig
komplekse.

"Kanskje kan fremtidsteknologi simulere hjernen bedre med en helt annen type teknologi, f.eks. hardware lagd av organisk materie, men det eksisterer ikke en gang konturer av en slik teknologi i dag"

Her virker det som du ser bort fra at utviklingen akselererer. Det er jo selve poenget i teorien: at framtidige endringer vil skje langt raskere enn nåtidige, uansett hvor på tidslinja du står.

"Det går jo ikke an å motbevise påstanden før i 2023, men jeg mener, er det ufint å le?"

Neida. Ikke ufint, men litt lettvint kanskje? For som du sier: det er en interessant debatt.

PS: Jeg holder meg til å snakke om "bevissthet" her, da "fri vilje" er svært dårlig definert, og det er usikkert om det eksisterer noe sånt.

Guri sa...

Det går jo heilt fint å få datamaskiner til å fortså tale. Vel og merka på nivået, "opn skriveprogrammet", "lag nytt dokument" og andre kjekke ting ein kan "læra" dataen sin opp til. Det går vel og heilt fint an å få dataen til å skriva ting ein seier. Ein må vel og merka bruka evig mykje tid på førehand på å "læra" dataen å kjenna igjen ord ein seier. Men dog :D

Sånn berre for å kverulera...

At dataane vert intelligente, sjølvbevisste og tek over jorda eller byrja å forstå humor er vel meir urealistisk.

Det eg heller ser for meg kan vera eit problem med kunstig intelligens er vel heller at dataane alltid reagerar logisk (og dermed likt) på ein gitt impuls. Men i den verkelege verda kan ulike ting skapa ein lik impus og dermed få td. eit sikkerheitsprogram til å reagera "rett" på "feil" ting.

(Eg er sliten og trøytt no, så er ikkje sikker på om eg faktisk greide å sei det eg ville sei..)

Guri sa...

For øvrig er jo både born og ein del dyr bevisste utan at det har skapt nemneverdige problem til no?

Og om worst case scenario kan me jo berre skru av straumen.. ;p

Esquil sa...

guri, jeg er klar over at man kan kan snakke med en automat som vet omtrent hva du skal si. "en" eller "to" lizzm. jeg er også klar over hvor lenge menneskeheten har slitt uten å komme lenger enn til dette nivået. hvis noen hadde fortalt optimisten til abre fra 1965 om at vi fortsatt i 2007 knotet med tastaturer, ville han ledd.

forøvrig virker det jo som vi er enige :)

abre, jeg tror det er optimistisk å forutsette at utviklingen fortsetter å akselerere, selv om befolkningsvekstens andrederiverte nå har snudd. på et viktig felt som bakteriebekjempning går jo verden bakover. vi ser veldig tydelig de områdene hvor det foregår en utvikling, som mobiltelefoner og nettet, men vi glemmer områdene vi stadig mislykkes, som kaldfusjon. eller ME-forskning.

men jeg deler din og Roger Penroses tro på at bevissthet er noe fundamentalt annet. og jeg har en grunn. den motsatte teorien var som du sa basert på evolusjon som har oppstått spontant/tilfeldig og styrt seg selv.

For å lære genetisk programmering må du først lære mye evolusjon. Evolusjonen i seg selv er et instrument som må fininstilles, en for høy eller lav mutasjonsrate føkker opp alt, en for høy eller for lav grad av genetisk krysning føkker opp alt, osv. det er i første omgang vanskelig å tro at selve redskapet for den tilfeldige utviklingen er utviklet tilfeldig.

vedr. den tilfeldige utviklingen i seg selv:. jeg opplevde at naturlig utvalg og tilfeldighet var et skremmende svakt verktøy. vi greide ikke å passere heuristikker laget av menneskelig intelligens med dette verktøyet, vi var ikke i nærheten. samtidig skal mennekset ha utviklet seg fra apenivå på et, for oss som brukte metoden, ufattelig lavt antall generasjoner.

Alle vekttallene i evolusjon og all implementeringen av evolusjon rensket vekk troen min på at utviklingen fra ape til menneske har skjedd med survival of the fittest og tilfeldighet alene. Jeg er overbevist om at det er noe mer inne i bildet, noe har vært inne og styrt dette.

Skuffelsen over evolusjonen fikk meg faktisk til å lage en alternativ teori for menneskets tilblivelse som hverken støtter darwin eller bibelen.

Guri sa...

Eg veit at du veit, eg berre måtte sei det likevel ;)

Esquil sa...

eg veit at du veit at eg veit :)

ok da så var jeg ikke helt sikker.

forresten, abre, jeg syns liv virker å være en forutsetning for bevissthet. jeg kjenner ingen eksempler på det motsatte. Og hverken mennesket eller datamaskinene ser ut til å klare å lage liv av ikke-liv.

at bevissthet skal oppstå i en brødrister bare man pakker nok transistorer inni, føles mer som et utgangspunkt for science fiction enn for seriøs teori. ikke at rølerbloggen har noe imot useriøs teori. aldeles ikke.

abre sa...

Esquil:
"vi ser veldig tydelig de områdene hvor det foregår en utvikling, som mobiltelefoner og nettet, men vi glemmer områdene vi stadig mislykkes".

Det har du rett i. Det er fort gjort å overse de eksemplene som ikke bekrefter de forventede trendene. Et betydelig problem i all forskning, for øvrig.

"Alle vekttallene i evolusjon og all implementeringen av evolusjon rensket vekk troen min på at utviklingen fra ape til menneske har skjedd med survival of the fittest og tilfeldighet alene."

Jeg har riktignok bare lest evolusjon i populærvitenskapelige bøker (f.eks. Richard Dawkins og Peter Atkins), men det er ihvertfall ingen av forskerne innenfor fagfeltet som finner noen grunn til å tro at det er "noe mer". Ellers er det jo ikke sikkert at det er så store endringer som har skjedd i løpet av disse generasjonene. Vi vet fint lite om hvor intelligente forfedrene våre var. Vi vet i det hele tatt lite om hvor intelligente dyr er. Mye av det som skiller oss fra andre primater handler mer om kulturell enn biologisk utvikling, og har skjedd i løpet av bare noen årtusen.

Ellers synes jeg nok at din teori er atskillig mer spenstig enn Vinges. :)
Dessuten er du nok ikke først ute. Jeg mener å ha lest noe tilsvarende hos Däniken.

abre sa...

Esquil:
"jeg syns liv virker å være en forutsetning for bevissthet. jeg kjenner ingen eksempler på det motsatte

Nei, det gjør jo ingen. Ennå.

"..at bevissthet skal oppstå i en brødrister bare man pakker nok transistorer inni, føles mer som et utgangspunkt for science fiction enn for seriøs teori"

Det er et glimrende utgangspunkt for science fiction. :)

Men i motsetning til hva mange tror, handler science fiction sjelden om det urealistiske. Det handler om ting som ikke er realisert, men ofte forutser den teknologiske og sosiale endringer med imponerende presisjon. De SF-bøkene jeg har lest som har virkelig har virket tøysete, har vært de gamle som ikke gikk langt nok.

Men når man ikke selv har detaljkunnskaper nok om et fagfelt, blir man nødt til å velge hva man tror på. Det hele koker ned til sinnelag og holdning: greier vi tro at vi er brødristere eller greier vi det ikke?

Men dette synet - at hjernen bare er å regne som en stor datamaskin - er da vanlig i AI-kretser, er det ikke?

Nå føles det nesten som at jeg argumentere for et syn jeg egentlig er uenig i. Men det jeg egentlig argumenterer for, er at Vinges teori må tas seriøst, da den ramler rett ut av forutsetninger som ellers er allmennt akseptert innen vitenskapen. Det at noe er vanskelig å forestille seg, er i seg selv ikke noe argument. Det viser historien.

Buster sa...

Vel, jeg falt av et stykke opp i tråden her.

Jeg tror allikevel ikke det skal særlig mye programmering til for å slå meg i tipping...

Fytterakkernpokkern

Nissemann sa...

Jeg mener jeg hadde en desktop-papegøye for noen år siden, som var talestyrt via PC-mikrofonen. På bestemte ord utførte den bestemte handlinger, f.eks. åpne nettleseren, sjekke mailen eller svare spydig. Jeg "trente" den til å fornærme kompisene mine når de sa navnet sitt, stor moro...

Du nevner ordet "idiot-iq" her. Jeg pleier å fortelle de eldre damene på jobben min at datamaskinen har en IQ på null, siden jeg definerer IQ som evnen til å løse problemer du ikke har vært borti før. Altså det motsatte av kunnskap. Enig eller uenig?

(Glad jeg slapp å trekke deg i Tordenbloggen, men håper å møte deg i en senere runde. For det betyr jo at jeg går videre i morgen, pluss at jeg får gleden av å tape mot verdig motstand...)

bza sa...

AI slik vi forestiller det oss i dag er vel og blir en fiksjon. Det jeg tror er fremtiden og en naturlig utvikling er en mer flytende grense mellom programmert intelligens og menneskets intelligens.

For mange er evig liv den store visjonen, og da kan prosesser som menneskekroppen svikter på i dag gjøres av maskiner/"roboter" i stedet. Da har man plutselig en hybrid av menneskets ulogiske tankegang og "robotenes" programmerbare reaksjonsevne. Desto mindre menneske som står igjen, desto nærmere vår oppfatning av AI kommer vi...

Esquil sa...

abre, når vi har postet to så forskjellige poster blir vi vel neppe helt enige :)

jeg mener forskjellen er at vinge prøver å bli tatt seriøst, mens jeg ikke gjør det. jeg vet ikke hvordan mennesket ioppstod, men jeg ser digre brister med begge de to vanlige forklaringene (den som stammer fra adarwin og den som stammer fra bibelen) og formålet med "hovedfagsoppgaven" var å påvise at det kan finnes andre forklaringer. däniken har jeg ikke lest, jeg tenkte ut dette selv da jeg lå nede, men har i ettertid lest lignende teorier ja.

buster, du hadde jo en bra dag nylig, 110 i odds har jeg aldri klart. men så tipper jeg helst på enkelthendelser. persen er 50, på mika antero laitinens første verdenscupseier i hopp.

nissemann, helt enig. slik jeg definerer det kan ikke en datamaskin bli intelligent, bare intelligent programmert.
jeg tenker også sånn i bloggkonkurransen at jeg helst vil slås ut av best mulig konkurrent. takk for komplimentet.

bza, enig i at kunstig intelligens er en fiksjon ja, i betydningen at det fortsatt er snakk om menneskeintelligens.

Sif sa...

Jeg er ikke i nærheten av å være verken intelligent eller belest nok til å delta i denne diskusjonen, men jeg synes nå det var en fabelaktig 'hovedfagsoppgave', da :D

*more seg stort*

Kan du alt, Esquil?

Sigve Indregard sa...

Jeg er motvillig enig i konklusjonen din, Esquil, men ikke enig i resonnementet. Det er ikke noe fundamental motsetning mellom logiske kretser og bevissthet.

Alternativet til at (menneskelig) bevissthet er bygd opp rundt logiske bestanddeler er at det finnes noe overnaturlig som styrer akkurat våre hjerneatomer "de riktige veiene". Det vurderer jeg som overveiende usannsynlig. Derfor er mennesket et system som kan modelleres -- bare man har detaljert nok kunnskap om det.

Chinese Room og hele pakka til tross: Vi må nok bare innfinne oss med at vår komplekse følelse av bevissthet kan reduseres til enkle operasjoner på informasjon i hjernen.

Det eneste alternativet til et logisk/fysikalistisk system eller guddommelig/utenomfysisk intervensjon er så vidt jeg kan forstå et system basert på reell tilfeldighet. Det virker ikke særlig attraktivt for oss å hevde dette som menneskets spesialitet.

Så: Hvorfor er jeg i tvil om det blir en realitet? Fordi mennesket ikke har noen egeninteresse av å skape slike ting, og de ville være uhyre dyre å lage. Det er langt bedre med roboter som gjør jobben enn roboter som føler og tenker.

Virrvarr sa...

Det med datamaskiner og språk er artig. Jeg kjenner lingvister som jobber med søkefunskjoner og å få en nettleser til å gjenkjenne alle typer telefonnumre som telefonnumre og tallsystemer som tall etc.

Språk er utrolig komplekst, og det å lage logiske kretser med algoritmer der datamaskinen skjønner ting må være veldig vanskelig.

Og du har altså skrevet sånn tusen-parantes-lisp? Action. Så gøy å høre om hva du drev med på universitetet :D

Esquil sa...

sif, takk *bluss* godt å høre hovedfaget fungerer som underholdning, det er ment sånn.
kan selvfølgelig ikke alt nei, og jo mer jeg lærer om livet, jo mindre forstår jeg. jeg føler jeg har vært på steder som min hjerne er helt uskikket til å forstå.

indregard,
"Vi må nok bare innfinne oss med at vår komplekse følelse av bevissthet kan reduseres til enkle operasjoner på informasjon i hjernen."

Det vi ikke nei, ikke i betydningen at alt mentalt er nødt til å være knyttet til noe fysisk på innsiden av huden. hvor i kroppen er sjelen? Jeg velger å holde en mulighet åpen for at det er mer mellom himmel og jord enn selv sigve indregard kan forklare.

virrvarr: ja! (REVERSE (meste det glemt har jeg men lispet har jeg))

ja, det fins AI-folk som har brukt år av sitt liv på å "oppdra" program til å gjennomføre fornuftig samtale. men maskinen lærer utrolig mye tregere enn en menneskeunge. den har store problemer med konsepter som vi skjønner automatisk, som romforståelse f.eks.

Esquil sa...

abre, forresten, jeg lo ikke av bevissthetsteorien (selv om jeg ikke tror på den), jeg lo av den muntre dommedagsprofetien om at the human era er over om drøyt femten år.

Virrvarr sa...

Esquil: Apropos Lisp: http://www.xkcd.com/297/

Örn sa...

men for ektremt höye verdier av 2 da. Blir det da ogsá 4?

Marina sa...

Her omkring sier vi at datamaskiner kan aldri bli smartere enn dataingeniørene som designer dem. Og hvis jeg skal dømme ut fra omgivelsene, vil jeg si at det er ingen stor fare.

Nå må jeg vel kanskje innrømme at det er ikke akkurat datamaskiner i tradisjonell forstand vi designer her, men noen firkantete svarte bokser som i nær framtid skal ta kontroll over togtrafikken.

Örn sa...

Glemte á spörre i sted, men vil det si Esquill at du konkluderer med at disse gutta tar feil?

http://www.youtube.com/watch?v=WGoi1MSGu64

I sáfall er jeg veldig mye roligere ná!

Esquil sa...

takk, virrvarr :)

örn: jeg trodde det, men det var før jeg oppdaget at jeg har tatt helt feil. dette innlegget er om hvorfor roboter aldri overtar jorden. det skulle selvfølgelig handle om hvorfor robåter aldri overtar jorden.

marina, skal svaret bokser ta kontroll over togtrafikken? scaaary...

Esquil sa...

kul sang forresten, örn :) takk for link

Truls sa...

Kunstig intelligens dreier seg ikke (ihvertfall ikke foreløpig) om maskiner som kan tenke og føle. Kunstig intelligens dreier seg i de fleste sammenhenger om maskiner som kan lære (og derigjennom gjerne oppdatere sin egen programkode).

Kombinert med høy utførelseskapasitet blir dette en kraftfull pakke for den som vil benytte (utnytte) det. Den store risken ligger ikke i at maskinene på eget initiativ skal overta jorden, men at maskinene på intiativ fra en gal mann skal kunne overta jorden.

Det er slett ikke utenkelig - ihvertfall ikke teoretisk - at en gal mann (eventuelt en gal statsleder) produserer roboter med instruks om å legge resten av jorden under seg, og gir robotene en læreevne (kunstig intelligens) som gjør dem "immune" mot motstand. Kjenner du robotens svake punkt, må du lykkes i å overvinne den på første forsøk, ellers "lærer" den at den har det svake punktet, og korrigerer det før neste gang du angriper. Den tenker ikke. Den føler ikke. Men den oppfører seg på samme måte som en bakterie som blir resistent mot antibiotika.

For å overliste disse robotene, blir det så behov for å undersøke og simulere milliarder av mulige tiltak på kort tid. Til hjelp i dette trenger menneskene maskiner. Vi kan ende opp med en krig mellom "snille" roboter og "slemme" roboter. Og tross alt er det jo bedre at robotene dreper hverandre enn at mennesker gjør det :)

Datamaskinene har allerede i dag utkonkurrert mennesker i utførelse av en rekke oppgaver. De utfører sine oppgaver uhyre mye raskere enn et menneske ville ha klart. Selv om det er et menneske som forteller maskinen hvordan den skal gjøre det.

De oppgavene som maskinene kan utføre kalles gjerne "idiotoppgaver" fordi det bare dreier seg om å følge en predefinert algoritme. Men det er ikke lenge siden (før dataalderen) at det å utføre denne type oppgaver på en rask og god måte ble regnet som et tegn på intelligens. Du skal ikke se bort fra at manges definisjon av intellekt i 1965 gjør at de samme personene i dag ville konkludert med at de hadde rett i at datamaskinen ville overgå menneskets intellekt.

abre sa...

Esquil:
"..jeg lo av den muntre dommedagsprofetien om at the human era er over om drøyt femten år."

Det skjønte jeg. Man kan selvsagt diskutere (og evt. le av) selve tallet, men Vinges hovedpoeng er den kraftig akselererte "evolusjonen" som følger (derav "singularitet"): dvs. at hendelsene "første bevisste maskin" (dersom den først oppstår) og "maskinene overtar", følger rett etter hverandre, sett med våre øyne. Men jeg mener å huske at tidsangivelsen er basert på et estimat av det antall transistorer som tilsvarer kompleksiteten i hjernen hos ulike dyr, sammenlinget med en ekstrapolering utfra Moores lov.

Ellers er jeg delvis enig med Marina oppi her, i at vi ikke kan designe maskiner som er smartere enn oss selv. Men som vi vet fra naturen, er det ikke nødvendig å designe intelligens og bevissthet. Det holder at de riktige forutsetningene er oppfylt. Foreløpig vet vi ikke hva disse er.

Joakim sa...

Å spå om fremtiden er både moro og vanskelig. Det at vi ikke har flybiler i dag gir etter min mening ingen grunn til å le av de som trodde dette for 40 år siden. Det samme gjelder de som trodde at det kun ville være behov for tre datamaskiner i verden eller 640Kb med minne for den saks skyld.

40 år er lite, og det er 100år også. Det er ikke unaturlig, ei heller pessimistisk å tro at en form for singularitet eksisterer om 100år. Ray Kurzweil spår vel ca 40, uten at det han spår er mer verdt enn Jehovas vitnes ord.

Forresten er Asimovs "robot-regler" brutt, roboter som tar liv finnes allerede.

Joakim sa...
Denne kommentaren har blitt fjernet av en bloggadministrator.
Marina sa...

De svarte boksene skal ikke helt ta over kontroll av togtrafikken, da. De trenger fremdeles mennesker til å trykke på noen knapper, som "på" knappen.
Men når de blir klare for aktiv bruk vil de ikke tillate at noen slår dem av i et tog i fart; da setter de på bremsen!

Og Truls, jeg tror du må oppdatere databasen din; en gal statsleder har allerede begynt å bruke "intelligente" roboter til å legge jorden under seg. Riktignol på et meget primitivt stadium som krever bruk av mange lettpåvirkelige mennesker i tillegg, men det er da en begynnelse.