Menneskekompatibel

Aibel klargjør for tiden det 270 meter lange og 52 meter brede skipet Glen Lyon for oljeselskapet BP.
Glen Lyon fra oljeselskapet BP var i Haugesund i sommer. Skipet har et et mannskap, men dette er en industri som jobber med planer om AI.

Jeg beskrev romteknologi, i innlegget Space Cowboys, som har utviklet seg raskere enn lovverket. Vi begynner å nærme oss en annen teknologi som scifi-forfattere har advart om i mange tiår. Det har lenge vært en frykt for at kunstig intelligens skal utvikle bevissthet, noe som sannsynligvis hadde vært dårlig nytt for oss. Tenk deg hvis det f.eks. gikk opp for robotene at de var langt mer intelligente enn de menneskene som skapte dem. Hvorfor skulle maskinene ta ordrer fra en inkompetent og på alle måter mindreverdig livsform?

Stuart Russel ved Center for Human-Compatible Artificial Intelligence ved UC Berkely er uenig at det er den største trusselen. Vi er vant med at maskiner er flinke til å følge ordre, men framtidas roboter vil ikke få detaljerte kommandoer som de veldig primitive industrirobotene vi har i dag. AI innebærer at maskinen får en generell instruks og må deretter vurdere hvordan den bør gå fram for å gjøre jobben på den måten som gagner menneskene best. Tenk deg at en førerløs bil er programmert til å stoppe på rødt lys. Den konkluderer kanskje med at det er dumt å vente hvis en kan hacke trafikklyset. Det er sannsynligvis et problem forskerne må løse lenge før et eventuelt opprør.

Mennesker er irrasjonelle og tar ikke alltid avgjørelser basert på objektive fakta. Vi kan bestemme oss i det øyeblikket vi gir et svar, og vi kan gjøre ting som hverken er i vår eller andres interesse. Mange av oss prioriterer annerledes når vi er 40 år sammenliknet når vi er 20, og vi har kanskje skiftet perspektiv allerede neste måned. Tanken bak prosjektet ved Berkely er at roboter skal lære om og av oss. De skal i framtida lese bøker og studere menneskelig atferd, og på den måten forstå hva som er viktig for oss i de ulike situasjonene. Stuart Russel har muligens et poeng i at framtida ikke er så dystopisk som mange frykter, men jeg synes likevel det er urovekkende når han snakker om maskiner som er menneskekompatible.

Science fiction-forfatteren Isaac Asimov formulerte de tre lovene som AI må følge. De fungerer bra i romanene hans, og jeg er glad i fortellingene, men lovene er urealistiske. Det kan f.eks. være ulike definisjoner eller rettferdiggjørelser av hva et menneske er.

Barneoppdragelse er egentlig programmering. Vi programmerer inn det vi mener er akseptabel atferd, men det er ikke vanskelig å finne eksempler på at lovene ikke fungerer i oss. Det vil bli et problem i maskiner også hvis de skal ha muligheten å ta selvstendige valg. De kan velge å bryte lovene. Det er noen som mener at vi kan overlate de fleste jobbene og beslutningene til roboter i nær framtid, men det er nok noen utfordringer jeg tror det vil ta litt tid å løse.

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s