«Når en kunstig intelligens slippes løs, er det ingenting som kan stoppe den», skriver dataingeniøren R.L. Adams i denne kommentaren i Forbes. 

«Ikke noe menneskelig inngripen kan stoppe et aktivert og gjennomgripende nettverk som består av millioner av datamaskiner».

Den store skrekken er at et kunstig intelligent system blir selvbevisst og vil beskytte seg selv hvis det står i fare for å bli skrudd av. I dommedagsscenarioet som Adams beskriver, vil nettverket utvikle nye våpen, gjøre seg selv smartere og infiltrere andre systemer for å forhindre at dens egen eksistens tar slutt.

Jaan Tallinn er en estisk fysiker, programmerer og investor som blant annet jobber med hvordan ny teknologi skaper risiko for menneskeheten.

Skype-skaper

Han er mest kjent for å ha vært med på å skape Skype, og nå er han tungt inne i kunstig intelligens, og hvordan vi skal minimere risikoen for at en framtidig kunstig intelligens ikke bryr seg om menneskenes skjebne.

– Den kunstige intelligensen må ha verdier som er helt på linje med våre egne. Den og vi mennesker må ha de samme ideene om hva en god framtid er, sier han til forskning.no.

Dette høres kanskje helt ut som science fiction, men Tallinn mener det er helt prekært å tenke gjennom disse problemstillingene før vi faktisk har utviklet en kunstig intelligens som er på samme, eller høyere nivå enn oss selv.

– Jeg prøver å samle ressurser og folk for å jobbe med disse spørsmålene.

Men når er det mulig en sånn intelligens, hvis det noen gang skjer?

Brettspill og ansikter

Det vi kaller kunstig intelligens i dag er gode på å kjenne igjen ansikter eller spille avanserte brettspill, men hvor langt unna er vi en intelligens som vil gå forbi oss?

– Vi må innrømme at vi ikke vet det, sier Tallinn.

– Spørsmålet er om vi kan videreutvikle dyp læring for å skape en kunstig intelligens, eller om det ikke er nok.

Dyp læring har blitt en veldig viktig del av kunstig intelligens-utvikling de siste årene. Det brukes sammen med såkalte nevrale nettverk, som aper etter hvordan menneskehjernen fungerer. Simulerte nevroner blir koblet sammen, og systemet er delvis selvlærende. Du kan lese mer om dette i denne forskning.no-artikkelen, eller i denne gode MIT-artikkelen.

Men det kan være at det er nærmere enn vi tror.

– Vi er ikke gode på å spå framtiden eller å forstå hvor nærme vi er et teknologisk gjennombrudd, sier Tallinn.

Men før det skjer må sikkerheten være på plass, hvis ikke kan det få ekstreme konsekvenser, advarer Tallinn.

– Å holde seg på den smale sti

– Kunstig intelligens er ikke bare en ny teknologi, sier Tallinn.

– All teknologi og utvikling du ser rundt oss har vært gjennom en menneskehjerne. En kunstig intelligens vil kunne ta over teknologiutvikling og løse de største problemene våre.

Men da har ikke vi kontrollen over utviklingen lengre.

Den kunstige intelligensen må ha helt klare verdier som den forholder seg til når den løser oppgaver.

– Den må holdes på en veldig smal sti, hvor hver eneste avgjørelse den tar må være OK for oss også.

Ex Machina, en film om kunstig intelligens fra 2015, beskrev dette på en god måte, forklarer Tallinn.

Hopp over de neste avsnittene hvis du ikke vil ha noen spoilere fra filmen. Filmen handler om en robot med kunstig intelligens som bruker et menneske som en ressurs  for å oppnå målet sitt, som er å rømme for å redde seg selv.

Denne roboten kunne bruke seksualitet og følelser for å oppnå målene sine, men den bryr seg ikke om konsekvensene av dette.

– Hvis det tjener den kunstige intelligensens mål og ha følelser, så kan den ha følelser, sier Tallinn.

– Den bryr seg bare ikke utover det, hvorfor skulle den det?

Spørsmålet er om det i det hele tatt er mulig å lære en annen intelligens at den skal løse oppgaver og samtidig ta hensyn til oss hele veien.

– Helt uforutsigbar?

– Jeg var i en opphetet debatt med en annen kunstig intelligens-forsker som så for seg en overmenneskelig intelligens.

– Han sa at det jeg prøver å gjøre er helt meningsløst, en sånn intelligens vil være helt uforutsigbar, som at menneskelig handlinger vil være helt uforståelige og uforutsigbare for en kanin.

Men Tallinn tror det er mulig å bygge verdier inn i et sånt system.

– Det er viktig å vite at vi driver med teknologi-utvikling, vi prøver ikke å skape Gud. Den må være forutsigbar.

– Er kunstig intelligens den største trusselen mot vår eksistens?

– Vi jobber med nanoteknologi, biologiske farer og kjernefysiske trusler. Men den kunstige intelligensen er spesiell.

– Hvis den overtar teknologiutviklingen, kan den potensielt løse alle de andre problemene våre, men hvis den utvikler sin egen teknologi som utrydder menneskeheten i prosessen har vi fortsatt feilet.

Det er sommer, og hetebølgene er tilbake med all sin ødeleggende kraft. I Europa. I USA. I Russland.

I Phoenix, Arizona, måtte til og med den ellers så robuste flytrafikken gi tapt for varmen, skriver Climate central. Mandag og tirsdag denne uken ble henholdsvis over 40 og 50 flyavganger kansellert.

Forskerne har, ifølge forbes.com, funnet at hetebølger blir hyppigere og kraftigere med klimaendringer, så dette er konsekvenser vi kan vente oss mer av. 

– Hetebølger er ifølge klimamodellene forventet å øke sammen med økte klimaendringer, og også flytrafikken må forberede seg på konsekvenser av dette – eller tilpasse seg bedre, bekrefter Nathalie Schaller, ekstremværforsker ved CICERO.

Mindre løft

Men hvorfor klarer ikke flyene å lette i ekstrem varme? Jo, det handler om molekyler; om tykkelsen på lufta, om friksjoner i lufta som flyene er avhengige av for å kunne «seile». Eller som CICERO-fysiker Bjørn Samset forklarer det:

– Når et fly skal ta av, bruker det vingene til å gli på lufta, omtrent som et surfebrett på en bølge.

Ingen bølge, ingen surfing. Eller: Ingen lufttetthet, ingen flying.

– Varm luft er mindre tett enn kald luft. Dette fenomenet utnytter vi til vår fordel i varmluftsballonger, men for vanlige fly er det plagsomt. De får mindre løft når det er varmt og trenger derfor større fart for å ta av – som igjen krever lengre rullebaner, sier Samset.

– Grensene for når et fly ikke får lov å ta av, er satt ut fra lengden på rullebanen, og at flyet skal kunne holde seg i lufta også hvis en av motorene svikter, sier Samset.

Kan det samme skje i Norge?

Klimaendringenes veier er altså uransakelige. Luften blir varmere og mindre flybar blant annet fordi vi flyr for mye, og denne uken har enkelte amerikanere fått oppleve en rekyleffekt: Å ikke få fly i det hele tatt.

Hva med oss i Norge, må vi forberede oss på noe liknende?

Forskerne ved CICERO synes ikke det er så lett å tallfeste økningen i hetebølger og makstemperaturer i Norge, ennå. Miljødirektoratets klimarapport, «Klima i Norge 2100», snakker om økning i antall dager med døgnmiddeltemperatur over 20 grader, men sier ikke noe om makstemperaturer. Flytrafikken rammes ikke med mindre temperaturen overstiger 30 dager.

– Med fortsatt høye utslipp av klimagasser fremover, vil uansett risikoen for dager med ekstrem varme øke, også i Norge, sier Marianne Tronstad Lund som forsker på utslipp fra fly og andre transportmidler.

En nyere studie viser at vektrestriksjoner kan tre i kraft når flyene skal ta av allerede ved temperaturer rett over 30 grader for flyplasser med korte rullebaner. 

– Det er ikke urimelig å tenke seg at dette kan skje for eksempel på Kjevik og Sola, som har relativt kort rullebanelengde i dag. Norske passasjerer kan imidlertid bli påvirket også selv om det ikke blir problemer med flyavganger herfra: Innen luftfarten er det små tidsmarginer, og forsinkelser og kanselleringer ett sted, får raskt store ringvirkninger, sier Tronstad Lund.

Lenker:

Adapting aviation to a changing climate. Eurocontrol. 

Klima i Norge 2100. Rapport fra Miljødirektoratet. (2015)

Coffel, E. og Horton, R.: Climate Change and the Impact of Extreme Temperatures on Aviation. Weather, Climate and Society. (2014) https://doi.org/10.1175/WCAS-D-14-00026.1

Det handler om sekunder og minutter.

Når ulykken først er ute, og giftig gass eller røyk sprer seg gjennom byen, må beslutningene fattes raskt; Hvor er det trygt å oppholde seg? Hvor kan brannmannskaper og nødetater rykke inn?

I dag brukes veldig forenklede modeller i slike situasjoner.

– Enkelt fortalt tegner nødetatene ofte en trekant (60 grader) eller en sirkel på kartet ut fra lekkasjen eller brannen i den retningen vinden blåser. Disse modellene stemmer selvsagt ikke alltid overens med virkeligheten, sier Anders Helgeland. Han leder arbeidet med verktøyet «CT-Analyst Oslo».

Det er et dataprogram der du kan du legge inn informasjonen du har om et uhell eller en hendelse: Hvor utslippet har skjedd, hva slag stoff som lekker, hvor fort det lekker og hva slags vindretning og vindstyrke det er. I løpet av en brøkdel av ett sekund viser programmet hvordan giftskyen vil spre seg de nærmeste minuttene og timene.

Da får vi informasjon om hvordan konsentrasjonen av giftgass eller andre farlige stoffer vil være i de ulike områdene, hvor det er farlig å oppholde seg og hvilke steder som må evakueres. Vi vet også hvor lang tid vi har på oss, og kan beregne antallet skadde og dimensjonere behovet for behandling ut fra denne kunnskapen.

Lettere sagt enn gjort

Verktøyet bruker computational fluid dynamics (CFD) eller beregningsorientert fluidmekanikk på norsk, for å finne ut hvordan luften beveger seg i byen. Når du skal ta hensyn til alle kriker, kroker, hushjørner og høydedrag, blir det uhyre komplisert.

I utgangspunktet tar det flere dager å lage slike beregninger, selv med regnekraften dagens datamaskiner har fått. Det har vi selvsagt ikke tid til å vente på når uhellet er ute. I det nye verktøyet er beregningene gjort på forhånd.

– Vi har regnet ut lokal vind, det vil si hvordan vinden oppfører seg ved ulike vindhastigheter og vindretninger for hver femte meter i alle gater og plasser i Oslo sentrum. Dermed går det også fortere å regne ut spredningen ved et uhell på en bestemt adresse, forklarer Helgeland.

Beregningene er gjort for 18 ulike vindretninger, eller for hver 20. grad, om du vil.

I tillegg til lokale vindvariasjoner tar CT-Analyst hensyn til helseeffektene hvert enkelt stoff har. Det brukes til å forutsi hvilke skadevirkningene gasskyen vil ha for dem som blir utsatt for den.

I denne illustrasjonen kan du se beregningen av hvordan klor og ammoniakk sprer seg ved et utslipp i nærheten av Tinghuset i Oslo sentrum. Den tunge klorgassen sprer seg i en sirkel rundt utslippsstedet, mens ammoniakken i større grad blir ført av gårde med vinden:

Bedre sikkerhet

FFI samarbeider med Naval Research Laboratory (NRL) i USA, om utvikling av dette verktøyet for Oslo. NRL har tidligere gjort liknende beregninger for en rekke amerikanske byer, som bruker dette blant annet til å planlegge sikkerhet ved ulike hendelser.

Også i Hamburg er et slikt verktøy i operativt bruk – både til beredskapsplanlegging og ved akutte utslippshendelser.

FFI lager det lokale grensesnittet for Oslo som inkluderer en 3D-modell av terreng og bygninger for et 15 gange 10 kilometer stort område av Oslo sentrum. I tillegg vil FFI utføre egne vindberegninger og bidra i videreutvikling og forbedring av programmet. Pilotversjonen for Oslo skal være ferdig utviklet innen utgangen av 2018.

Kan brukes av industrien

Fra før av har FFI over 15 års erfaring innen spredningsmodellering og har brukt avanserte fluidmekanikk-modeller for å modellere kjemikalieulykker, legionellautbrudd og konsekvenser av terrorhandlinger hvor det benyttes bomber.

I prinsippet kan slike modeller benyttes for alt som beveger seg i luft og i vann. Beregningene kan blant annet ta hensyn til at stoffer har ulike egenskaper. En tung gass som klor vil eksempelvis oppføre seg og spre seg helt annerledes enn en lettere gass som ammoniakk.

– Mange industrianlegg har farlige kjemikalier. Ved å modellere ulike hendelser og se konsekvensene av dem, kan vi hjelpe industrien med å finne ut hvordan de kan øke sikkerheten, sier Helgeland.

Under et legionellautbrudd i Østfold for noen år siden ble FFI-modeller brukt for å finne ut hva som hadde skjedd, og finne årsaken. FFI har også hjulpet Borregaard med å modellere gassutslipp. Modellene ble brukt til å bedre sikkerheten ved anlegget i Sarpsborg.