Snäll?

Snällhet är veckans tema (eller förra veckans – jag ligger nog lite efter). Det är Pettas-Karin som står för vecko-temaförslagen i januari.

Jag blev påmind om temat i går kväll när jag tittade på TV-programmet Idévärlden, som leds av Daniel Sjölin, han som brukade vara så bra i bokprogrammet Babel.

Temat var artificiell intelligens och handlade mycket om hur pass mycket man kan lite på robotar i framtiden. Kan man programmera dem så att de inte blir onda? Kan man programmera in snällhet? Hur förvissar man sig om att snällheten inte blir sin motsats?

Om roboten är programmerad för att lära sig reagera på människors reaktioner kan det ju bli riktigt krångligt. En städrobot som ser att ”husse” inte gillar brev från vissa avsändare, typ räkningar, lär sig att stoppa undan dem. Eller en annan robot som märker att hennes människor gillar sprit, som ser till att förse dem med det i stora mängder. Snällt? Nej, knappast.

Eller som roboten Jinx i filmen SpaceCamp. Han har hittat en kompis, Max, som är tolv år och har fått följa med lite äldre tonåringar till en rymdstation nära Cape Canaveral. Jinx är som robotar brukar vara, vilket innebär att han tar allt bokstavligt. När Max råkar illa ut utbrister han att han önskar att han var uppe i rymden i stället. Och snälla roboten Jinx gör att för att fixa det. Visserligen i en knappt rymdduglig farkost och visserligen med en massa komplikationer, men han menade ju bara väl, Jinx.

Det blev ett spännnande program (finns på SVT Play) om vad vi ska tänka på innan det är för sent. Och om vad snällhet är och vad god moral kan innebära. Lätt är det inte, men viktigt att fundera på och diskutera med andra människor. Och kanske med robotar också, vad det lider.

Max Gustavsson illustrerar TV-programmet Idévärlden.

Övriga temabloggare finns här: Anki,  Anna, Byfånen, Matfreaket,  Livsrummet, Olgakatt, Pensionären på ön (pausar i höst?), Ulla-Minnatur, Tove, Ingrid Musikanta, Pettas Karin, Yvonne, och Paula

 

Det här inlägget postades i Att tolka, Debatt, Livet, Lördagstema och har märkts med etiketterna , , , . Bokmärk permalänken.

10 kommentarer till Snäll?

  1. kicki skriver:

    Missriktad tjänstvillighet har vi väl alla drabbats av. Jag är rätt duktig på det tror jag.
    ”Vad rätt du tänkt, fast det blev fel” vem skrev det, och fanns det en fortsättning som i originalet?

    • Karin skriver:

      Andemeningen är ju egentligen densamma i Hasselskogs dikt (som i Rydbergs mer pompösa):

      Ja, fram ock du, som fått till börda
      en, andligt sett, mer blygsam del,
      och vet, att även du skall skörda
      vad rätt du tänkt, fast det vart fel.

      Saliga äro de enfaldiga, typ.

  2. Karin Eklund skriver:

    En snäll robot skulle inte vara helt fel att ha här hemma någonstans. Men bara en snäll…
    och om det på något sätt blir fel finns det säkert en Off-knapp på den.

    • Karin skriver:

      Det är inte alldeles säkert att det finns en off-knapp… Eller så här: programmet handlade om artificiell intelligens och har vi väl börjar programmera robotar som också lär sig programmera finns det en risk att dom ”tänker” även på den detaljen och eftersom dom alltid maximerar nyttan kommer en av de första åtgärderna att vara att se till att de inte kan bli avstängda.

      Alldeles på allvar satt några professorer och diskuterade hur man skyddar sig mot att robotarna tar över och att det inte är så lätt att framställa bara ”snälla” robotar.

  3. Olgakatt skriver:

    Skulle en robot kunna programmera sig själv att bli egennyttig, t ex att inte ha nån avstängningsknapp? Eller vore det egennyttigt för roboten att få vila ibland, t ex för att ladda batterierna? Är det alltid snällt att uppfylla ”husses” önskningar; det är ju inte snällt att uppfylla barns alla önskningar, det kan ju gå illa. Kan AI förutsäga när det riskerar att gå illa?
    Frågorna är nog fler än svaren.
    Men jag skulle gärna ha en lydig, snäll robot som inte tänker för mycket själv.

    • Karin skriver:

      Ja, det går tydligen att lära datorerna en hel del. Som när man (människan) inte längre klarade att förfina programmeringen för schackdatorer, utan var tvungen att låta dem spela mot varandra för att utveckla dem ytterligare. Jag tyckte en av forskarna i programmet häromdagen var klok när han sa att vi har ingen aning om varthän det kan barka, eller när. Så det är bäst att vi ägnar lite tid åt att fundera nu på hur vi skyddar oss mot korkade men välmenande datorer, eller sådana med felprogrammeringar som kan bli ödesdigra.

      Jag tror inte att man diskuterade HAL i programmet, men det hade legat nära till hands. HAL, (om man flyttar fram ett steg i alfabetet får man IBM) var datorn i boken och filmen 2001 – En rymdodyssé, en läraktig, men icke omprogrammerbar dator som fångade upp allt som hände mellan människorna på rymdskeppet och som till följd av det blev galen och destruktiv.

  4. Anki skriver:

    Spännande … missade programmet, men ska ta reda på det. Lite skrämmande med robotar – de är förstås bra i industrin, men känns lite läskiga inom t.ex. vården.

    • Karin skriver:

      Bra på rätt område, problematiska på andra. Ta bara självkörande bilar och vad som krävs för att de inte ska göra något dumt!

  5. Musikanta skriver:

    Förmodligen kommer jag själv aldrig att uppleva tiden när robotarna blir fler och tar över massor av jobb så folk blir arbetslösa. Men tänker på mina stackars barnbarn som kanske kommer att leva i en sådan värld. Men några känslor tror jag aldrig man kommer att kunna programmera robotorna med i vilket fall som helst.

    • Karin skriver:

      Man skulle önska att en robotrik värld skulle göra det möjligt för människorna att ägna sig åt det de tycker är roligt i större utsträckning än i dag. Två timmars arbetsdag, kanske, och så gör man vad man vill sedan. Någon (eller några) har föreslagit skatt på robotar: Om en fabrik säger upp 100 arbetare och låter robotar göra jobbet i stället, lägger man en produktionsskatt på robotarna och använda pengarna till fler lärare, läkare, mer folk inom hemtjänsten och så vidare.

Kommentera

E-postadressen publiceras inte. Obligatoriska fält är märkta *