Pensum · Del 3: Natur-, menneske- og teknologisyn

Teknologi, menneske, samfunn

Tenk! kap. 13 · Forelesning 7

Kjernen

Teknologi er tosidig: den gir muligheter (ChatGPT, digitalisering, velferdsteknologi), men har også verdimessige følger som unnslipper vår kontroll. Derfor blir teknologiske valg samtidig samfunnsvalg. Tre teknologisyn: instrumentalisme (teknologi er nøytrale verktøy vi styrer), determinisme (teknologien legger premissene) og det relasjonelle synet (teknologi og mennesker former hverandre gjensidig). Teknologi inngår i sosiotekniske nettverk som gjør den vanskelig å regulere, og vi kan ikke bedømme morgendagens teknologi sikkert med dagens normer. Løsningen er teknologibevissthet.

Tre teknologisyn

Instrumentalisme

Menneske
Teknologi

Vi styrer nøytrale verktøy. Bruken avgjør.

Determinisme

Menneske
Teknologi

Teknologien legger premissene. Verdiladet.

Relasjonelt syn

Menneske
Teknologi

Vi former teknologien, og den former oss.

Boka konkluderer med at teknologi kan forme, men ikke bestemme, og at vi trenger teknologibevissthet.

Nøkkelbegreper

Teknologi
Fra technê (ferdighet til å fremstille noe, Aristoteles) + logos (kunnskap): «kunnskap om produksjon». I dagligtale konkrete gjenstander. Boken definerer ikke begrepet, men ser på hvordan teknologi former forholdet vårt til verden (Ihde, Verbeek).
Teknologiens tosidighet
Teknologier gir positive muligheter, men har verdimessige følger som unnslipper vår fulle kontroll. Eks.: digitalisering gjør tjenester enklere, men krever utstyr og kompetanse og kan skape digitalt utenforskap.
Teknologisk instrumentalisme
Teknologi er rene, verdinøytrale instrumenter. Bruken avgjør om den er god eller dårlig (hammeren: spiker eller hode). Vi styrer utviklingen med politiske, etiske, juridiske og økonomiske virkemidler (Pitt). Heidegger: «den instrumentale og antropologiske bestemmelsen av teknikken».
Teknologisk determinisme
Teknologien legger i større eller mindre grad premissene for samfunnsutviklingen; vi reagerer heller enn å agere (atomteknologien formet politikken etter 1940). Kan være dystopisk eller optimistisk. Teknologi er verdiladet.
Relasjonelt teknologisyn
(Ihde, Latour, Barad) Avviser det skarpe skillet mellom menneske og teknologi som begge ismene bygger på. Vi former teknologien, og den former oss. Teknologi er verdiladet, men verdien av en handling skyldes samspillet. Vi kan ikke si noe generelt; hver teknologi må undersøkes i sin kontekst (Verbeek).
Teknologiens verdiladethet
Teknologi gjør noe lettere, mer attraktivt eller mulig, og stiller krav til bruken. En trapp lar oss bygge i flere etasjer, men forutsetter fungerende bein (Morrow).
Kyborg (Haraway)
Skillet mellom det menneskelige og det teknologiske er ubestemmelig. Vi kan være 100 % biologiske og likevel kyborger, fordi livet vårt er sammenfiltret med teknologi fra fødselen.
Skråplansargument
«Tillater vi A, fører det til uønsket B.» Problematisk fordi B sjelden følger nødvendig av A. Platon om skrift, kritikk av ChatGPT og Turkle om sosiale medier kan ta denne formen.
Sosioteknisk nettverk
Nettverket av økonomiske og sosiale aktører rundt et produkt eller en tjeneste (bil: veier, politi, kjøreskoler, verksteder, lover, avgifter, arbeidsplasser). Gir gjensidig avhengighet som gjør regulering vanskelig (Collingridge). Påvirkningen fra teknologien kan være sterk (olje og gass, digitalisering) eller svak.
Kunstig intelligens
Informasjonsteknologi som utfører regelstyrte oppgaver vi vanligvis tenker krever kognitiv innsats. Reglene kan være programmert eller lært gjennom maskinlæring (Coeckelbergh).
Teknologibevissthet
Kunnskap om hvordan teknologi påvirker oss som individer og samfunnsstrukturer. Teknologi kan forme, men ikke bestemme. Gjelder politikere, utviklere (samfunnsansvar) og alle brukere: «Vi trenger alle å bli mer kritiske teknologibrukere, ellers risikerer vi å bli teknologibrukte.»
Transhumanisme (forelesning)
Ideologi om å bruke teknologi til å forbedre menneskets fysiske og mentale egenskaper.

Teorier og poenger

Mennesket og teknologien

Gehlen: uten teknologi hadde vi ikke overlevd. Teknologi forsterker (hammer), avlaster (løfterobot) og erstatter (ansiktsgjenkjenning) våre evner. Stiegler: det er ikke mennesket som har funnet opp teknologien, men omvendt; teknologi overfører kultur mellom generasjoner, og vi drives av teknologisk mer enn biologisk evolusjon.

Bør vi frykte teknologien? Kan vi bedømme den i dag?

Platon (Faidros): kong Thamus mente skriften ville svekke hukommelsen. Turkle: sosiale medier gir vennskap uten friksjon, men det er en illusjon; som tobakk og Coca-Cola ser vi skadene først senere. Innvendinger: slike argumenter blir lett skråplansargumenter, og de bedømmer morgendagen med dagens verdier. Skriften opphevet Platons ideal. Likevel er realistiske fremtidsscenarioer nyttige for å diskutere hva vi vil med teknologien (Swierstra).

Determinisme: optimistisk og dystopisk

Marx (optimistisk): teknologien former økonomien og dermed hele samfunnet; i arbeidernes hender kan den frigjøre. Heidegger (dystopisk): moderne teknologi gjør at vi ser alt som ressurser. Det moderne vannkraftverket «overmanner» elva, og vindkraft på Fosen måles i CO2, ikke i naturens egenverdi eller samiske rettigheter. Jaspers: industriell masseproduksjon gir forbrukersamfunn og fremmedgjøring. Men motbevegelser (reparasjon, REKO-ringer) viser at vi ikke uten videre underkaster oss.

Kan en bro være rasistisk? (Winner)

«Technologies have politics.» Robert Moses bygde lave broer over veiene til Jones Beach, slik at busser, som fattige og fargede var avhengige av, ikke kom frem. Analysen er kanskje ensidig, men poenget står: teknologier har verdiladde følger, enten de er designet bevisst eller er bieffekter. Moses utnyttet nettopp verdiladetheten.

Uforutsette følger

Sparepærer i Nederland økte strømforbruket fordi folk lyste opp flere rom. Viagra ble utviklet mot høyt blodtrykk. Algoritmer (Netflix, Spotify) får oss til å spørre om vi styrer teknologien eller den oss.

Etiske utfordringer med KI

Noë: KI er regelstyrt informasjonsbehandling; en klokke holder tiden, men vet ikke hva klokken er. Utfordringer: skjeve data (Tay ble rasistisk, bildegjenkjenning bommer oftere på kvinner og fargede, risikoalgoritmen i amerikansk rettsvesen vurderte Borden og Prater ulikt etter hudfarge), falske nyheter, ansiktsgjenkjenning for overvåking av uigurer, autonome våpen (hvem har ansvaret?), filterbobler, tillit (Watson Oncology foreslo dødelige behandlinger), personvern og gratis arbeid (CAPTCHA).

Bruk i caseoppgaven

Typisk case: ny teknologi (KI, selvkjørende biler, digitalisering, vindkraft).
  1. Hva er tosidigheten: muligheter og risikoer?
  2. Hva ville instrumentalisten, deterministen og det relasjonelle synet sagt?
  3. Hvilke verdier er bygd inn, og hvem rammes (Winner)?
  4. Hvilket sosioteknisk nettverk inngår den i?
  5. Hva krever teknologibevissthet av utviklere, politikere og brukere?

Typiske eksamensspørsmål

  • Gjør rede for teknologisk instrumentalisme, determinisme og det relasjonelle synet.
  • Hva menes med teknologiens tosidighet og verdiladethet? Gi eksempler.
  • Er teknologi verdinøytral? Bruk Winners broer.
  • Hva er et sosioteknisk nettverk, og hvorfor gjør det regulering vanskelig?
  • Hvorfor er det vanskelig å bedømme morgendagens teknologi ut fra dagens normer?
  • Hva er et skråplansargument, og hvorfor er det problematisk?
  • Drøft noen etiske utfordringer ved kunstig intelligens.
  • Hva er teknologibevissthet, og hvem har ansvar for den?