Teknologi, menneske, samfunn
Tenk! kap. 13 · Forelesning 7
Kjernen
Teknologi er tosidig: den gir muligheter (ChatGPT, digitalisering, velferdsteknologi), men har også verdimessige følger som unnslipper vår kontroll. Derfor blir teknologiske valg samtidig samfunnsvalg. Tre teknologisyn: instrumentalisme (teknologi er nøytrale verktøy vi styrer), determinisme (teknologien legger premissene) og det relasjonelle synet (teknologi og mennesker former hverandre gjensidig). Teknologi inngår i sosiotekniske nettverk som gjør den vanskelig å regulere, og vi kan ikke bedømme morgendagens teknologi sikkert med dagens normer. Løsningen er teknologibevissthet.
Tre teknologisyn
Instrumentalisme
Menneske
Teknologi
Vi styrer nøytrale verktøy. Bruken avgjør.
Determinisme
Menneske
Teknologi
Teknologien legger premissene. Verdiladet.
Relasjonelt syn
Menneske
Teknologi
Vi former teknologien, og den former oss.
Nøkkelbegreper
- Teknologi
- Fra technê (ferdighet til å fremstille noe, Aristoteles) + logos (kunnskap): «kunnskap om produksjon». I dagligtale konkrete gjenstander. Boken definerer ikke begrepet, men ser på hvordan teknologi former forholdet vårt til verden (Ihde, Verbeek).
- Teknologiens tosidighet
- Teknologier gir positive muligheter, men har verdimessige følger som unnslipper vår fulle kontroll. Eks.: digitalisering gjør tjenester enklere, men krever utstyr og kompetanse og kan skape digitalt utenforskap.
- Teknologisk instrumentalisme
- Teknologi er rene, verdinøytrale instrumenter. Bruken avgjør om den er god eller dårlig (hammeren: spiker eller hode). Vi styrer utviklingen med politiske, etiske, juridiske og økonomiske virkemidler (Pitt). Heidegger: «den instrumentale og antropologiske bestemmelsen av teknikken».
- Teknologisk determinisme
- Teknologien legger i større eller mindre grad premissene for samfunnsutviklingen; vi reagerer heller enn å agere (atomteknologien formet politikken etter 1940). Kan være dystopisk eller optimistisk. Teknologi er verdiladet.
- Relasjonelt teknologisyn
- (Ihde, Latour, Barad) Avviser det skarpe skillet mellom menneske og teknologi som begge ismene bygger på. Vi former teknologien, og den former oss. Teknologi er verdiladet, men verdien av en handling skyldes samspillet. Vi kan ikke si noe generelt; hver teknologi må undersøkes i sin kontekst (Verbeek).
- Teknologiens verdiladethet
- Teknologi gjør noe lettere, mer attraktivt eller mulig, og stiller krav til bruken. En trapp lar oss bygge i flere etasjer, men forutsetter fungerende bein (Morrow).
- Kyborg (Haraway)
- Skillet mellom det menneskelige og det teknologiske er ubestemmelig. Vi kan være 100 % biologiske og likevel kyborger, fordi livet vårt er sammenfiltret med teknologi fra fødselen.
- Skråplansargument
- «Tillater vi A, fører det til uønsket B.» Problematisk fordi B sjelden følger nødvendig av A. Platon om skrift, kritikk av ChatGPT og Turkle om sosiale medier kan ta denne formen.
- Sosioteknisk nettverk
- Nettverket av økonomiske og sosiale aktører rundt et produkt eller en tjeneste (bil: veier, politi, kjøreskoler, verksteder, lover, avgifter, arbeidsplasser). Gir gjensidig avhengighet som gjør regulering vanskelig (Collingridge). Påvirkningen fra teknologien kan være sterk (olje og gass, digitalisering) eller svak.
- Kunstig intelligens
- Informasjonsteknologi som utfører regelstyrte oppgaver vi vanligvis tenker krever kognitiv innsats. Reglene kan være programmert eller lært gjennom maskinlæring (Coeckelbergh).
- Teknologibevissthet
- Kunnskap om hvordan teknologi påvirker oss som individer og samfunnsstrukturer. Teknologi kan forme, men ikke bestemme. Gjelder politikere, utviklere (samfunnsansvar) og alle brukere: «Vi trenger alle å bli mer kritiske teknologibrukere, ellers risikerer vi å bli teknologibrukte.»
- Transhumanisme (forelesning)
- Ideologi om å bruke teknologi til å forbedre menneskets fysiske og mentale egenskaper.
Teorier og poenger
Mennesket og teknologien
Gehlen: uten teknologi hadde vi ikke overlevd. Teknologi forsterker (hammer), avlaster (løfterobot) og erstatter (ansiktsgjenkjenning) våre evner. Stiegler: det er ikke mennesket som har funnet opp teknologien, men omvendt; teknologi overfører kultur mellom generasjoner, og vi drives av teknologisk mer enn biologisk evolusjon.
Bør vi frykte teknologien? Kan vi bedømme den i dag?
Platon (Faidros): kong Thamus mente skriften ville svekke hukommelsen. Turkle: sosiale medier gir vennskap uten friksjon, men det er en illusjon; som tobakk og Coca-Cola ser vi skadene først senere. Innvendinger: slike argumenter blir lett skråplansargumenter, og de bedømmer morgendagen med dagens verdier. Skriften opphevet Platons ideal. Likevel er realistiske fremtidsscenarioer nyttige for å diskutere hva vi vil med teknologien (Swierstra).
Determinisme: optimistisk og dystopisk
Marx (optimistisk): teknologien former økonomien og dermed hele samfunnet; i arbeidernes hender kan den frigjøre. Heidegger (dystopisk): moderne teknologi gjør at vi ser alt som ressurser. Det moderne vannkraftverket «overmanner» elva, og vindkraft på Fosen måles i CO2, ikke i naturens egenverdi eller samiske rettigheter. Jaspers: industriell masseproduksjon gir forbrukersamfunn og fremmedgjøring. Men motbevegelser (reparasjon, REKO-ringer) viser at vi ikke uten videre underkaster oss.
Kan en bro være rasistisk? (Winner)
«Technologies have politics.» Robert Moses bygde lave broer over veiene til Jones Beach, slik at busser, som fattige og fargede var avhengige av, ikke kom frem. Analysen er kanskje ensidig, men poenget står: teknologier har verdiladde følger, enten de er designet bevisst eller er bieffekter. Moses utnyttet nettopp verdiladetheten.
Uforutsette følger
Sparepærer i Nederland økte strømforbruket fordi folk lyste opp flere rom. Viagra ble utviklet mot høyt blodtrykk. Algoritmer (Netflix, Spotify) får oss til å spørre om vi styrer teknologien eller den oss.
Etiske utfordringer med KI
Noë: KI er regelstyrt informasjonsbehandling; en klokke holder tiden, men vet ikke hva klokken er. Utfordringer: skjeve data (Tay ble rasistisk, bildegjenkjenning bommer oftere på kvinner og fargede, risikoalgoritmen i amerikansk rettsvesen vurderte Borden og Prater ulikt etter hudfarge), falske nyheter, ansiktsgjenkjenning for overvåking av uigurer, autonome våpen (hvem har ansvaret?), filterbobler, tillit (Watson Oncology foreslo dødelige behandlinger), personvern og gratis arbeid (CAPTCHA).
Bruk i caseoppgaven
Typisk case: ny teknologi (KI, selvkjørende biler, digitalisering, vindkraft).
- Hva er tosidigheten: muligheter og risikoer?
- Hva ville instrumentalisten, deterministen og det relasjonelle synet sagt?
- Hvilke verdier er bygd inn, og hvem rammes (Winner)?
- Hvilket sosioteknisk nettverk inngår den i?
- Hva krever teknologibevissthet av utviklere, politikere og brukere?
Typiske eksamensspørsmål
- Gjør rede for teknologisk instrumentalisme, determinisme og det relasjonelle synet.
- Hva menes med teknologiens tosidighet og verdiladethet? Gi eksempler.
- Er teknologi verdinøytral? Bruk Winners broer.
- Hva er et sosioteknisk nettverk, og hvorfor gjør det regulering vanskelig?
- Hvorfor er det vanskelig å bedømme morgendagens teknologi ut fra dagens normer?
- Hva er et skråplansargument, og hvorfor er det problematisk?
- Drøft noen etiske utfordringer ved kunstig intelligens.
- Hva er teknologibevissthet, og hvem har ansvar for den?