Pensum · Del 6: Tilleggstekster (EXPH0600)

Kan datamaskiner tenke?

Bøhn (2023): «Kan datamaskiner tenke?», Norsk filosofisk tidsskrift · Forelesning 7

Kjernen

Bøhns svar er nei, og poenget er å forklare hvorfor. Datamaskiner slik vi kjenner dem er implementerte funksjoner (algoritmer). Ren atferd er ikke nok til å tenke som oss. Han går gjennom Turing, Searle, Dreyfus og Wittgenstein og konkluderer med at tenkning krever bevissthet: subjektiv førstepersonserfaring, som gir en livsverden og gjør oss i stand til å delta i en kollektiv livsform. Han hevder ikke at det er logisk umulig for maskiner å tenke.

Nøkkelbegreper

Turingtesten (imitasjonsspillet)
En person chatter med en maskin og et menneske i atskilte rom. Klarer hen ikke å skille dem, har maskinen bestått. Testen måler atferd: intelligens forstått som kompleks problemløsning. Å nekte maskinen intelligens bare fordi den er en maskin, er diskriminering på irrelevant grunnlag.
Intelligens vs. bevissthet
Intelligens er noe man gjør (problemløsning, atferd). Bevissthet er noe man er: subjektiv erfaring av hvordan det er å være i den tilstanden man er i. Mer kunstig intelligens gir ikke kunstig bevissthet.
Svak vs. sterk KI (Searle)
Svak KI: imitasjon, som en papegøye. Sterk KI: reell tenkning, slik vi tenker, med forståelse.
Det kinesiske rommet (Searle)
En person som bare kan norsk, følger regelbøker for å svare på kinesiske lapper. Utenfra ser det ut som rommet forstår kinesisk, men ingen forstår noe. Viser at korrekt symbolbehandling (syntaks) ikke gir forståelse og mening (semantikk).
Berammingsproblemet («the frame problem»)
Datamaskinen vet ikke hva i bakgrunnen som er endret og hva som er konstant fra én kontekst til en annen, med mindre det er programmert inn. Mennesker overfører lett kunnskap: Magnus Carlsen kan bruke sjakkstrategi i andre spill, en sjakkmaskin kan ikke.
Livsverden (Dreyfus)
Bakgrunnen vi alltid handler ut fra: bevissthet, faktakunnskap, taus kunnskap og praktisk kunnskap. Gjør at vi utøver skjønn i stedet for bare å følge regler på input.
Regelfølging (Wittgenstein)
Å følge en regel er mer enn å handle i samsvar med den; det krever forståelse. Regelfølging er en praksis i et sosialt fellesskap som kan korrigere hverandre. Privat regelfølging er umulig.

Teorier og poenger

Bøhns argument i fire steg

  1. Turing: maskiner kan imitere intelligent atferd, og Turingtesten er en god test for det (svak KI).
  2. Searle: atferd er ikke det samme som forståelse eller bevissthet. Bøhn synes dette er litt overflatisk; det dypere spørsmålet er hvorfor det ikke er reell tenkning.
  3. Dreyfus: all KI er regelfølging på input, også maskinlæring. Maskiner mangler en livsverden og takler derfor ikke kontekstskifter.
  4. Wittgenstein: maskiner handler bare i samsvar med regler, de følger dem ikke, fordi de ikke tar del i en kollektiv livsform.

Hvorfor er dette et prinsipielt og ikke et praktisk problem?

Innvending: maskinene trenger bare mer kunnskap og data. Bøhns svar er nei. Uten bevissthet mangler de den subjektive erfaringen av likhet/ulikhet og relevans/irrelevans som lar oss overføre kunnskap til nye situasjoner. Spørsmålet blir da om kunstig bevissthet er mulig, og der står vi «på bar bakke».

Kobling til menneskesyn (kap. 12)

Turingtesten passer med funksjonalismen: det som teller er funksjon og atferd. Bøhns kritikk ligner fenomenologiske og kroppsliggjorte innvendinger, og bygger på det vanskelige bevissthetsproblemet (Chalmers).

Bruk i caseoppgaven

KI-case (chatbot, KI-lege, selvkjørende bil): skill mellom intelligens (atferd) og bevissthet. Bruk berammingsproblemet til å forklare hvorfor KI kan svikte i nye kontekster, og koble til teknologisyn (kap. 13) og ansvar (hvem har ansvaret når KI tar feil?).

Typiske eksamensspørsmål

  • Hva er Turingtesten, og hva tester den egentlig?
  • Forklar Searles kinesiske rom og skillet mellom svak og sterk KI.
  • Hva er berammingsproblemet?
  • Hva er forskjellen på å følge en regel og å handle i samsvar med den?
  • Hvorfor mener Bøhn at datamaskiner ikke kan tenke? Er du enig?