Ingen grunn til panikk – vi har nemlig etikk! (Men hvorfor følger vi ikke retningslinjene?)

WandaSkrevet av Wanda Presthus,  Høyskolelektor og doktorgradsstipendiat, Norges Informasjonsteknologiske Høgskole. Tidligere publisert i NextBridges biblogg, 14.12.2012

Etter å ha undervist og forsket på Business Intelligence (BI) siden 2008 lurer jeg på noe. Hvor ble det av etikk, nærmere bestemt forretningsetikk? Når jeg nevner etikk for mine bachelorstudenter, er responsen som oftest glassaktige blikk. Det mumles noe om at de studerer IT, ikke filosofi. Jeg følger med på konferanser og journaler, og det er sjelden et pip om etikk. Interessen begrenser seg til hvordan kryptere og sikre datakilder mot korrupsjon og innbrudd. Etikk selger dårlig. Hvorfor er det slik? Skal vi bry oss? Er det i det hele tatt bryet verd å skrive en blogg om det?

Ja! Fordi: kombinasjonen av lett tilgjengelige data fra sosiale medier, mobilbruk, kortbruk, pluss moderne Business Intelligence verktøy skaper etiske problemer. Mer eller mindre ubekymret bruker vi Facebook, kredittkort, bomringbrikke, nettbutikker og kundelojalitetskort. Og bedriftene fråtser i våre data. De overvåker oss, kategoriserer oss og kommer med supre tilbud tilpasset hver og en av oss. Det å gjøre profitt, forenklet sagt enten ved å 1) øke inntekter ved å sende oss uimotståelig reklame, eller ved å 2) redusere kostnader ved å fokusere på lønnsomme kunder, er i seg selv ikke uetisk (Shultz et al, 1994). Det er *måten* det gjøres på som er diskutabel.

Her er fire eksempler. De to første er etiske problemer angående personvern, det vil si at du mister kontrollen over hva slags data andre har lagret om deg. De to siste adresserer individualitet, det vil si at du behandles ut i fra data om andres meritter, ikke dine egne. En konsekvens er stigmatisering av enkelte grupper som “alenemødre har dårlig økonomi”.

1. eksempel. Det sosiale mediet Facebook.

I april kunne vi lese i Dagens Næringsliv om en amerikansk jusstudent som forespurte Facebook om å få tilsendt all informasjon de hadde om han (Kibar, 2012). Jusstudenten hadde vært medlem i 2 år, hadde 234 venner og var ikke veldig aktiv. Etter en del purring, mottok han 1222 sider i posten. Her hadde Facebook lagret absolutt alt. Han fant igjen data han hadde slettet. Venneforespørsler han passivt ikke hadde akseptert. En liste over e-postadresser han aldri hadde oppgitt til Facebook. Hans egne ansiktstrekk. Turistløypen kjæresten hadde gått i Europa, hvor hun hadde lastet opp bilder via smarttelefonen sin. Artikkelforfatteren skriver lakonisk at selv Nazistene nøyde seg med 1000 sider informasjon av sine motstandere.

Hva er problemet – vi kan jo bare alle mase på Facebook, så får vi utlevert all informasjon om oss? Ulempen er at du får ikke slettet noe. Kanskje klikket du på noe ved en feil en gang, eller kanskje de festbildene blir mindre festlige når du er blitt edru.

2. eksempel. Dagligvarebutikken Target

Bruker du kort når du betaler i butikker, legger du også igjen data, som moderne BI verktøy kan omgjøre til forretningsnyttig informasjon. Slik kan butikker predikere hva du har lyst på før du selv vet det. En anekdote fra Target illustrerer (Hill, 2012). En mann gikk rasende inn butikken og viftet med en personlig reklamekupong: “Min datter fikk denne i posten! Dere mener hun skal kjøpe babyklær? Hun er sytten år og går på videregående. Prøver dere å oppfordre henne til å bli gravid?” Daglig leder beklaget, og ringte noen dager senere for å beklage på nytt. På det tidspunktet hadde datteren forklart at hun faktisk var gravid.

Det etiske problemet her er at man kan bli fristet til kjøp fordi reklamen er tilpasset oss.

3. eksempel. Nettbutikken Amazon

Noe av Amazons suksess skyldes blant annet anbefalinger: “Andre som har kjøpt denne boken før deg har også kjøpt disse bøkene”. Selv når du kjøper noe for første gang på Amazon vil den gi deg “personlige” anbefalinger. Senere vil den huske alt du har kjøpt, og bruke også denne informasjonen til anbefalinger. Så hva hvis du kjøper en bok om brudepiker, slik “Anne” gjorde til sin venninnes datter, som skulle i et bryllup? Andre kunder før Anne har da typisk kjøpt bøker om bryllupsfest, og så barnebøker (Laudon & Traver, 2007). Anne har for øyeblikket ingen bryllups- eller barneplaner, og null interesse av slike bøker. Derfor har Amazon gitt oss mulighet til å klikke på “Dette er en gave” og “Ikke bruk denne informasjonen for anbefalinger”.

Men hvor er: “Slett all informasjon om kjøp jeg har gjort”? Data kan bli solgt til en tredje part, men hva tjener du på det? For et par uker siden skrev Aftenposten om SAS’ Eurobonusprogram. Det vurderes å dele bonusprogrammet med Lufthansa (Dahl & Bruaset, 2012), Vips, så er alle kundedata i hendene på et annet selskap, i et annet land med andre markedsføringsregler.

4. eksempel. Forsikring

At forsikringsselskaper segmenterer sine kunder vet vi. I staten Georgia i USA betaler røykere høyere premie enn ikke-røyker (Turban et al, 2007). Vi godtar at “risikogrupper” betaler høyere premie, som er vanlig i bilforsikring. Det er da bare rett og rimelig at unge gutter, som statistisk sett havner i flere bilkollisjoner enn middelaldrende damer, skal betale mer. Eller at en som kjører en lekker luksusbil betaler mer enn jeg med min elleve år gamle Golf.

Problemet starter når forsikringsselskapene for eksempel kan spå at en person kommer til å utvikle sykdom eller bli ufør, basert på historiske data fra andre mennesker. Dette kan oppnås ved hjelp av BI verktøy som decision tree eller annen data mining. På denne måten kan en sunn og frisk person bli nektet både forsikring og jobb, fordi data om andre personer brukes til å spå denne personens fremtid. Og du kan havne i feil bås – Greit, min far røyker, men jeg er jo adoptert! – uten mulighet til å rette opp det gale datagrunnlaget.

Forretningsetikk og retningslinjer

Med forretningsetikk mener jeg situasjoner som kan oppstå selv om lovverket følges. Å bryte seg inn i konkurrentens lokaler er ulovlig, men ikke å rote igjennom printerutskrifter som kastes i søppeldunken på utsiden. Sistnevnte er pinlig hvis det blir kjent, men ikke ulovlig. Siden grensene imidlertid kan være uklare, har man laget Code of Ethics; et sett med retningslinjer (Rainer and Cegielski, 2011). I USA er den mest kjente fra the Association of Computing Machinery Code of Ethics and Professional Conduct. (ACM), og i Norge har vi The Norwegian Research Ethics Guidelines for Natural Science and Technology (NENT). Begge disse er lett tilgjengelige online.

Med spenning leste jeg igjennom ACMs og NENTs retningslinjer. Begge retningslinjer er sikkert foreldet, tenkte jeg, og de har ikke tatt høyde for moderne BI verktøy og det hav av data vi har i dag. Jeg ble overrasket da jeg fant at alle eksemplene over adresseres av ACM, og noen også av NENT. Paragraf 1.7 fra ACM fortjener å bli gjengitt (mine uthevninger):

1.7 Respect the privacy of others.

“Communication technology enables the collection and exchange of personal information on a scale unprecedented in the history of civilization. Thus there is increased potential for violating the privacy of individuals and groups[…] Furthermore, procedures must be established to allow individuals to review their records and correct inaccuracies. This imperative implies that […] personal information gathered fora specific purpose not be used for other purposes without consent of the individual(s).”

Så jeg ble litt paff. Den salven jeg hadde forberedt, om at noen må se å få revidert disse retningslinjene, rant jo ut i intet. Hva nå, da?

Hva gjør vi nå?

Jeg mener at selv om teknologien fortsetter å utvikle seg, består NENT og ACM mange år til. Spesielt ACM dekker både personvern og individualitet. Så det nytter ikke å skylde på mangel av etiske retningslinjer. Men jeg observerer at det som skjer er ikke i tråd med retningslinjene. Det som er utfordrende med etiske retningslinjer versus lovverket er at man kan ikke bøtelegge eller arrestere noen for overtramp.

En annen tanke er at teknologien blir en buffer, noe som distanserer og ufarliggjør handlingen. Telefonavlytting i gamle dager krevde at klatret opp i mastene, i dag kan man bruke webmining. Et annet eksempel på det er piratkopiering av musikk og film. Man ville ikke drømme om å stjele en fysisk CD eller DVDboks, men å laste ned musikk og filmer ulovlig ved hjelp av PC’en oppfattes som akseptert blant mange grupper.

Uten teknologi ville Facebook 1) antageligvis ikke eksistert, eller 2) kanskje stått utenfor husene våre og frydet seg over følgende i søppelet vårt: mislykkede bilder, uåpnede reklamebrev, gamle postkort fra venner, brev fra det offentlige, blant bananskall og kaffegrut. Ikke særlig verdig? Men det er dette de gjør i dag, hjulpet av teknologien.

Men jeg vil ikke skylde på teknologien, fordi den er nettopp bare verktøy. Samt at teknologien er kommet for å bli, og den medfører fordeler også – hvis du brekker benet på fjelltur, kan redningsmannskapet spore deg opp ved hjelp av mobiltelefonen din. Og hvis du er blodfan av enkelte artister *vil* du ha tilbud om rubbel og bit som denne artisten har gitt ut. Men vi kan vi tenke oss at ansvaret pulveriseres:

BI industrien sier: Vi bare lager BI-teknologien, vi.

Bedriftene sier: Vi bare bruker BI-teknologien, vi.

Konsumentene sier: Vi bare laster opp trivielle data, og vi må jo få handle mat, og bruke mobilen vår.

I sommer skrev Aftenposten at forsikringsselskaper sjekker sosiale medier før de (eventuelt) utbetaler (Skjeggestad & Aspunvik, 2012): “Ali sier til forsikringsselskapet at han er blitt ranet av en mann på krykker. Forsikringsselskapet er skeptiske til den utrolige historien og oppsøker derfor Alis Facebookside for å se om hendelsen er omtalt. Her finner de en link til et troverdig avisoppslag om ranet og vurderer deretter forsikringskravet som berettiget”.

De bruker enkle BI verktøy som webmining og søkemotorer. Forsikringsselskapene mener at hvis du vanligvis skriver om hva du spiser til middag, er det mistenkelig hvis du ikke kringkaster at drømmeferien ble delvis spolert på grunn av innbrudd på hotellrommet.

Da kan vi tenke oss følgende scenario: Hvis en mann på krykker raner til seg kameraet ditt, bør du helst få blogget om det før dagen er omme. Aller helst bør du få *andre* til å blogge om det også, før du henvender deg til forsikringsselskapet ditt. Hva skal til for at dette ikke utvikler seg til det ekstreme? Hvor du for eksempel fremstår mistenkelig hvis du *ikke* deltar på sosiale medier, kun betaler kontant og har engangsmobiltelefon? Vi får dra lasset alle sammen, både BI industrien, bedriftene og konsumentene. Men hvem skal begynne? Og hvordan skal det gjøres?

Oppsummert observerer jeg dette: konsumenters persondata brukes kommersielt av industrien, som detaljhandelen, forsikring, bank og reklamebyrå. Det finnes gode retningslinjer for forretningsetikk. Disse følges ikke per i dag. Jeg ser for meg to årsaker: Ansvarspulverisering og/eller teknologi som en buffer. Hva mener andre på BI-blogg? Håper på innlegg og synspunkter som jeg kan bruke i min videre forskning.

Referanser:

ACM (1992) “ACM Code of Ethics and Professional Conduct.” [online] Availabe at:  http://www.acm.org/about/code-of-ethics (Accessed July 4th, 2012)

Dahl, C.A. & Bruaset, I. (2012) “Eurobonus kan bli solgt til lavpris.” Aftenposten 5. november 2012

Douglas, A. (1979) Ingen Grunn til Panikk – Haikerens Guide til Galaksen: Kagge Forlag, 2003.

Hill, K. (2012) “How How Target Figured Out A Teen Girl Was Pregnant Before Her Father Did.” [online] Availabe at: http://www.forbes.com/sites/kashmirhill/2012/02/16/how-target-figured-out-a-teen-girl-was-pregnant-before-her-father-did/ (Accessed July 4th, 2012)

Kibar, O. (2012) “Facebook uvennen.” Dagens Næringsliv, 26. mai, 2012.

Laudon, K. C., & Traver, C. G. (2007). E-commerce: business, technology, society: Pearson Prentice Hall.

NENT (2008) http://www.etikkom.no/Documents/English-publications/Guidelines%20for%20research%20ethics %20in%20science%20and%20technology%20%282008%29.pdf. (Accessed July 4th, 2012)

Schultz, N. O., A. B. Collins, et al. (1994). “The Ethics of Business Intelligence.” Journal of Business Ethics 13(4): 305-314.

Skjeggestad, H. & Aspunvik, S.G. (2012) “Unge svindlere røper seg på Facebook.” Aftenposten 14. juli 2012

Turban, E., Aronson, J. E., Liang, T.-P., & Sharda, R. (2007). Decision Support and Business Intelligence Systems: Pearson Prentice-Hall.

(Denne bloggen er basert på et paper fra NOKOBIT 2012 konferansen i Bodø)

Advertisements

Legg igjen en kommentar

Filed under IT og samfunn

Legg igjen en kommentar

Fyll inn i feltene under, eller klikk på et ikon for å logge inn:

WordPress.com-logo

Du kommenterer med bruk av din WordPress.com konto. Logg ut / Endre )

Twitter picture

Du kommenterer med bruk av din Twitter konto. Logg ut / Endre )

Facebookbilde

Du kommenterer med bruk av din Facebook konto. Logg ut / Endre )

Google+ photo

Du kommenterer med bruk av din Google+ konto. Logg ut / Endre )

Kobler til %s