LINKEDIN TAJNO EKSPERIMENTISAO NAD SVOJIM KORISNICIMA: Potpunom manipulacijom algoritama za posao upravljali sa 20 miliona korisnika
Autor: Glas javnosti
LinkedIn je sproveo eksperimente nad više od 20 miliona korisnika tokom pet godina koji su, iako su nameravali da poboljšaju kako platforma funkcioniše za članove, mogli da utiču na egzistenciju nekih ljudi, piše Njujork Tajms.
U eksperimentima sprovedenim širom sveta od 2015. do 2019. godine, Linkedin je nasumično menjao proporciju slabih i jakih kontakata koje je predložio njegov algoritam „Ljudi koje možda poznajete“ – automatizovani sistem kompanije za preporuku novih veza svojim korisnicima. Istraživači na LinkedIn, M.I.T., Stanford i Harvard Business School kasnije su analizirali zbirne podatke sa testova u studiji objavljenoj ovog meseca u časopisu Science.
LinkedInovi algoritamski eksperimenti mogu biti iznenađenje za milione ljudi jer kompanija nije obavestila korisnike da su testovi u toku.
Tehnološki giganti poput LinkedIna, najveće profesionalne mreže na svetu, rutinski sprovode velike eksperimente u kojima isprobavaju različite verzije funkcija aplikacija, veb dizajna i algoritama na različitim ljudima. Dugogodišnja praksa, nazvana A/B testiranje, ima za cilj da poboljša iskustva potrošača i zadrži ih angažovanim, što pomaže kompanijama da zarade novac putem premium članarina ili reklama. Korisnici često nemaju pojma da kompanije sprovode testove na njima. (Njujork tajms koristi takve testove da proceni tekst naslova i da donese odluke o proizvodima i karakteristikama koje kompanija objavljuje), prenosi „Blic„.
Ali promene koje je napravio LinkedIn ukazuju na to kako takva podešavanja široko korišćenih algoritama mogu postati eksperimenti društvenog inženjeringa sa potencijalno promenama života za mnoge ljude. Stručnjaci koji proučavaju društvene uticaje računarstva rekli su da su sprovođenje dugih eksperimenata velikih razmera na ljudima koji bi mogli da utiču na njihove izglede za posao, na načine koji su za njih nevidljivi, postavili pitanja o transparentnosti industrije i nadzoru istraživanja.
„Nalazi sugerišu da su neki korisnici imali bolji pristup mogućnostima za posao ili značajnu razliku u pristupu mogućnostima za posao“, rekao je Michael Zimmer, vanredni profesor računarskih nauka i direktor Centra za podatke, etiku i društvo na Univerzitetu Market. „Ovo su vrste dugoročnih posledica koje treba razmotriti kada razmišljamo o etici angažovanja u ovoj vrsti istraživanja velikih podataka.
Studija u časopisu Science testirala je uticajnu teoriju u sociologiji nazvanu „snaga slabih veza“, koja tvrdi da je veća verovatnoća da će ljudi dobiti zaposlenje i druge mogućnosti putem poznanstava nego preko bliskih prijatelja.
Istraživači su analizirali kako su algoritamske promene LinkedIn-a uticale na mobilnost korisnika. Otkrili su da su se relativno slabe društvene veze na LinkedInu pokazale dvostruko efikasnijim u obezbeđivanju zaposlenja od jačih društvenih veza.
U saopštenju, Linkedin je tokom studije rekao da je „postupio dosledno“ sa korisničkim ugovorom kompanije, politikom privatnosti i postavkama članova. U politici privatnosti se navodi da LinkedIn koristi lične podatke članova u istraživačke svrhe. U saopštenju se dodaje da je kompanija koristila najnovije, „neinvazivne“ tehnike društvenih nauka da odgovori na važna istraživačka pitanja „bez ikakvog eksperimentisanja na članovima“.
LinkedIn, koji je u vlasništvu Microsofta, nije direktno odgovorio na pitanje kako je kompanija razmatrala potencijalne dugoročne posledice svojih eksperimenata na zapošljavanje i ekonomski status korisnika. Ali kompanija je rekla da istraživanje nije dalo neproporcionalnu prednost nekim korisnicima.
Cilj istraživanja je bio da se „pomogne ljudima u velikom broju“, rekao je Kartik Rajkumar, naučnik primenjenog istraživanja na LinkedInu koji je bio jedan od koautora studije. „Niko nije bio stavljen u nepovoljniji položaj da nađe posao.
Sinan Aral, profesor menadžmenta i nauke o podacima na M.I.T. koji je bio vodeći autor studije, rekao je da su eksperimenti LinkedIn-a bili pokušaj da se osigura da korisnici imaju jednak pristup mogućnostima zapošljavanja.
„Napraviti eksperiment na 20 miliona ljudi i potom pokrenuti bolji algoritam za svačije izglede za posao kao rezultat znanja koje naučite iz toga je ono što oni pokušavaju da urade“, rekao je profesor Aral, „umesto da pomažu neke ljudi da imaju društvenu mobilnost, a drugi da nemaju.” (Profesor Aral je sproveo analizu podataka za The New York Times i dobio je garant za istraživačku stipendiju od Microsofta 2010. godine).
Eksperimenti velikih internet kompanija na korisnicima imaju šarenu istoriju. Pre osam godina objavljena je Facebook studija koja opisuje kako je društvena mreža tiho manipulisala onim objavama koje se pojavljuju u korisničkim vestima kako bi analizirala širenje negativnih i pozitivnih emocija na svojoj platformi. Nedeljni eksperiment, sproveden na 689.003 korisnika, brzo je izazvao negativnu reakciju.
Facebook studija, čiji su autori bili istraživač u kompaniji i profesor na Kornelu, tvrdi da su ljudi implicitno pristali na eksperiment manipulacije emocijama kada su se registrovali na Fejsbuk. „Svi korisnici se slažu pre otvaranja naloga na Fejsbuku“, kaže studija, „što predstavlja informisani pristanak za ovo istraživanje“.
Kritičari se nisu složili, a neki su napadali Facebook jer je upao u privatnost ljudi dok je eksploatisao njihovo raspoloženje i izazivao im emocionalni stres. Drugi su tvrdili da je projekat koristio akademskog koautora kako bi dao kredibilitet problematičnim korporativnim istraživačkim praksama.
Kornel je kasnije rekao da njen interni odbor za etiku nije morao da pregleda projekat jer je Fejsbuk nezavisno sproveo studiju, a profesor, koji je pomogao u dizajniranju istraživanja, nije direktno učestvovao u eksperimentima na ljudima.
LinkedIn profesionalni eksperimenti umrežavanja bili su različiti po nameri, obimu i obimu. Dizajnirao ih je Linkedin kao deo stalnih napora kompanije da poboljša relevantnost svog algoritma „Ljudi koje možda poznajete“, koji sugeriše nove veze članovima.
Algoritam analizira podatke kao što su istorija zaposlenja članova, nazivi poslova i veze sa drugim korisnicima. Zatim pokušava da proceni verovatnoću da će član LinkedIn-a poslati poziv prijatelju na predloženu novu vezu, kao i verovatnoću da ta nova veza prihvati poziv.
Za eksperimente, LinkedIn je prilagodio svoj algoritam da nasumično varira učestalost jakih i slabih veza koje je sistem preporučio. Prvi talas testova, sproveden 2015, „imao je preko četiri miliona eksperimentalnih subjekata“, navodi se u studiji. U drugom talasu testiranja, sprovedenom 2019. godine, učestvovalo je više od 16 miliona ljudi.
Tokom testova, ljudi koji su kliknuli na alatku „Ljudi koje možda poznajete“ i pogledali preporuke bili su dodeljeni različitim algoritamskim putanjama. Neke od tih „varijanti lečenja“, kako ih je studija nazvala, dovele su do toga da korisnici LinkedIn-a formiraju više veza sa ljudima sa kojima su imali samo slabe društvene veze. Druga podešavanja su dovela do toga da ljudi formiraju manje veza sa slabim.
Ne zna se da li većina članova LinkedIn-a shvata da bi mogli biti podvrgnuti eksperimentima koji mogu uticati na njihove mogućnosti za posao.
LinkedIn-ova politika privatnosti kaže da kompanija može „iskoristiti lične podatke koji su nam dostupni“ za istraživanje „trendova na radnom mestu, kao što su dostupnost poslova i veštine potrebne za te poslove“. Njegova politika za spoljne istraživače koji žele da analiziraju podatke kompanije jasno kaže da ti istraživači neće moći da „eksperimentišu ili vrše testove na našim članovima“.
Ali nijedna politika eksplicitno ne obaveštava potrošače da sam LinkedIn može eksperimentisati ili vršiti testove na svojim članovima.
U izjavi, LinkedIn je rekao: „Transparentni smo sa našim članovima kroz naš istraživački deo našeg korisničkog ugovora“.
U uredničkoj izjavi, Science je rekao: „Naše je razumevanje, kao i recenzenti, da eksperimenti koje je preduzeo LinkedIn funkcionišu u skladu sa smernicama njihovih korisničkih ugovora“.
Nakon prvog talasa algoritamskog testiranja, istraživači LinkedIn-a i M.I.T. naišao na ideju da analizira rezultate tih eksperimenata kako bi testirao teoriju o snazi slabih veza. Iako je decenijama stara teorija postala kamen temeljac društvenih nauka, ona nije bila rigorozno dokazana u velikom prospektivnom ispitivanju koje je nasumično dodeljivalo ljude društvenim vezama različite jačine.
Spoljni istraživači analizirali su zbirne podatke sa LinkedIn-a. Studija je izvestila da su se ljudi koji su dobili više preporuka za umereno slabe kontakte uglavnom prijavljivali i prihvatali više poslova – rezultati koji su se poklapali sa teorijom slabe veze.
SKINI APLIKACIJU
