Viimastel päevadel on laiemat avalikkust raputanud uudis sellest, et tundub, et Apple’i krediitkaart on tiba seksistlik, st pakub naistele väiksemat limiiti kui sama jõukatele ja sama krediitskooriga meestele. Kohati 20 (!!!) korda väiksemat limiiti. Muide, üks nendest, kes kinnitas, et ka nende peres märgati teatavat ebavõrdsust, on Steve Wozniak, ehk siis üks Apple’i asutajatest. Kaardi taga olev pangandusettevõte Goldman Sachs uurib asja, aga tegi avaliku pöördumise, kus teatas, et “sugu pole isegi üks algoritmi sisendparameetritest”.
Väga kavalalt sõnastatud lause, eks ole. Iga inimene, kes pole statistikat või masinõpet õppinud, loeb seda ja järeldab sellest (enda arvates loogiliselt), et kui sugu pole üks sisendparameetritest, siis järelikult ei saa sugu ju tulemust mõjutada. Tegelikult on statistikas aga olemas ka latentsed ehk peidetud muutujad. Et väga lihtsakoeliselt selgitada, siis ütleme nii, et kui meil on masinõpe ja treeningandmetes on 100 Patricku ja 100 Patriciat ning keskmine Patrick on parema maksekäitumisega ja suurema sissetulekuga kui Patricia, siis võib üks väga tark masin, kes sugudest küll mitte midagi ei tea, siit õppida, et Patrickule (või isegi igale ick-lõpulise nimega laenutaotlejale) võib heldema käega raha usaldada kui Patriciale. Äärmiselt tõenäoliselt ei ole nimi ka seal algoritmis sisendiks, aga saate aru küll, sisendandmete seas võib olla midagi sooga seotut, mis tulemust mõjutab. Meie muidugi ei tea, musta kasti algoritm, mida firma inimestega ei jaga, nii et keegi ei tea, kuidas seal midagi arvutatakse ja mingi tulemuseni jõutakse. Aga varemgi on jutuks tulnud see, et kui me oleme näiteks riigis, kus süstemaatiliselt mingit rahvust diskrimineeritud on, siis tõenäoliselt peegeldavad seda ka andmed ja masinõppe tulemusel võib otsuseid langetav AI seda diskrimineerimist jätkata.
Alles paari päeva eest nägin kuskil huvitavat artiklit, mis rääkis sellest, kuidas algoritmide abil langetatakse USAs näiteks inimeste ennetähtaegselt vanglast vabastamise otsuseid. Üks parameeter algoritmis on “kas kasvas isaga peres” (väärtus 0/1, kui isa lahkus, kui olid 15, on see ikkagi 0) – sest statistika ütleb, et isata kasvamine on korrelatsioonis retsidivismiga. Isata kasvamine on muidugi korrelatsioonis ka lihtsalt mustanahaline olemisega, statistiliselt suurem tõenäosus lahutuseks jne (konkreetselt USAs siis). Nii et osaliselt sõltub see, kas sind lastakse vanglast varem välja mitte otseselt sinu isiklikest valikutest, vaid sinu vanemate patud nuheldakse sinu kaela. Kusjuures ka see, et sa üldse vanglas oled, võib olla seotud sinu rassi või soo või isegi kohtuprotsessi kellaajaga – kui sa usud statistikasse, on targem vaeva näha, et sinu istung oleks kohe pärast vaheaega, sest siis on kohtunikul kõht täis, meel hea ja karistusi ei jagata enam nii karmikäeliselt. Paari päeva eest oli ka huvitav artikkel AI-st, mis suudab üsna täpselt ennustada, millised inimesed lähema aasta aja jooksul suremas on, ainult selle väikese konksuga, et uurijad ei saa aru, KUIDAS ta seda ennustab, nii et arstid on headest tulemustest hoolimata üsna tõrksad seda kasutama. Imeline asi see masinõpe, eks?
Samal ajal Eestis on meil muidugi seksismiga vastupidised probleemid. Varrol ei lasta mees olla. Pidi vaeseke isadepäeva konverentsil kurtma, et inimesed ei taha aru saada, et mees ja naine peaksid ikka hierarhilises suhtes olema. Minu arust ei tohiks selliseid asju üldse avalikult eetrisse lasta. Tulen mina töölt koju ja Sirru küsib minu käest, mis söögiks on. Mõtlesin ehmatusega, et mis mõttes pole soe toit ootamas. Nüüd kuulis seda Varro jutlustamist ja otsustas ka mässama hakata, haige ka parajasti ja tea, mis lollused pähe tulevad. Siis tuli meelde, et õnneks ei räägi ta ju veel eesti keelt – samas, ta oli väga tõsise näoga, kui ma talle ütlesin, et Isamaa käsib kõigil kolme aastaga keel selgeks saada või riigist jeed tõmmata, äkki on salaja harjutanud. Nii et otsustasin testida ja ütlesin ettevaatlikult, et ma arvasin, et teeks õige idusalatit ja sojalattet. No et näha, kas on ikka korralikult metroseksuaal või mitte. Ta ütles, et idusalat on ok, aga sojalatte võin ma omale sisse istuda, Tõele au andes tuleb öelda, et ta naeris (ilmselt mitte kõige kaunima naeratusega) näkku ka hambaarstile, kes talle ütles, et musta kohvi joomine pole kõige tervislikum harjumus, aga siiski, ilmselge 🚩.
Ja see pole veel kõik! Hiljem, kui ma nõusid pesin (nagu mingi allasurutud kana!!!), hiilis ta kööki ja üritas külmikust suitsuvorsti varastada. Mitte sojasnäkki, vaid täissuitsuvorsti. Jäi kohe vahele, aga no ma hakkan tõsiselt kahtlema juba, kas ta ikka käis Ameerikas, kus minu teada kõik peale Donald Trumpi peaksid metroseksuaalid olema, või Vello42 juures koolitusel. Neid turistipilte saab internetist ka. Kuigi vist ikka käis, sest ta tõi mulle välismaa valgubatooni (spordisõbrad to the max). Aga tõsiselt, Varro, kui sa mu imelise suhte ära oled lörtsinud oma valimatu propagandaga, otsin su üles ja sõidan sulle äärmiselt naiselikult ja elegantselt lõuksi!
P.S. Lugesin Postimehest artiklit selle kohta, et Jaak Madison pöördus Euroopa Komisjoni poole, et saada selgust selle kohta, kas nad peavad TalTechi sisejuurdlust piisavaks ja kuidas vilepuhujaid sellises olukorras kaitsta. Lugesin ja mõtlesin, et EKRE liige või mitte, üks kord elus ei saa keegi talle midagi ette heita, sest no ma leian ka, et Aaviksoo käitumine ei ole siin päris normaalne olnud, võiks isegi öelda, et ma olen 100% nõus väitega, et sellised korruptsioonijuhtumid taaskinnistavad meie postsovjetlikku mainet. Vilepuhujast on ka kahju, arvata on, et meeldivate tulemustega ta siit ülikoolist välja ei astu, “teistele õpetuseks”. Aga kommentaaridest sain teada, et “meie musta pesu pesemine Brüsselis on reformierakondlik käitumine”. Veits vanglamentaliteet, ei v?
Pärdikute päevaraamat 
See AI on siis perfektne “isetäituv ennustus”. Me ei anna sulle tööd, sest su vanemad olid töötud, misläbi ka su lastel on töötu vanem, misläbi… jne.
Teistpidi ongi äkki kõigil lihtsam? Kui on hea, et ühiskonnas on x protsenti töötuid, siis on ju mõistlik, et need on kogu aeg ühed ja samad – samad inimesed, suguvõsad, kogukonnad, asumid vms. Järjepidevus on meil ju väärtus? Või mida see “konservatiivne” meie vabariigi nimes muidu tähendab?
Olemata spets kaldun arvama, et sellised tõenäosusel põhinevad algoritmid paratamatult lasevad aeg-ajalt prohmakaid sisse. Mida parem algoritm seda täpsemini ennustab samas mitte kunagi absoluutse täpsusega. Rassi ja sugu otse ei esitata sisendandmeis sotsiaalse surve tõttu aga nagu ütled tuleb see ilmselt üsna hästi kaudselt välja. Uudistesse jõuavad üksikud karjuvad möödalaskmised mitte tuhanded täppi läinud hinnangud.
Samas huvitab nii panka, arsti kui õiguskaitset võimalikult hea keskmine tulemus ja seda suudab algoritm palju täpsemini ja objektiivsemalt pakkuda kui inimene. Neid asutusi tegelikult huvitab TULEMUS sõltumata rassist, soost, usust või seksuaalsest orientatsioonist. Somaali lesbi naise pealt teenitud dollar on sama väärtusega, mis ortodoksi juudi mehe pealt teenitu, lihtsalt teenimise tõenäosus erinev. Erinevad grupid on paratamatult erineva maksevõimega, ükskõik mille alusel üritad liigitada. Praegusel ajal pigem üritatakse kunstlikult vähemusi soosida (vähemalt canadas) täiesti kuiva matemaatikaga oleks kihistumine veelgi teravam.
Mismõttes prohmakaid?
Asi pole ju algoritmi veas, vaid selles, et ühiskond tahab muutuda, algoritm aga taastoodab ja võimendab olemasolevat olukorda. Kuid kas see on “prohmakas”???
Võibolla ju lihtsalt nii, et naistega kaasneb suurem oht kuna nad on kergemini mõjutatavad. Tippjuhi rollis peab naine samuti sootuks muutuma mitte meheks, nagu arvajad arvavad. 🙂