DISCRIMINATING ALGORITHMS

Whenever I go to choose a movie to watch, I’m always struck by the fact that the highest-ranking ones don’t appeal to me. I have been wondering if there was something wrong with my taste, but then Wired magazine recently revealed that IMDb’s top movie list allows algorithms to process the voting data – and over 70 percent of that data comes from men. The film site Rotten Tomatoes bases its data analysis on other reviews, but that data comes from a similarly large share of men. In other words, the algorithms that define the world’s best films do so according to men’s preferences. Movies that are ranked high by women do not have a chance at replacing The Godfather or The Dark Knight.

In the current and long-awaited debate on gender equality, it is interesting to reflect on what happens to gender roles when artificial intelligence interprets our data and helps us make decisions. New research from Princeton, published in the scientific journal Science, shows that algorithms to a large extent associate words such as “leadership” and “pay” with men, while words like “home” and “family” are more often connected to women.

With machine learning, when computers sort through large amounts of training data and learn by example, they are using long-ingrained stereotypes hidden in our everyday lives. Machines that are learning to understand human language start from the assumption that a word is best defined by its relationship with other words. Thus machines interpret the word “computer” as something that is related to men, and the word “handicraft” as something that is related to women. This statistical approach captures the cultural and social context of words in a way that reference books have never done – and the algorithm brings our human prejudice into the equation.

We are further contaminating these algorithms through our use of digital services. Most people who are given the task to design a shoe make a male boot and the majority of photographs depicting important occupations contain men. According to researchers at the University of Virginia, machines make gender associations with one third of all objects and that ratio is even higher when it comes to verbs. Google’s software translates gender-neutral pronouns from multiple languages to “he” when the text refers to doctors and “she” when it refers to nurses. It is statistically correct that more doctors are men, but not something that should be communicated as a given.

Microsoft has shown that machines trained on prejudiced original data do not only reflect gender discrimination. Their algorithms connect men with the word “programming” to an even greater extent than what the data actually shows.

When AI-based systems take on increasingly complicated tasks, the risks of automated decision-making increase. If a future kitchen robot serves a man a beer but helps a woman with the dishes, it’s certainly rather annoying. But when robots guide men and women to make different decisions concerning their educations, jobs and pension investments, the consequences become considerably more serious.

Ethical questions about what kind of world we want to teach the computers and how we can get our system to work in the desired direction are extremely relevant. Educational material for children often shows an idealized world, with female role models in traditionally male roles – and the opposite. In the same way, we need gender-conscious algorithms and a modern version of an equality ombudsman to ensure that different individuals are treated fairly. Otherwise there is a risk that the algorithm-driven world will have a far greater affect on us than a few bad film recommendations. We cannot allow the AI systems to confine us to outdated gender roles. Equality in the future must be significantly better than it has been in the past.

Published in Dagens Industri, Nov 2017

Facebooktwittergoogle_plusredditpinterestlinkedintumblrmailby feather

TYÖN TULEVAISUUS ON JO TÄÄLLÄ

Kun puhumme työn tulevaisuudesta, puhumme työ katoamisesta. Meitä näyttää eniten kiinnostavan, milloin robotit vievät työmme. Keskustelu siitä, miten ihmisen tekemä työ muuttuu automaation myötä, on viime vuodet kiertänyt kehää erilaisten laskelmien ympärillä. Arviot teknologian vaikutuksesta ihmistyön määrään, ammattien ja työtehtävien katoamisen vauhti on hallinnut keskustelua työn tulevaisuudesta. Robottiuhka on jättänyt kaikki muut tulevaisuudesta kertovat trendit vaille huomiota. Työn tulevaisuus nimittäin on jo täällä, mutta se nousee esiin eri tavalla kuin vielä hetki sitten arveltiin.

Työ ei ole katoamassa. Toistaiseksi työtä syntyy ja kuolee vuosittain Suomessa lähes yhtä suuri määrä. Työ ei ole sirpaloitunut. Valtaosa työväestöstä Suomessa käy vielä perinteisessä kuukausipalkkaisessa työssä. Ihmisten käsitys työn epävarmuudesta on voimistunut, samalla kun työsuhteiden pituus on kasvanut. Mielikuvat ja puhe työn tulevaisuudesta ovat kovin erilaisia kuin työn arki juuri nyt.

Työn tulevaisuuteen vaikuttava, nopeasti voimistuva trendi on tänä syksynä otsikoihin noussut osaajapula. Se tarkoittaa, että työn tarjonnan ja kysynnän välinen kuilu kasvaa. Tietyissä ammateissa osaaminen vanhenee nopeasti, ja toisissa pula tekijöistä jarruttaa yritysten kasvua. Selkein esimerkki on tietysti digiosaajien puute. Suomen itsenäisyyden juhlarahaston Sitran mukaan tämänhetkinen tuhansien ict-ammattilaisten vaje työmarkkinoilla saattaa lähitulevaisuudessa olla 50 000. Luku voi olla suurempikin, sillä yksin tietoturva-osaajien kysyntä moninkertaistuu parin seuraavan vuoden aikana.

Samalla kun työtä katoaa, uutta syntyy. Ensimmäinen työn tulevaisuutta koskeva tärkeä kysymys onkin, syntyykö myös uutta osaamista? Kuka kouluttaa nopeasti lisää ict-ammattilaisia? Kaksi suurta suomalaista finanssialan yritystä on hiljattain kertonut, että tuhannet pankkialan ammattilaiset menettävät työnsä seuraavien vuosien aikana. Vastaavia töitä on tuskin enää tarjolla useimmille heistä. Koulutusreformien keskellä on unohdettu se joukko, joka ei voi palata vuosiksi koulun penkille. Missä syntyy uusi tapa muunto- ja täydennyskouluttaa aikuisia alanvaihtajia?

Työn murros on vasta alussa, mutta siihen liittyvät trendit ovat vaikuttaneet jo pitkään. Keskiluokkaisen työn määrä vähenee, ja uutta työtä syntyy palkkahaitarin ylä- ja alapäähän. Kaikissa eurooppalaisissa maissa keskituloisten kotitalouksien määrä on vähentynyt 1990-luvun alusta lähtien, mutta nopeinta kehitys on ollut Suomessa. Nuorelle työuraa aloittelevalle se tarkoittaa, että vanhempien toiveita ja neuvoja ei kannata juuri kuunnella: työelämä näyttää tulevaisuudessa erilaiselta kuin se, minkä he tuntevat. Joidenkin arvioiden mukaan hankalimmassa asemassa ovat noin 35-vuotiaat, jotka ovat jo olleet työelämässä pitkään. He kokevat suurimman muutoksen seuraavan 30 vuoden aikana.

Työn tulevaisuudesta puhuttaessa jää usein huomaamatta, että yksittäisen työntekijän vastuu omasta työurastaan ja ammattitaidostaan kasvaa merkittävästi. Yhä useampi ajautuu huomaamattaan ulos työmarkkinoilta. Omia kyvykkyyksiään ja niiden kehittämistä pitää arvioida myös oman työuran näkökulmasta, ei vain työnantajan toiveista käsin. Kuka auttaa työntekijöitä pysymään hereillä oman ammattitaidon suhteen?

Suurin puute työn tulevaisuutta koskevassa keskustelussa on, ettei se koske tätä päivää, mitä me voimme tehdä nyt. Työn murrokseen pitää ensin herätä: se tapahtuu jo. Sen jälkeen tarvitaan tekoja. Teot kuuluvat niin lainsäätäjille, yrityksille kuin jokaiselle meistä.

Marjaana Toiminen on MindMill Networkin perustaja ja senior advisor, joka kirjoitti Välähdyksiä tulevaisuudesta -nimisen raportin työn murroksesta Sitralle ja Telalle. Toiminen julkaisee työn tulevaisuus -aiheista podcastia nimeltä Steal my job.

Facebooktwittergoogle_plusredditpinterestlinkedintumblrmailby feather

CONTACT



MARJAANA TOIMINEN
Co-founder, Senior Advisor
marjaana@mindmillnetwork.com / +358 40 708 2648 / Twitter @Sarimarjaana
Pieni Roobertinkatu 9 / FI-00130 Helsinki / Finland


SARA ÖHRVALL
Co-founder, Senior Advisor
sara@mindmillnetwork.com / +46 70 811 5377 / Twitter @saraohrvall


Twitter @MindMillNetwork / LinkedIn The Mindmill Network