Hur undviker du att dina digitala medarbetare blir partiska?

En av de stora frågorna på AI-området är etiken. Många menar att det är viktigt att ha en diskussion kring de etiska konsekvenserna av tekniken redan innan den implementeras. Trots att frågan egentligen är lika gammal som tekniken själv, har den aktualiserats när AI tagit klivet in i våra liv.

Så vilken approach behövs för att säkerställa etiska AI-implementeringar? Och hur mycket har vi råd att lära oss av våra misstag när det kommer till ett område som AI? För många ekar skandalen kring Twitterbotten Tay fortfarande färskt i minnet. Tay skulle lära sig av interaktionen med människor på Twitter, men kunde inte avgöra om dessa interaktioner genererade bra eller dåliga lärdomar och kopierade urskillningslöst rasistiska beteenden från helvilda nättroll – för att själv bli ett. Detta dåliga exempel på vad som händer när man ”släpper AI lös” har gett upphov till nidbilder av konverserande AI och chattbottar som något som skapar ”robotpapegojor”, som The Verge-journalisten James Vincent formulerade det.

Digitala medarbetare som tillämpar konverserande AI bör alltid vara del av en väl genomtänkt och långsiktig strategi. Det är viktigt att förstå att en AI-implementering också innebär att vi måste tänka om det digitala utrymmet. Men skräckexemplet Tay innebär såklart inte att vi ska nöja oss vid de klassiskt väldigt styrda chattbotarna som ger förutbestämda svar på enklare frågor (en enkel sökning på Google är förmodligen att föredra om det är vad du är ute efter). Vi måste däremot se till att vi tänker en gång extra på vilka egenskaper och förmågor vi vill att vår digitala medarbetare ska ha. Oavsett om vi har förutsett det eller inte så kommer digitala medarbetare som interagerar med anställda och kunder bli kulturbärare av ditt varumärke genom de interaktioner som de står för.

En mer avancerad digital medarbetare kan förstå, lära och interagera på ett sätt som efterliknar hur människor tar till sig information. En digital medarbetare som den jag jobbar med på IPsoft, Amelia, förstår avsikter utryckta med stor variation och på olika sätt eftersom hon tillämpar kontext för att skilja mellan olika användningar av samma ord för att förstå den implicita betydelsen. Och ju mer avancerade funktioner och förståelser din AI-lösning har desto bättre kan den också utbildas för att ta del av organisationens kultur och allt som utgör de informationsbärande värden ni delar. Exempelvis är det möjligt att få flera digitala medarbetare med olika kompetenser, egenskaper och förmågor att agera som ett sammansvetsat team där samtliga digitala teammedlemmar har kunskap kring vem som kan och är bäst på vad. Och precis som en människa behöver en digital medarbetare utbildas kring din företagspolicy och kultur både före och fortlöpande under arbetet.

Ett sätt att komma undan tänkbara Tay-scenarion är också att tillämpa managed self-learning. Det betyder att en AI fortfarande kan tillämpa självlärande processer och lära sig av interaktioner med exempelvis kunder och medarbetare men de mänskliga medarbetarna är de som bestämmer om den digitala medarbetaren också ska komma ihåg och faktiskt börja använda vad den har lärt sig. Precis lika viktigt är det att det team som deltar i utvecklingen av den digitala medarbetarens förmågor har en blandad och mångsidig bakgrund, just för att undvika partiskhet och det som kallas ”bias of the creator”: det vill säga att den som tränar den digitala medarbetaren också omedvetet färgar av sig i sina preferenser och sätt att vara med risk för ett ensidigt perspektiv.

Men är det här egentligen så dåliga nyheter? När du måste tänka några varv extra på hur du vill att din digitala medarbetare ska vara beroende på roll eller funktion gör det ju också att du måste se över processer och värdegrund i din organisation – en utveckling där de digitala medarbetarna kanske faktiskt gör att din organisation blir mänskligare än vad den var innan.