Men när Daryl Plummer börjar prata om ”robotchefer” börjar även CIO:erna i publiken att skruva oroligt på sig.

– Skulle du följa chefens råd om han var en robot? Det kommer, det är ofrånkomligt, säger Daryl Plummer.

Publiken skrattar. Men när han börjar förklara vad han menar låter det mer vettigt. När företaget blir så datadrivet att chefer fattar beslut baserat på data och statistik – ja, då kan ju chefen egentligen ersättas av en maskin.

Läs mer: Maskinerna är våra vänner – eller?

Men maskiner behöver hjälp från sina användare, det är därför de ställer frågor och vill att användaren tar ställning till olika saker. Ju fler maskiner du har, desto fler frågor måste du svara på – och därför kanske det lockar att släppa maskinerna fria och göra dem mer autonoma. Eller?

Vad händer då, frågar Daryl Plummer, den dag du ska åka till jobbet men upptäcker att din bil åkt iväg till macken för att byta olja?

Maskiner har inga inneboende moraliska spärrar utan är programmerade att försöka uppnå vissa syften. I deras försök att göra detta kan det hända att de tar till åtgärder som ingen hade räknat med. Automatiska assistenter och mjukvara i det ekonomiska systemet kan manipulera transaktioner på ett sätt som gör att vi i framtiden kommer att oroa oss för autonoma robottjuvar, snarare än hackare.

Och ju fler system som styr banker, smarta byggnader, vård och infrastruktur, desto fler sårbarheter kommer det att finnas. Snart kan hackare börja trakassera företag genom att slå på värmen på max eller blinkar med belysningen.

– För att förhindra digital vandalism kan det vara värt att installera en brandvägg på ventilationssystemet, säger Daryl Plummer.

Apokalypsen: maskinerna blir för smarta och för dumma på samma gång

Näste talare Ray Valdes tar Daryl Plummers resonemang ytterligare en bit längre. Under en föreläsning med namnet ”Algos Gone Wild: the Coming Apocalypse When Machine Intelligence is Both too Little and too Much” beskriver han ett slags worst case-scenario, där algoritmer löper amok och digitala agenter blivit helt autonoma.

Läs mer: Är artificiell intelligens det största hotet mot mänskligheten? Svenske filosofen har svaret klart

Ray Valdes arbetar med så kallad ”Maverick Research” på Gartner – han har i uppdrag att tänka utanför boxen. Men det betyder inte att hans tankar saknar grund. Figurer som Stephen Hawking, Bill Gates och Elon Musk har varnat i flera år för vad som kan hända om vi förlorar kontrollen över maskinerna, och Ray Valdes slutar sitt föredrag med att lista några av de åtgärder de föreslog i sitt omtalade ”Future of Life Institute Letter”.

  • I framtiden måste vi vara väldigt noga när vi skapar algoritmer. Det måste bli rätt från början, och själva mjukvaran måste behandlas som ett potentiellt hot i sig.
  • System och funktioner måste testas ofta för att se att de inte utvecklas på ett icke önskvärt sätt.
  • Dessutom bör vi övervaka kommunikationen mellan olika system, på samma sätt som vi försöker övervakar kriminella organisationer.
  • Sist men inte minst – varje maskin, system eller funktion behöver en ”kill switch”.
Sida 2 / 2

Innehållsförteckning