Hur ska organisationer ledas så att de på ett ansvarsfullt sätt kan bidra till och dra nytta av framväxten av komplexa intelligenta system? Den befintliga kunskapen om detta inom management och innovation är begränsad. Vi vill bidra till chefer och ledare för att ge svar på hur beslut kan fattas, hur organisationer bör utformas och hur man kan arbeta med andra i ekosystem.
Artificiell intelligens (AI) förändrar vår värld, vårt samhälle och vår industri. Självkörande bilar är på väg att bli verklighet, AI är ett viktigt hjälpmedel för att ställa cancerdiagnoser och industrin blir alltmer automatiserad med hjälp av AI. Infrastrukturer som är beroende av AI spelar en allt viktigare roll i samhället och blir en väsentlig del i komplexa intelligenta system som är fokus i ett nytt femårigt projekt som finansieras inom ramen för WASP-HS.
Förnyelse krävs för komplexa intelligenta system
Ofta diskuteras sociala och etiska dilemma relaterade till AI, medan hanteringen av den industriella omvandlingen till stor del saknas i debatten. Ett fokus på de samhällsmässiga konsekvenserna av AI inkluderar att detta säkerställs och att ansvarsfulla beslut kan göras baserad på relevanta frågor. Detta innebär att en ny management- och innovationsförmåga måste byggas kopplad till de särskilda egenskaper som komplexa intelligenta system har. Etiska och managementaspekter framstår således som nära relaterade.
Komplexa intelligenta system bygger på en kombination av mjukvara, elektronik, hårdvara och mekanik. De har en växande nivå av inte bara digitalt, utan också intelligent innehåll som till stor del drivs av AI. Exempel på dessa system finns i ett brett spektrum av industrier, t ex inom flygindustrin där allt intelligentare avioniksystem implementeras i flygplan för att öka säkerheten och minska risken för mänskliga misstag. Komplexa intelligenta system måste uppfylla krav på säkerhet och tillförlitlighet i kombination med generativitet. Denna generativitet avser systemets flytande gränser, som är öppna för fortsatta innovationer och ändringar av ytterligare eller uppdaterad funktionalitet även bortom den ursprungliga designintentionen. AI, som en uppsättning metoder (t ex djup inlärning, dataanalys), driver det intelligenta innehållet i dessa system. AI är också allt viktigare i designprocessen för dessa system.
Kopplingen mellan teknik, management och samhällsaspekter
I framväxten av komplexa intelligenta system är industriföretag och andra organisationer viktiga aktörer. Att förstå hur verksamheter kan organiseras är viktigt för att vi ska kunna åstadkomma ett samhälle som kan dra nytta av AI. Vår forskning bygger på en vision att bidra med management- och innovationskunskap så att organisationer kan tillämpa ansvarsfulla angreppssätt för att åstadkomma ett bättre samhälle med hjälp av AI.
Fig. 1.
Framtida konsekvenser för management kan bara identifieras när teknik och management studeras samtidigt som samhällsaspekter beaktas, vilket blir tydligt i följande exempel. En bil som tvingas välja mellan att köra på en barnvagn eller kollidera med en bergvägg används ibland för att illustrera kopplingen mellan teknik och etik. Många argumenterar att komplexa intelligenta system måste kunna välja vilket som är minst katastrofalt. Exemplet är naturligtvis kraftigt förenklat men ännu viktigare är frågan om det är rätt perspektiv på problemet? Vad händer om vi istället tillämpar ett perspektiv som utgår ifrån en säkerhetsanalys och betraktar båda utkomsterna som katastrofala. Då ska systemet designas så att sannolikheten är väldigt låg att det hamnar i en sådan situation. Den etiska debatten blir då snarare vad vi menar med låg sannolikhet, istället för att försöka rangordna katastrofala händelser. Det är därför betydelsefull att beakta teknik, management och samhällsaspekter tillsammans som en helhet.
Beslutsfattande, organisation och komplexitet
Ett antal specifika utmaningar som är viktiga för organisationer att adressera har redan identifierats inom ramen av projektet:
(1) Beslutsfattande i det (delvis) okända.
Beslutsfattande i organisationer är ett väl beforskat område och centralt för organisationers resultat. Nobelpristagaren Herbert Simon har lagt grunden för perspektiv på beslutsfattande som är dominerande idag, dvs beslutsfattande som en process för att söka efter ett tillfredsställande alternativ som följer ett tillstånd av ”begränsad rationalitet”. Det finns indikationer på att framtida beslutsfattande kommer att förändras när komplexa intelligenta system och dess framväxande systembeteenden skapar så kallade ”unknown unknowns” och en ny beslutsrymd. Det är då viktig att förstå vad beslutsområdet är, vem som fattar beslut, var och när beslut fattas och hur beslut tas.
“Att tänka rätt är stort men svårt. Att tänka med AI är fortfarande ganska stort, mycket lättare och ibland rätt”
(2) Framtida organisationsdesign och interaktioner i ekosystem.
Traditionellt så har det funnits starka kopplingar mellan systemarkitektur och organisation. Tekniska framsteg har dock resulterat i nya systemarkitekturer som bygger på olika lager och partitioner, t ex plattform och applikationer. En framtida organisatorisk design måste därför också förstås i förhållande till de specifika egenskaperna för denna typ av arkitektur. Nya typer av aktörer förväntas bidra till komplexa intelligenta system på ett sätt att de inte kan styras utan snarare möjligtvis endast kan påverkas. I ökande grad kommer en ekosystemlogik att samexistera med det traditionella leverantörskedjeperspektivet. En framtida organisationsdesign måste därför vara multifacetterad och dynamisk.
(3) Komplexitet bortom människans kognitiva förståelse.
Utvecklingen mot komplexa intelligenta system innebär en ytterligare ökad komplexitet, i många fall bortom människans förståelse. I utvecklingen av komplexa system används redan idag olika representationsverktyg (som modellbaserad systemutveckling (MBSE). Dessa verktyg är också i ökande grad intelligenta vilket innebär att arbetssättet i utvecklingen påverkas. Människan och de intelligenta verktygen kommer att behöva samarbeta och modell- och databaserade representationslogiker kommer att behöver integreras.
Vikten att förstå komplexa intelligenta system och management
Forskningen inom projektet är i sin linda men vi förutser att ny kunskap kring framtida komplexa system och management är viktig ur flera perspektiv.
(1) Management- och innovationsforskare behöver tillsammans med praktiker proaktivt bidra till utformningen av framtida komplexa intelligenta system som gör det möjligt för organisationer att på ett ansvarsfullt sätt bidra till och dra nytta av de nya möjligheterna för AI för ett AI-förbättrat samhälle. Detta inkluderar att hitta metoder för att överväga ett brett spektrum av aspekter som moral, etik, social acceptans och intressenters intressen kopplade till AI och hantera förändringarna i det industriella och samhälleliga landskapet.
(2) Inte minst för Sverige, som en liten nation med ambitionen att vara en tidig adoptant av AI, är det viktigt att se till att vi närmar oss AI på ett sätt som främjar möjligheterna, undertrycker hoten och gör det möjligt för våra systembyggande industrier att förbli konkurrenskraftiga i ett föränderligt och delvis nytt landskap.
(3) Fokus på komplexa intelligenta system inom managementforskningen har hittills i stort sett varit frånvarande och begränsat till relativt smala tillämpningar och deras affärsmässiga konsekvenser, trots vikten för ett bredare tillämpningsområde som under-
stryks av olika policydokument i Sverige, EU, och USA. Det har t ex noterats att:
“Like the steam engine or electricity in the past, AI is transforming our world, our society and our industry. Growth in computing power, availability of data and progress in algorithms have turned AI into one of the most strategic technologies of the 21st century. The stakes could not be higher. The way we approach AI will define the world we live in.” (EU Commission report, Artificial Intelligence for Europe) ¹
I linje med detta bidrar vår forskning med ny relevant kunskap för utformningen av framtida management av komplexa intelligenta system. Vi har en ambition att aktivt delta i debatten för att föra utvecklingen framåt. Vi hoppas att många forskare med oss vill bidra till att forma framtida management.
Om WASP HS The Wallenberg AI, Autonomous Systems and Software Program – Humanities and Society (WASP-HS) startade år 2020 och visionen är att åstadkomma excellent forskning och ökad kunskap om möjligheterna och utmaningarna med artificiell intelligens och autonoma system för humaniora och samhälle. De forskningsprojekt som ryms i programmet kommer att ta itu med utmaningarna och effekterna av kommande teknikförändringar samt bidra till utvecklingen av teori och praktik för mänskliga och samhälleliga aspekter av AI och autonoma system, och särskilt fokusera på potentiella etiska, ekonomiska, arbetsmarknadsmässiga, sociala och juridiska aspekter av teknikskiftet.
Wallenbergstiftelserna investerar upp till 660 miljoner kronor i WASP-HS-forskningsprogrammet.
WASP-HS inkluderar en omfattande nationell forskarskola med upp till 70 doktorander, inrättandet av minst tio nya forskargrupper i hela Sverige, stöd för tolv gästprofessorer för att stärka svensk forsknings- och nätverksverksamhet samt ett antal forskningsprojekt. Se även https://wasp-hs.org/