Management
of Innovation
& Technology

Att forma en framtid med AI

— Vad krävs av management?

Genom att betrakta framväxten av AI i sitt komplexa sammanhang, t ex som en del av transportsystem, energiinfrastrukturer och hälso- och sjukvård, forskar vi om hur viktiga samhällsfördelar med AI kan uppnås samtidigt som de negativa effekterna minimeras.

Under nästan fem år har forskargruppen NICER vid Linköpings universitet adresserat nya management- och innovationsförmågor som behövs när AI lösningar växer fram i komplexa sammanhang. Genom att förstå hur organisationer kan hantera AI i ett komplexare sammanhang än bara själva AI-lösningen syftar NICER forskningen till att bidra till positiv formning av en framtid med AI.

En viktig övergripande fråga är hur organisationer kan hantera framväxten av AI på ett ansvarsfullt sätt med lämpliga utgångpunkter, angreppssätt, och metoder. Frågan kan anses som relevant inte minst i ljuset av den intensiva samhällsdiskussion som blossade upp under våren 2023 när OpenAI uttryckte oro över svårigheten att navigera generell AI-utveckling i det okända på ett sätt så att man lyckas dra nytta av möjligheterna och samtidigt undertrycka hoten. De uttrycker bl.a. ”We currently believe the best way to successfully navigate AI deployment challenges is with a tight feedback loop of rapid learning and careful iteration” och förespråkar vikten av att generella AI system (AGI) utsätts för oberoende audits för att säkra att systemen inte är farliga. Policyinstitutet Future of Life som kanske främst är kända för ”Asilomar AI principles” har (baserat på vad OpenAI kommunicerat) publicerat ett öppet brev som undertecknades av många forskare såväl som industrirepresentanter. Det uppmanades till eftertänksamhet och efterfrågades nya angreppssätt som säkerställer att AI gör våra nuvarande samhällsystem mer robusta, säkra och pålitliga. De t.o.m. uttrycker ”Therefore, we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT@4”  och föreslår samtidigt ett antal insatser för policymakare. I vår forskning har vi utgått från att nyttan av AI främst kommer i en komplex kontext, vilket innebär att man måste beakta ett bredare sammanhang än själva AI-tillämpningen, och att det kan vara svårt att inse konsekvenser av hur man hanterar systemen vilket därmed leder till svårigheter att faktiskt bedöma vad som i slutänden bidrar positivt respektive negativt.

Bland våra forskningsresultat hittills finns en rad olika tema som har vuxit fram samtidigt som det finns många spännande områden kvar att adressera. Nedan beskrivs några av dessa baserat på våra forskningsresultat och insikter från pågående forskning i NICER gruppen. Vi bygger på studier av avionik-utveckling under de senaste sextio åren, forskningsprogrammets WASPs demonstrationsarena WARA Public Safety, och insikter från pågående forskning inom hälso- och sjukvård, smarta städer liksom systemutveckling i bil- och flygindustrin.

Säkerhet och generativitet – en ny systemutmaning

Användandet av AI förknippas med en ny system-egenskap, generativitet. Det beskriver att system kan utvecklas i användandet och funktionalitet bortom det systemet ursprunglig var avsedd att göra, något som skapar nya möjligheter men också förändrar förutsättningarna för systemutveckling, management och organisationen. Detta är i mindre utsträckning en utmaning när AI fungerar som en tilläggsfunktion i system utan kritisk funktion, men när AI fungerar som en mer integrerad del av att uppnå kritisk funktionalitet eller potentiellt kombinerar kritiska och tilläggsfunktioner som möjliggör generativitet, krävs inte bara mer avancerade AI-lösningar utan även ytterligare organisatoriska, management och systemarkitektur-relaterade angreppssätt för att bemästra systemet. Även OpenAI uttrycker något liknande, ”Importantly, we think we often have to make progress on AI safety and capabilities together. It’s a false dichotomy to talk about them separately; they are correlated in many ways”. Just för att förstå hur man kan kombinera generativitet utan att äventyra systemets kritiska funktionalitet krävs nya insikter och angreppssätt. Våra forskningsresultat pekar på en kombination av organisatoriska- och systemlösningar och en ökad roll av digitala och även AI-baserade verktyg i utvecklingen. Resultaten visar också på behovet av en ny logik där man kan kombinera upprätthållandet av säkerhetskritiska funktioner samtidigt som man drar nytta av generativitet. Vi har kallat det för ’bounded generativity’ som möjligen kan översättas till styrd generativitet för att beskriva hur man man strävar efter att succesivt expandera generativiteten utan att kompromissa med systemets kritiska funktioner.

Förändringar i systembyggande industri

Våra resultat pekar på en föränderlig roll för den systembyggande industrin och dess systemintegrerande företag. Vi ser en ökad betydelse av lärande
och anpassning under en systemlivscykel växa fram samtidigt som ett bredare spektrum av sociala aspekter kommer att behöva beaktas. Systemintegration kommer också att ske i större utsträckning i en system-av-system kontext, där en traditionell system-integratör inte har full kontroll eller ens koll på alla aktörer. Detta innebär att en ökad förståelse för situationen behövs, att nya förmågor för att navigera det industriella landskapet krävs som tillåter kombinationen av olika utvecklingslogiker (t ex iterativ och plandriven och data- och modellbaserade metoder) på ett evolutionärt sätt med syfte att uppnå en styrd generativitet i ett mer flytande ekosystem. Vi ser t.ex. att supply chain logiken kompletteras med ekosystem, maximering av kontroll kompletteras med navigering och manövrering i situationen. Det handlar inte om att välja den ena eller den andra logiken, utan alltmer om att förstå när och var de olika logikerna ska tillämpas och hur de ska kombineras.

En föränderlig roll för framtida ingenjörer

Att skapa en ansvarfull framväxt av AI i komplexa kontexter kräver en kritisk diskussion kring AI, med hänsyn till etiska aspekter och samhällsmässiga aspekter bortom ett företags övergripande policy-dokument och strategier som rör ansvarfull och hållbar utveckling. En sådan diskussion behöver även få förutsättningar att genomsyra t.ex. ingenjörers dagliga kreativa utvecklingsarbete. Framtida ingenjörer och ingenjörsteam behöver kunna beakta och integrera ett bredare spektrum av aspekter i system-utvecklingsarbetet, med större fokus på samhälleliga och etiska perspektiv. Detta förändrar förutsättningarna för och karaktären av framtida ingenjörsarbete och kräver ytterligare kompetensutveckling och kanske även stöd av till exempel AI.

Managements framtid med AI

I linje med vad vi föresatt oss att göra, så har vi kombinerat teknik och ledningsperspektiv under beaktande av samhällsaspekter för att spegla behovet av management med ett bredare samhällsansvar. Vi har ett projektekosystem som rymmer management-forskare, AI-forskare och praktiker där vi känner att vi bara är i början av kunskapsbygget. Att använda AI i komplexa sammanhang är en lång resa som sannolikt innehåller ett antal nödvändiga steg över en längre tid. När AI kan behandlas isolerat i en funktion med tydliga avgränsningar påminner det mycket om att införa en ny teknologi, men eftersom nyttan till en stor del förväntas i ett komplexare sammanhang så behöver betydligt fler aspekter och perspektiv än teknologin beaktas. I våra mångfacetterade studier adresserar vi flertalet områden, bl. a. beslutsfattande med stöd av AI, designkompletthet, dialektik, ekosystem, rutiner, samspelet mellan kunskap och data, kombination av modeller och data i systemutveckling med mera. Vi hoppas också inspirera andra forskare att bidra till hur organisationer ska ledas ansvarsfullt när AI blir en allt viktigare del i komplexa sammanhang. Utifrån våra forskningsresultat kan några praktiska rekommendationer lyftas fram: 

• Om du försöker lösa hela problemet med AI, så tittar du antagligen för snävt på problemet

• I komplexa sammanhang behöver utvecklings-logiker kombineras och anpassas efter behov

• Ingenjörsarbete behöver i större utsträckning än tidigare beakta systemlösningar, samhällmässiga aspekter och etiska förhållningssätt

• Förmågor och angreppssätt för att uppnå ’styrd generativitet’ kan behöva utvecklas för att säkerställa systemets kritiska funktionalitet samtidigt som generativiteten succesivt kan expandera.

Om forskningen

Detta arbete är delfinansierat av Wallenberg AI, Autonomous Systems and Software Program – Humanities and Society (WASP-HS) finansierat av Marianne and Marcus Wallenberg Foundation inom ramen för projektet ”Framväxten av komplexa intelligenta system och framtidens management”Resultaten har bland annat publicerats i:
Lakemond, N., Holmberg, G., & Pettersson, A. (2021). Digital transformation in complex systems. IEEE Transactions on Engineering Management. 10.1109/TEM.2021.3118203
Lakemond, N., & Holmberg, G. (2022). The quest for combined generativity and criticality in digital
– physical complex systems. Journal of Engineering and Technology Management, 65, 101701. https://doi.org/10.1016/j.jengtecman.2022.101701
Yu, Y., Lakemond, N., Holmberg, G., AI in the Context of Complex Intelligent Systems:
Engineering Management Consequences. IEEE Transactions on Engineering Management 10.1109/TEM.2023.3268340

  • Nicolette Lakemond Fellow

    Nicolette är professor i industriell organisation vid LiU. Hon är PI för NICER. I sin forskning tillämpar hon många perspektiv från management och innovationsforskning i kombination med teknik-perspektiv. Hon intresserar sig speciellt för att göra forsknings-området mer fenomenfokuserat och framåtriktat.

  • Gunnar Holmberg

    Gunnar har lång erfarenhet från forskning, strategi och affärsutveckling inom flygindustrin och är vidare adjungerad professor vid LiU. Han är Co-PI för NICER och i sin forskning tar han gärna perspektiv från designteori och dialektik. Han brinner för att hitta angreppssätt i forskningen som kombinerar robusthet och relevans med ett framåtperspektiv.

  • Youshan Yu

    Youshan är doktorand i NICER. Hon studerar kombinationen av säkerhetskriticitet och generativitet, där hon studerar utvecklingen av integratörens roll, flytande systemgränser, störningstålighet och data-driven innovation. Hon studerar specifikt sjöräddning och demonstrationsarenan WARA Public Safety i Wallenberg AI, Autonomous Systems and Software Programs (WASP)

  • Bijona Troqe

    Bijona är doktorand i NICER. Hon studerar kombinerat mänskligt och AI beslutsfattande med fokus på hälsa och sjukvård. Genom att studera individanpassad vård och beslut med hjälp av AI har hon målet att bidra till att belysa framtida möjligheter och att ge bättre förståelse för vad AI kan innebära för framtida beslutsprocesser.

  • Elinor Särner

    Elinor är doktorand i NICER och studerar kollektivt expanderande rationalitet och meningsskapande. I gränslandet mellan design och systemutveckling utforskar hon bland annat artefakters roll i samspelet mellan aktörer för att bygga smarta städer för framtida behov. Hon undersöker också vilken påverkan AI-inblandning har på design-metodik.

  • Appu Balachandran

    Appu är doktorand i NICER. Han studerar systemutveckling och innovation som alltmer baseras på en kombination av modellbaserade och datadrivna metoder. Han studerar kombinationer av projektledning och ledning och organisering av ingenjörsarbete i flyg och fordonsindustrin för att bidra till framtida kombinerade utvecklingslogiker.

  • Yunchen Sun

    Yunchen är postdoktor i NICER och har studerat samspelet mellan rutiner och införandet av digital teknik i industriella sammanhang något som han sätter i NICERs kontext med målet att bidra till utvecklingen av AI på ett ansvarsfullt sätt.

  • Gouthanan Pushpananthan

    Goutha är postdoktor i NICER och har studerat innovationsekosystem i fordonsindustrin. I NICER planerar han att studera tillämpningen av AI för att utveckla komplexa system med fokus på hur industriföretag kan bygga förmågor för att skapa värde i mångfacetterade ekosystem.

Vi använder oss av cookies för att förbättra användarvänligheten och prestandan för sajten. Genom att klicka på godkänn-knappen eller surfa vidare på siten går du med på denna lagring.