Denna studie syftar till att öka förståelsen för hur AI-promptning kan designas i digitala barnböcker för att motverka bias och samtidigt förbättra användarupplevelsen. Genom att utveckla och utvärdera en egen artefakt undersöks hur användarstyrd och systemstyrd promptning kan kombineras för att skapa mer inkluderande och rättvisa AI-genererade berättelser, med fokus på representation av kön och hudfärg i både text och bild. Studien riktar sig främst till forskare, utvecklare och designers inom AI och digitala barnprodukter. Teoretiskt utgår studien från begrepp kring användarupplevelse (UX) och användbarhet, där UX handlar om den helhetsupplevelse en produkt ger, och användbarhet om hur effektiv, lättlärd och tillfredsställande produkten är. Designprinciper för webb såsom interaktivitet, navigation och tillgänglighet betonas, liksom emotionell design som skapar engagemang via visuella och auditiva element. AI och promptning lyfts fram som viktiga designelement i moderna interaktiva system. Metodologiskt används Design Science Research (DSR) med en abduktiv ansats. Datainsamlingen kombinerar kvalitativa intervjuer med barnboksförfattare och en kvantitativ enkät till föräldrar. Artefakten utvärderas både genom kvantitativ analys av genererade sagor för stereotyper och kvalitativa användartester med think aloud-observationer. Studien följer DSR:s iterativa processer för problemidentifiering, kravinsamling, artefaktutveckling och utvärdering. Resultaten visar att artefakten, en webbaserad tjänst för AI-stött barnboksskapande, lyckas skapa en inkluderande, engagerande och lättanvänd design. Särskilt framhålls balansen mellan användarstyrd och systemstyrd promptning som en nyckel till att ge användarna frihet att påverka innehållet utan att förstärka stereotyper. Dock identifieras behov av förbättringar inför nästa utvecklingsfas. Diskussionen lyfter fram att en kombination av diskret systemstyrning och aktiv användarstyrning är effektiv för att motverka bias utan att begränsa kreativitet. En viktig utmaning är att hantera tekniska begränsningar, särskilt den tidskrävande bildgenereringen som påverkar användarupplevelsen. Studien betonar även behovet av nyanserad representation i AI-innehåll, vilket kräver mer avancerade prompts och bättre träningsdata. Transparens i AI-systemets styrning föreslås som en väg att öka användarnas förtroende och förståelse.

This Swedish study aims to increase understanding of how AI prompt design can be applied in digital children’s books to counteract bias while enhancing user experience. By developing and evaluating a self-created artifact, the study investigates how user-driven and system-driven prompting can be combined to create more inclusive and equitable AI-generated stories, focusing on representation of gender and skin color in both text and images. The study primarily targets researchers, developers, and designers working with AI and digital children’s products. Theoretically, the study builds on concepts of user experience (UX) and usability, where UX concerns the overall subjective experience a product provides, and usability focuses on the product’s effectiveness, learnability, and satisfaction. Web design principles such as interactivity, navigation, and accessibility are emphasized, along with emotional design that fosters engagement through visual and auditory elements. AI and prompting are highlighted as important design elements in modern interactive systems. Methodologically, Design Science Research (DSR) with an abductive approach is employed. Data collection combines qualitative interviews with children’s book authors and a quantitative survey directed at parents. The artifact is evaluated through both quantitative analysis of generated stories for stereotypes and qualitative user tests with think-aloud observations. The study follows DSR’s iterative processes of problem identification, requirement gathering, artifact development, and evaluation. Results show that the artifact, a web-based AI-supported children’s book creation tool, successfully achieves an inclusive, engaging, and easy-to-use design. The balance between user-driven and system-driven prompting is emphasized as key to allowing users freedom to influence content without reinforcing stereotypes. However, some areas for improvement are identified for the next development phase. The discussion highlights that a combination of subtle system control and active user guidance is effective in counteracting bias without limiting creativity. A major challenge is handling technical constraints, especially the time-consuming image generation that impacts user experience. The study also stresses the need for nuanced representation in AI content, which requires more advanced prompts and better training data. Transparency in AI system governance is suggested as a way to increase user trust and understanding.