AI innebär både möjligheter och risker

Talreferat

För fond- och kapitalförvaltare finns det både möjligheter och risker när det kommer till AI. Jag tänkte inleda med att nämna något om det ansvar som ni har och sen berätta mer om hur FI tar sig an AI i tillsynen.

AI-förordningen är en kompletterande reglering, de regelverk som redan finns inom finanssektorn har en teknikneutral ansats och dessa regler behöver följas även i det fall man använder AI i någon del. FI ser neutralt på en ökad användning av AI i finanssektorn så länge regelverken följs och tillkommande risker hanteras. Regelverk och krav är oberoende av vilken teknik som används. Processer som ersätts av AI ska leva upp till lagen för den processen.

Det är positivt om AI-användning kan leda till bättre produkter och tjänster, lägre avgifter eller högre riskjusterad avkastning. Andra positiva användningsområden där AI-användning kan göra nytta är i arbetet med att motverka bedrägerier, penningtvätt och cyberbrott.

Vi kan dock inte undgå att följa de risker som utvecklingen av AI innebär. För konsumenter kan det handla om risker kring transparens, bias och diskriminering eller hantering av persondata.

När det gäller väl fungerande marknader finns det risker kring marknadsintegritet, förklarbarhet och systemrisker. Och när det gäller samhället i stort finns det naturligtvis risker från AI-användning av illvilliga eller oaktsamma aktörer, cyberangrepp, bedrägerier, desinformation osv.

FI:s förväntansbild på fond- och kapitalförvaltare är att ni ska uppfylla de krav på transparens som ställs vid användning av AI. Och självfallet att ni fortsätter att uppfylla de krav som fortfarande gäller utifrån rörelselagstiftningen beroende på vilken del av kapitalmarknaden som ni verkar inom. Ansvar kan aldrig delegeras till AI. Detta kräver att ni säkerställer att såväl medarbetare som ledningspersoner har den kunskap och kompetens som krävs. Satsa på utbildning. Underskatta inte behovet av att bolagets granskningsfunktioner är tillräckligt insatta i de risker som tillkommer från AI. Vi förväntar oss att alla bolag som använder AI gör en god riskbedömning och har en tillfredställande riskhantering. Det är viktigt att testa AI-modeller innan de sjösätts och att löpande följa upp resultaten efter implementering.

Den enkät som gjordes 2024 visade att AI främst användes av företagens anställda. Endast 22 procent av företagen hade konkreta användningsfall i produktion eller under utveckling när det gällde att integrera AI i verksamheten. Däremot hade 46 procent av företagens projekt som befann sig i en experimenterade eller pilot-stadium.

Sedan dess har det naturligtvis hänt mycket. Därför kommer FI att under hösten 2026 göra en ny enkät. Vi kommer också genomföra dialogmöten med marknadens aktörer för att förstå mer ingående om det finns risker från AI som vi behöver adressera redan nu, men också för att skapa en förståelse för marknadens behov av vägledning.

Internt på FI arbetar vi med kompetensutveckling inom AI. Vi har även byggt en egen AI-infrastruktur och har därmed skapat förutsättningar för att användning av AI i tillsynsarbetet.

Mina viktigaste medskick till er att ni följer de tillkommande kraven på transparens och att ni förstår att ni i övrigt har samma ansvar som förut. Ansvar kan inte delegeras till AI. Säkerställ att ni har kompetensen att förstå de tillkommande riskerna från AI. Se till att risker från AI är integrerat i intern styrning och kontroll och riskbedöm från fall till fall. Testa och följ upp.

Vi står alla inför nya möjligheter och utmaningar, och därför är det extra viktigt att våga föra dialog, utmana invanda arbetssätt och söka lösningar tillsammans. Förändring ställer krav på oss, men den skapar också möjligheter att utvecklas och bli bättre. Låt oss ta vara på dem. Tack för er uppmärksamhet.