Salesforce är en pionjär inom teknik och innovation, men också inom etisk AI – när den molnbaserad CRM-plattformen blir AI-driven.
”Våra kunder måste kunna lita på att vi använder tekniken ansvarsfullt,” säger Paula Goldman, Chief Ethical och Human Use Officer på Salesforce.
Salesforce, den globala CRM-ledaren, fortsätter att utveckla sin molnplattform och tar täten inom AI-CRM med fullt stöd i processerna. Denna innovation öppnar upp nya möjligheter för kunderna att fatta datadrivna beslut med hjälp av smarta agenter, men ställer samtidigt nya krav på etiska överväganden. Salesforce tar en ledande roll även här och positionerar sig som en stark förespråkare för transparent, hållbar och etisk AI.
På företagets utvecklarevent TDX2025 i San Francisco träffar vi Paula Goldman, Chief Ethical and Human Use Officer, för att diskutera de etiska utmaningarna med snabbväxande teknologier. Hur säkerställer Salesforce att artificiell intelligens används på ett rättvist och ansvarsfullt sätt? Och vilka principer styr företagets arbete för att skapa långsiktigt positiva effekter för både människor och planeten?
”Våra kunder måste kunna lita på att vi använder teknologier på ett rättvist och ansvarsfullt sätt. Vi strävar efter att skapa AI som är begriplig och att alla beslut kan spåras, så att ingen känner sig oskyldigt påverkad eller utanför,” säger Paula Goldman.
Som Chief Ethical and Human Use Officer har hon en nyckelroll i att säkerställa att företagets lösningar inte bara är tekniskt avancerade utan också hållbara och transparenta. Systemen måste vara pålitliga, och när AI används för att fatta beslut som påverkar individer och samhällen måste dessa beslut kunna förstås och förklaras.
Paula Goldman, Chief Ethical och Human Use Officer på Salesforc
Förklarbarhet och dataintegritet
En av de största utmaningarna med AI är att säkerställa att algoritmer och beslut inte bara är exakta, utan också rättvisa och icke-diskriminerande. Salesforce har utvecklat specifika processer för att garantera att data används ansvarsfullt.
”För oss handlar det inte bara om att nyttja teknikens kraft, utan också om att förstå och hantera de risker som kan uppstå när AI används för att analysera och fatta beslut baserat på data,” förklarar Paula Goldman.
”Vi ser till att varje del av vår lösning är transparent och att vi följer strikta regler för dataintegritet.”
Ett 26-årigt engagemang för etik och förtroende
Paula Goldman betonar att Salesforces engagemang för etik och förtroende är en långsiktig strategi som har varit en del av företagets DNA sedan starten.
”För oss handlar det inte bara om att följa regler, utan om att bygga och upprätthålla långsiktigt förtroende med våra kunder.”
Under de 26 år som gått sedan bolaget grundades 1999 har Salesforce konsekvent prioriterat kundernas förtroende och datasäkerhet. Det handlar inte bara om att följa de senaste reglerna för dataskydd, utan också om att säkerställa att användardata behandlas med största möjliga respekt för sekretess och säkerhet.
Etiska utmaningar med snabb teknologisk förändring
Den generativa AI-teknologin utvecklas i rasande fart, och med det följer nya etiska utmaningar. Paula Goldman nämner specifikt ”non-determinism”, vilket innebär att systemen inte alltid ger samma resultat vid samma input. Detta kan skapa problem för transparens och ansvarstagande, särskilt när AI används för att fatta beslut som påverkar människor.
”Den snabba utvecklingen inom AI är också en av de största utmaningarna – hur hanterar vi system som förändras på sätt vi inte helt förstår? Det krävs ett kontinuerligt arbete för att både analysera dessa system och säkerställa att de används etiskt,” säger Paula Goldman.
Policy, process och produkt – etiska riktlinjer från grunden
Salesforce har utvecklat en omfattande uppsättning etiska riktlinjer för att säkerställa att alla produkter och tjänster är i linje med företagets värderingar. Dessa riktlinjer omfattar hela livscykeln för AI-lösningarna – från design och utveckling till implementering och användning.
”Det handlar om att ha tydliga riktlinjer i varje steg och att alltid sätta etiken i första rummet. Vi ser till att alla våra produkter genomgår etiska granskningar innan de släpps på marknaden och att vi tar ansvar för AI-lösningarnas användning på lång sikt,” förklarar Paula Goldman.
Ett konkret exempel på hur Salesforce implementerar sina etiska riktlinjer är den AI-drivna lösningen Salesforce Einstein GPT. Einstein är designad med inbyggda funktioner för förklarbarhet och rättvisa, vilket gör att användare kan förstå varför AI fattar specifika beslut. Detta skapar inte bara transparens, utan säkerställer även att AI inte bidrar till orättvisor.
”Vi har integrerat etiska riktlinjer i produktutvecklingen från början – inte som ett efterhandstillägg, utan som en grundläggande del av hela design- och implementeringsprocessen,” säger Paula Goldman.
Årlig rapport om etisk AI
För att ta ansvar, säkerställa transparens och skapa en öppen dialog om framtida etiska utmaningar publicerar Salesforce årligen en rapport om den etiska och humana användningen av AI. Rapporten är en central del av företagets åtagande att vara ansvarsfulla och tydliga med hur tekniken utvecklas och används.
”Vi tror på att vara öppna med både våra framsteg och de utmaningar vi möter. Det räcker inte att bara tala om etik – vi måste också visa konkreta resultat och bjuda in andra till samtalet,” avslutar Paula Goldman.
Av Annika Guldroth
