AI och svensk juridik

Vilket ansvar omger AI?

En belgisk man med psykiska problem och en oro för klimatförändringarna, chattade fram en form av vänskap med AI-roboten Eliza. Det slutade med att han tog sitt liv. Mannen efterlämnade en fru och två unga barn. Händelsen är tragisk och ingen vet om han begått självmord även utan interaktionen med den aktuella mjukvaran Eliza. Det faktum att vi idag kan skaffa relationer med en mjukvara medför risker. Exemplet ovan, att en psykiskt utsatt människa får sin oro och ångest bekräftad av AI-teknik, visar på baksidan av utvecklingen. Hur skulle motsvarande situation, om den inträffar i Sverige hanteras rent rättsligt? Hur juridiken bedömer de här situationerna vet vi inte än. Det finns 3 givna frågor om hur AI hanteras inom svensk rätt, dessa reder vi ut nedan!

Hur hanteras AI inom svensk rätt?

1. Var prövar vi ansvaret?

   I en artikel i maj uppger DN att företaget bakom appen är Chai Research. De är belägna i Palo Alto i Kalifornien, USA. Om detta drabbar en svensk familj har den ingen möjlighet att i svensk domstol pröva frågan mot ett bolag som är etablerat i USA. Bör det då finnas en möjlighet för svensk domstol att pröva talan mot ett utländskt Tech bolag baserat på att den digitala tjänsten konsumerades i Sverige?

2. Finns det någon som ansvarar?  

   I det här fallet interagerade mannen med en mjukvara som är skapad för att självständigt samspela med sina användare. Förutsatt att man bevisar att mannens vänskap med mjukvaran faktiskt påverkade hans handlande – att begå självmord – ska då skaparen av mjukvaran hållas ansvarig för skadan? Eller är det mer naturligt att det företag som gjort Elize tillgängligt för allmänheten ansvara för de skador som kan uppstå?

3. Vad innebär ansvaret?  

   Enligt svensk rätt har mannens anhöriga en begränsad rätt till ersättning. Hade den efterlevande frun varit beroende av sin mans inkomst för att försörja sin familj kan, under vissa begränsade omständigheter, kompensatorisk ersättning utbetalats. Detta beror på att svensk skadeståndsrätt bygger på den reparativa principen, den skadelidande ska ha samma ekonomiska sitts efter skadan som före. Möjligheterna till kompensation när det gäller dödsfall är alltså enastående begränsade. Det finns dock undantag i svensk lagstiftning där vi tillämpar preventiva skadestånd. Principen innebär att skadeståndet ska sättas till ett sådant belopp att skadevållaren påverkas ekonomiskt vid skada. För Chai Research, ett Tech bolag beläget i Palo Alto i Kalifornien, är det sannolikt att ett belopp som potentiellt är kännbart för bolagets egen ekonomi bidrar till att undvika att deras produkter interagerar urskillningslöst med suicidala kunder. Och kan de inte nå en sådan säkerhetsnivå kan de fokusera på att tillhandhålla andra produkter som de tjänar pengar på.

De här frågeställningarna är inte oväntade och de är heller inte svåra att adressera. Frågan är när och hur den lagstiftande funktionen löser detta – en fråga som det är upp till våra politiker att lösa.

Hör av dig till info@legio.se, eller kontakta en av våra jurister: William Vanberg och Felix-Benjamin Hilla