Kan man lita på AI?
Av – Vi är bara i början av utvecklingen av artificiell intelligens. Kollar vi tillbaka om 50 år på det vi gör i dag, kommer vi tycka att det är ganska primitivt. Med andra ord är det mesta fortfarande kvar att upptäcka. Därför är det viktigt att lägga grunden för en tillförlitlig AI redan nu, säger Fredrik Heintz, professor i artificiell intelligens vid Linköpings universitet och samordnare för EU-projektet Tailor.
Tailor är ett av totalt sex forskningsnätverk inrättade av EU för att stärka forskningskapaciteten och utveckla framtidens AI. Inom nätverket ska grunden för en tillförlitlig artificiell intelligens läggas genom att ta fram ramverk och riktlinjer samt specificera AI-forskningens behov. Tailor står för Foundations of Trustworthy AI – integrating, learning, optimisation and reasoning, eller integrering, inlärning, optimering och slutsatsdragning på svenska.
Forskarna har specificerat tre kriterier för att uppnå tillitsfull AI: den ska följa lagar och regler, uppfylla ett antal etiska principer samt att det ska vara en robust och säker implementering. Fredrik Heintz menar att det innebär stora utmaningar, framför allt att förverkliga de etiska principerna.
– Ta till exempel rättvisa – innebär det lika fördelning av resurser eller att alla får resurser efter behov för att komma upp på samma nivå? Det är stora och långsiktiga frågor som kommer ta tid att lösa. Definitionen av rättvisa har ju debatterats av filosofer och tänkare i hundratals år, säger Fredrik Heintz.
Färdplanen som nu presenteras av Tailor är ett första steg mot en standardisering där tanken är att beslutsfattare och finansiärer ska få en inblick i vad som krävs för att utveckla en tillförlitlig AI. Enligt Fredrik Heintz finns det en poäng att visa att det finns en mängd forskningsproblem som behöver lösas för att nå dit.
– Ofta ser man på AI som en teknikfråga men det viktiga är egentligen hur vi får samhällsnytta av den. För att få en AI som går att lita på och funkar i samhället behöver den vara människocentrerad, säger Fredrik Heintz.
Inom EU och nationellt skrivs många förslag av jurister. Men enligt Fredrik Heintz saknar de expertkompetens inom AI-området vilket blir ett problem.
– Lagstiftning och standarder behöver vila på vetenskap. Där kommer vi forskare in och kan berätta var forskningsfronten ligger och bli möjliggörare för väl underbyggda beslut. Det är viktigt att låta experter ha inflytande i den här typen av frågor, säger Fredrik Heintz.