Risker och möjligheter med generativ AI
Generativ AI har blivit en central diskussion inom teknikvärlden 2023, med potential att revolutionera allt från klimatarbete till sjukvård. Samtidigt väcker denna teknik frågor om dess risker. På Zington följer vi utvecklingen noggrant och ser generativ AI som en teknik full av möjligheter, men med viktiga risker att beakta. I denna artikel kommer vi att utforska och diskutera en rad av dessa risker.
Sanningsutmaning: AI-hallucinationer
Generativa AI-modeller kan hitta på saker, vilket ofta beskrivs som att modellen "hallucinerar". Det är egentligen inget att höja på ögonbrynen för eftersom de allra flesta AI-modellerna har tränats för att vara hjälpsamma snarare än strikt sanningsenliga.
AI-modeller som genererar text, så kallade språkmodeller, är inte experter på att ta fram kvalitativa svar. Å andra sidan är de väldigt bra på att generera kvantiteter av text. Använd AI därför hellre för att skapa utkast på texter som ska skrivas för att bli mer effektiv, men kontrollera innehållet för att säkerställa kvaliteten på slutprodukten.
Många företag som utvecklar språkmodeller jobbar på att göra AI-modellernas svar mer korrekta, så att man ska kunna lita på dem i större utsträckning. Men vi är inte riktigt där än.
Upphovsrättsutmaning: dataläckage
Generativ AI bygger på enorma mängder data, vilket är orsaken till att modellerna ”vet” så mycket. Större mängd och mer varierade data ger modeller mer kunskap, väldigt förenklat. Det har dock visat sig att mycket data som använts när modeller har tränats har varit upphovsrättskyddad, och i skrivande stund pågår ett flertal rättstvister för att bestämma om detta varit olagligt eller inte. Fallen inkluderar konstnärer, författare, utvecklare och liknande som hävdar att upphovsrätten för material som de har producerat inte har respekterats på olika sätt.
En ytterligare problematik med AI-modellernas träningsdata är att det förekommer dataläckage. Med det menas att modellerna genererar svar som inkluderar känslig information från träningsdatan, exempelvis personuppgifter. Varför har man då inte tagit bort alla känsliga uppgifter från träningsdatan? Svaret ligger i den enorma omfattningen av datamängder som används. Vi talar om datamängder som innehåller miljarder, ibland till och med biljoner ord. Att manuellt granska och rensa ut känslig information från sådana volymer är en överväldigande uppgift, vilket gör det praktiskt taget omöjligt att säkerställa att all känslig data har tagits bort.
Hållbarhetsutmaning: energikrävande teknik
Träningen av AI-modeller och deras skapande av material kräver enorma mängder energi på grund av den intensiva datorkraften som behövs. Det är inte bara väldigt dyrt, utan skapar också frågor om hållbarhet och hur man ska hantera de stora mängder koldioxidutsläpp detta orsakar. Även om molntjänster, som ofta används för AI-träning, erbjuder effektivitetsfördelar och arbetar för att minska utsläpp, ökar AI-modellernas växande storlek och komplexitet ständigt energibehovet. Det framhäver behovet av mer energieffektiva lösningar.
Verklighetsutmaning: deepfakes
AI:s förmåga att skapa nästan verklighetstrogna bilder och videor är verkligen imponerande och visar på teknikutvecklingens framsteg de senaste åren. Men när det blir svårt att skilja äkta från AI-genererat blir det enkelt att sprida fejkat innehåll och påstå att det är sant. Sådant innehåll brukar kallas för deepfakes och har blivit ett vanligt förekommande fenomen på sociala medier i syfte att sprida propaganda och missinformation. Medan källkritik är viktigt för att skydda sig mot vilseledande innehåll, är förebyggande åtgärder för att stoppa spridningen av fejkad information ännu viktigare. För att adressera dessa risker håller EU på att införa lagstiftning som AI Act vilken ställer krav på ökad transparens i stora AI-system, inklusive tydlig märkning av AI-genererade bilder.
Utveckling och tillämpningar med AI
Trots riskerna fortsätter utvecklingen och tillämpningen av AI att accelerera. Olika branscher experimenterar med hur de kan dra nytta av dessa nya möjligheter, från läkemedelsforskning till musikskapande, som exempelvis när Beatles oväntat släppte en ny låt förra året. Vi ser även en ökande integration av generativ AI-funktionaliteter i befintliga verktyg och tjänster, såsom GitHub och Microsoft 365.
Utvecklingen inom generativ AI tenderar att röra sig mot mindre, specialiserade modeller snarare än enstaka stora modeller som ska hantera allt. Dessa specialiserade modeller kan skräddarsys för att prestera exceptionellt väl inom specifika områden. Dessutom blir modeller som kan hantera olika datatyper, som text, ljud och bild, allt vanligare. Med tanke på den snabba utvecklingen det senaste året, kan vi förvänta oss att se ännu mer mångsidiga och användarvänliga generativa AI-lösningar i framtiden.
Avslutning
I den här artikeln har vi endast skrapat på ytan till en mycket komplex teknik som väcker komplicerade frågor och kräver genomtänkta ställningstaganden. Utan tvivel för AI och generativ AI med sig många nya möjligheter för många olika branscher, och vi på Zington följer denna utveckling med stort intresse. Det är dock viktigt att vara vaksam och noggrann i överväganden kring implementation av AI-modeller, och det sätter nya krav på överväganden för personer inom teknikbranschen. De etiska diskussionerna som uppstår i samband med AI-teknikens framsteg är något vi måste anpassa oss till. Genom att ha en välgrundad förståelse och en helhetsbild av både riskerna och möjligheterna som AI erbjuder, kan vi tillsammans arbeta mot en mer framgångsrik och ansvarsfull framtid med AI.
