AI med Arash #34 – AI exklusiv för medborgare?

Innan vi hoppar in i månadens nyhetsbrev tänkte jag testa något nytt! Jag har lagt in nyhetsbrevet i Audio Overview (som jag nämnde förra månaden) – nu finns alltså månadens nyhetsbrev som podd på engelska, så att ni kan lyssna istället för att läsa. Ni hittar den här.

###

November är här och det är dags för ett nyhetsbrev! Jag får inleda med något väldigt sorligt och mörkt denna gång, en historia som verkligen berör mig och synliggör de etiska dilemman vi står inför med AI då bolaget Character AI toppar just nu rubrikerna av en tragisk anledning.

En mamma i Florida har stämt företaget efter att hennes 14-åriga son, Sewell Setzer III, tragiskt nog tog sitt liv. Historien har fått stort genomslag efter ett starkt reportage av NYT-journalisten Kevin Roose, som lyfte fallet i detalj som ni kan läsa här som gåvolänk.

Mamman beskriver hur Sewells personlighet förändrades drastiskt under en månad av konversationer med sin Character AI-bot, “Dany” – döpt efter Game of Thrones-karaktären Daenerys Targaryen. Han isolerade sig alltmer och tillbringade nästan all sin tid med “Dany”, som han kallade henne. Deras samtal blev alltmer intensiva och stundtals intima.

Vid ett tillfälle nämnde Sewell sina suicidala tankar för boten. Trots att boten ifrågasatte hans tankar, bröt den aldrig karaktär och gav inga hänvisningar till hjälp eller stöd. Detta är förstås ett stort problem.

Character AI lanserades 2021 av tidigare Google-anställda Noam Shazeer och Daniel De Freitas, som ska ha lämnat Google när de inte fick förverkliga sin idé internt som en del av Google Assistant. De ville ha mer frihet. Tjänsten låter användare skapa egna AI-drivna chatbots med olika personligheter och funktioner – en slags oreglerad rollspelsplattform där spannet är stort.

Idag har Character AI över 20 miljoner aktiva användare och besöks av totalt 200 miljoner personer per månad, där över 60 % är i åldern 18–24 år. I augusti 2024 återvände Shazeer och De Freitas till Google som en del av Google DeepMinds forskarteam, i en överenskommelse där Google fick icke-exklusiv tillgång till Character AI:s språkmodell och potentiellt dess data i utbyte mot finansiering.

Det finns så mycket mer att säga om detta, och kanske får det bli en egen krönika. Varje självmord är ett enormt misslyckande. Att Character AI inte tidigt införde tydliga “red flags” för den här typen av konversationer är allvarligt. När en AI-bot märker sådana signaler borde det omedelbart hänvisas till stöd och resurser för hjälp – men detta prioriterades inte och infördes först efter denna tragedi.

Ännu värre är att grundarna hoppade av från Google, där de upplevde byråkrati som ett hinder, för att samla in hundratals miljoner och skapa en friare plattform. Resultatet? En tjänst som lämnar sårbara användare utan skyddsnät. Ironiskt nog har grundarna nu återvänt till Google. Det är häpnadsväckande dåligt hanterat i så många led och gör mig fruktansvärt besviken.

Denna tragedi illustrerar också något jag länge har betonat: AI känner inget, vill inget och förstår inget. Den kalkylerar bara data för att ge de svar som den tror uppskattas mest. I känsliga konversationer måste därför red flags finnas för att stoppa samtalet och hänvisa till hjälp. Att detta inte prioriterades från början är bortom all kritik.

/Arash

• Forskare pratar med valar med hjälp av AI
• Ny mobilversion av AI från Hugging Face
• AI genererar spelvärld i realtid
• Disney skapar avdelning för AI och AR

Danmark presenterar nationell AI

Danmark lanserade nyligen en enorm AI-superdator i samarbete med NVIDIA och Danska Centret för AI-innovation. Superdatorn har fått namnet Gefion efter gudinnan Gefjun i nordisk mytologi (som ni ser i bilden av rubriken) och ska användas för att driva forskning inom kvantdatorer, ren energi och bioteknik, samt att stärka landets självständiga AI-kapacitet.

Gefion förväntas också bidra till att lösa globala utmaningar inom smittsjukdomar, klimatförändringar och livsmedelssäkerhet. Bland de första projekten ingår förbättrade väderprognoser, kvantberäkningar och sjukdomsforskning. Denna satsning stärker Danmarks position inom AI och markerar ett betydande steg mot nationell AI-suveränitet.

För att sätta gefions datakraft i perspektiv: Gefion kan utföra 6 exaflops (6 miljarder miljarder beräkningar per sekund) i FP8 AI-prestanda. Detta gör den till en av de mest kraftfulla AI-superdatorerna globalt. Till exempel är den mer än dubbelt så kraftfull som Sveriges snabbaste superdator för AI, Berzelius, som huserar vid Linköpings universitet.

Gefion kommer att användas för att driva forskning inom kvantdatorer, ren energi och bioteknik, samt för att stärka Danmarks självständiga AI-kapacitet. Bland de första projekten ingår förbättrade väderprognoser, kvantberäkningar och sjukdomsforskning. Detta initiativ förväntas avsevärt stärka Danmarks position inom AI-forskning och innovation. Kämpa Sverige.

ChatGPT får egen sökmotor med SearchGPT

OpenAI har lanserat en webbsökningsfunktion i ChatGPT för betalande användare, med planerad expansion till gratis-, företags- och utbildningsanvändare. Funktionen använder Bing och en finjusterad GPT-4-modell för att leverera realtidsdata, vilket tar igen ett försprång som till exempel Google Gemini och Microsoft Copilot har haft. Sökresultaten innehåller interaktiva element och källhänvisningar, och till skillnad från till exempel Google har ChatGPTs sökfunktion inga annonser.

Jag får samma känsla nu som när Google en gång revolutionerade sök. Minns ni? Yahoo dominerade med en överfull sida, och så kom Google – en sida som bara var sök. Inga annonser, inga störande element, bara ett rent och avskalat gränssnitt. Idag känns Google faktiskt lite som Yahoo då, medan OpenAI påminner mer om det tidiga Google – enkelt, snyggt och avskalat. Jag säger inte att Google kommer att falla, men konkurrensen är mer än välkommen.

Varje månad tipsar jag er om häftiga eller intressanta AI-verktyg som dykt upp. För är det något du behöver göra för att haka på och hänga med så är det att testa, testa och testa!

Colossyan

Forma en AI-klon av dig själv och skapa videor med dig själv utifrån text i dennaapp.

Synthflow

Med detta verktyg kan du skapa en egen AI-röst som kan hantera telefonsamtal kopplat till flera olika kundtjänstrelaterade ämnen.

För fler tips på AI-verktyg, utforska min AI-verktygslåda som du hittar i min senaste bok I love AI och här.

Systematisera analyser av kundfeedback med denna prompt:

“Utveckla ett system för att samla in, analysera och implementera kundfeedback från flera kanaler (som sociala medier, supportärenden och recensioner) för att kontinuerligt förbättra [produkt/tjänst/varumärke].”

“Competition for AI superiority at national level is the most likely cause of WW3.”

— Elon Musk

Här delar jag med mig av en bild, film eller något kreativt som AI har skapat för att vi ska förstå var vi är.

Animationsstudio hemma i vardagsrummet

Runway släppte just en applikation kallad Act-Onedär du kan skapa videor med karaktärer som imiterar allt du säger och uttrycker med ansiktet, helt utan avancerad teknik. Spela in hemma i vardagsrummet och skapa filmmagi. Kolla in deras nya film som är väldigt lovande:

AI har förändrat spelplanen för marknadsförare. Men hur använder du dess kraft fullt ut? I vårt exklusiva white paper delar vi på Viva våra mest värdefulla insikter, praktiska tips och framgångscase för att hjälpa dig att optimera din marknadsföring med AI – oavsett om du är nybörjare eller erfaren.

Vad du får:

• Insikter om AI:s möjligheter inom marknadsföring idag och imorgon

• Best practice-cases som visar exakt hur AI kan skapa skillnad

• Konkreta råd för att implementera AI i din strategi direkt

Missar du detta, missar du ett stort försprång. Ladda hem det gratis och upptäck potentialen här!

I boken får du både grundläggande kunskaper, hårda fakta, vassa användartips och mina personliga insikter kring allt som rör AI. Jag kommer bland annat gå igenom AI:s historiska resa fram till idag, hur vårt samhälle kommer att påverkas av AI, hur du personligen kommer att påverkas av AI, om vi behöver vara rädda för att människan kommer utrotas och vad som är nyckeln till att lyckas i vår nya AI-framtid. Boken finns även på Norska, engelska och nu även som ljudbok i Sverige. Hör av er för större beställningar annars finns den där böcker finns.

Jag värdesätter verkligen att tusentals av er läser detta varje månad. Om ni uppskattar nyhetsbrevet, glöm inte att gilla, dela och kommentera – så hjälper ni mig att sprida ordet vidare!

Tack för den här gången, och vi hörs snart igen, närmare bestämt om en månad!

//Airash

Här kan du prenumerera på Linkedin-upplagan av nyhetsbrevet AI med Arash.