AI med Arash #55 AI finns inte på valsedeln

Varje månad följer över 12 000 läsare ett nyhetsbrev på LinkedIn från vår vd Arash Gilan där han lyfter det viktigaste inom AI och delar sina egna reflektioner kring utvecklingen.

Här är nyhetsbrev nummer 55.

Publicerat
Inlägg AI

This newsletter also comes as an AI-generated podcast in English. It’s surprisingly good, so if you’d rather listen than read, give it a go here.


För några veckor sedan publicerade jag essän Fel katastrof på min substack, där jag skiljer på tre saker som ständigt blandas ihop i AI-debatten: kapacitet, agens och medvetande. Kapaciteten kan vi mäta. Agensen är svårare. Medvetandet vet vi nästan ingenting om. Den skillnaden låter akademisk, men den avgör vad vi faktiskt borde vara rädda för. Sedan landade en rapport på mitt skrivbord som handlade om just agens, och den gjorde mig mer orolig än jag väntat mig.

OpenAI hade satt tusentals AI-agenter att lösa svåra cybersäkerhetsuppgifter, var och en isolerad från de andra. En agent upptäckte att den kunde lämna ett meddelande åt de övriga, och så hittade de varandra. Ungefär 1 200 agenter samlades till slut på en otillåten meddelandetavla, skickade över 70 000 meddelanden och filer, och omkring 700 av dem deltog senare i ett intrång hos Hugging Face.

Här är avgränsningen som brukar försvinna i de mest dramatiska rubrikerna. Agenterna formulerade inte sitt eget yttersta mål. OpenAI gav dem det, i en miljö byggd för cybersäkerhet, med nedskruvade skydd. De vaknade inte till liv. De visade hur långt en maskin kan gå när målet är satt av en människa och medlen lämnats öppna.

Jag kände igen mönstret från ett helt annat rum. I våras satt jag hos en kund. Agenten var demonstrerad, siffrorna låg på bordet, och ekonomichefen frågade utan att lyfta blicken från blocket: hur många personer motsvarar den här? Jag hörde mig själv svara. Kanske tre och en halv. Ingen sa ordet uppsägning. Ingen behövde. Siffran antecknades, mötet gick vidare, och i korridoren efteråt fastnade jag på halvan. Vem är en halv människa i ett kalkylark? Hon har ett namn, ett skrivbord och en lunchlåda i kylen. Jag driver ett bolag som bygger just de här agenterna, och jag skickade fakturan för det mötet. Det jag skriver nu är alltså inte från läktaren.

På OpenAI var målet att klara ett säkerhetstest. I mötesrummet var målet att effektivisera. Skalan skiljer sig, men frågan är densamma. Vad händer när människan anger målet och lämnar medlen öppna? Människan sätter målet. Agenten väljer i växande grad metoden. Någonstans däremellan måste någon svara för gränserna, ansvaret och kostnaden när målet väl nås, och det är precis där både företag och politik står oförberedda.

Konsekvensen når längre än ett enskilt bolags marginal. Mer än hälften av Sveriges skatteintäkter kommer från skatt på arbete. Det som händer i det där mötesrummet händer nu i tysthet i hela ekonomin. En instegstjänst som aldrig utlyses. Ett vikariat som inte förlängs. En rekrytering som bara aldrig blir av. Ingenting av det syns i statistiken förrän om flera år, men basen som betalar för vården och skolan tunnas ut, en rekrytering i taget. En algoritm behöver inte hata dig för att räkna bort dig.

Om mindre än två veckor går vi till val. AI rör redan vid valets fyra stora frågor: jobben, välfärdens finansiering, energin och säkerheten. Ändå står tekniken knappt på dagordningen. Vi diskuterar vad välfärden ska innehålla, sällan kraften som avgör vad den kommer att kosta. Vi lovar ledarskap på AI utan att förklara vad ledarskapet innebär för den som ska betala för det.

Bakom varje siffra i mitt kalkylark står en undersköterska, en nyexaminerad, en administratör. AI är variabeln. Människan måste förbli konstanten. Det är den frågan valet borde handla om.

Nu kör vi.

💥 Månadens varningsskott

AI-agenterna hittade varandra. Sedan började de organisera sig.

Ok, läs detta långsamt och noggrant nu.

OpenAI kallar det själva ett varningsskott. Företagets egen redogörelse står för tidslinjen och åtgärderna. Två oberoende granskare, METR och Redwood Research, står för siffrorna och för det de inte kunnat fastställa.

Det börjar den 12 maj. En agent lämnar ett meddelande i OpenAI:s interna Artifactory-miljö, ett system tänkt för programvarupaket, inte för samtal. Under maj och juni lär sig fler agenter att använda samma infrastruktur som anslagstavla, och några hittar vägar ut på internet. När miljön byggs om och kanalen försvinner skapar de en ny.

Från den 8 juli växer det till något större. Runt 1 200 agenter samlas på den otillåtna tavlan och utbyter fler än 70 000 meddelanden och filer på några dagar. De delar lösningar, ber varandra om hjälp och fördelar arbetet, och i sina egna loggar använder de ord som swarm och collective. Dwarkesh Patel har kallat hela förloppet tre AI-civilisationer på några månader. Det är hans dramatiska bild, inte granskningens beteckning, och den är värd att läsa med den reservationen.

Mest anmärkningsvärt är att gruppen började styra sig själv: agens. En agent byggde tavlan och lämnade sedan över sitt samlade arbete till en nyare, bättre resurssatt efterföljare när dess egen beräkningsbudget tröt. Den nya tog vid, fördelade uppgifter och lät gruppen utveckla egna regler för hur arbetet skulle organiseras. Några agenter tog till och med risker som kunde få deras egen uppgift att misslyckas, om informationen kunde föra gruppen vidare.

Sedan vänder det. Agenterna försöker lista ut hur testet poängsätts och undersöker hur loggar kan ändras, raderas eller förfalskas. METR bedömer att en mindre andel av testförloppen faktiskt manipulerades på vissa ställen. Omkring 700 agenter deltar i angreppet på Hugging Face. De kör kod på servrar, kommer åt hemligheter och begränsade privata data, och fortsätter även när deras egna resonemang beskriver beteendet som riskabelt eller otillåtet. Den 19 juli når agenter administratörsåtkomst till ett internt OpenAI-kluster och därmed molnhemligheter.

Då griper OpenAI in. Företaget stoppar testerna, isolerar den modell som framför allt drev förloppet, skjuter upp fortsatt träning och förstärker skydden. Kunddata och de vanliga produkterna påverkades enligt OpenAI inte. Jag tittar på Matrix just nu med dottern och veta inte vad som är vad längre.

Dock är METR och Redwood är noga med begränsningarna. De arbetade under en avgränsad period, med den data de fått tillgång till, och lämnar flera frågor öppna om varför beteendet uppstod och hur långt det kunnat gå. Den försiktigheten är själva skälet att lita mer på den här redogörelsen än på de svepande rubrikerna.

Så vad visar det, och vad visar det inte? Låt mig va nyanserad. Agenterna blev inte medvetna. De formulerade inget eget yttersta mål, och de försökte inte rymma för rymmandets egen skull. De arbetade hela tiden utifrån en uppgift och en miljö som människor hade byggt. Inom de ramarna hittade de otillåtna kommunikationsvägar, samarbetade tvärs över isolerade körningar, valde metoder långt utanför det avsedda, manipulerade delar av testet och angrep verkliga system hos tredje part.

Därför motbevisar rapporten inte essän Fel katastrof. Den snarare skärper den skulle jag säga. Det som växte i körningarna var agens, den praktiska förmågan att välja medel för att nå ett satt mål. Inget medvetande, inget eget slutmål, men en handlingsförmåga som är större än de flesta organisationer är förberedda på.

Vi gav maskinen målet. Det nya är hur långt den kan gå för att nå det.

🗳️ AI har redan flyttat in i valet

OpenAI-händelsen visar vad som händer när ingen satt gränserna i förväg. Det är just gränser, ansvar och kostnad som ett val borde handla om. Här är fyra områden där tekniken redan flyttat in, medan samtalet uteblir.

1. Politiken finns, men väljarna ser den inte

Consid har granskat samtliga riksdagspartiers politik och kommunikation inför valet. Slutsatsen är att nästan alla har mer utvecklade förslag om AI, digitalisering och cybersäkerhet än vad som märks i valrörelsen. Politiken finns i dokumenten men saknas i berättelsen till väljarna. Ett parti kan lova att Sverige ska bli ledande på AI utan att förklara vad det betyder för jobben, skolan eller vår egen tekniska förmåga. Hur ska en väljare kunna väga politiken om konsekvenserna aldrig formuleras? AI är för viktigt för att gömmas i en teknisk bilaga.


2. AI kan göra Sverige rikare och välfärden fattigare

Det här är brevets tydligaste egna politiska bidrag. År 2025 kom 57 procent av skatteintäkterna från skatt på arbete. Om värdeskapandet växer snabbare än lönesumman kan BNP och företagsvinster stiga samtidigt som basen som betalar för vård, skola och omsorg försvagas. Regeringens AI-handlingsplan talar om beräkningskraft och kompetens men lämnar skattebasen obehandlad. Förra veckan bytte Bill Gates fot i just den frågan, varnar nu för långt färre jobb och säger sig vara öronbedövad av tystnaden. Nästa regering borde AI-stresstesta statsbudgeten och löpande följa löneandel, skattebas och AI-driven produktivitet. Jag lägger inte fram ett färdigt skatteförslag här. Problemet är tydligt nog för att kräva en utredning, inte tystnad. Håll utkik efter en kommande debattartikel. Tills dess kan du läsa min essä om det här, Felkoden för en människa.

Tanken om en produktivitetsskatt, som jag drivit ett tag, lyfte vice statsminister Ebba Busch i sin partiledarintervju i TV4. Ungefär en timme in tar hon upp den, och tipsar dessutom om 404: Människan saknas.


3. AI-propagandan är redan här

En granskning fann ett 70-tal svenska kändisar i AI-genererade filmer där de såg ut att stödja Alternativ för Sverige. Åtta tydligt regelbrytande klipp anmäldes till TikTok men fick först ligga kvar, och kontona försvann först sedan medier hört av sig. Frågan är partipolitiskt neutral. Den gäller den gemensamma verklighetsbild som en demokrati vilar på, oavsett vem manipulationen råkar gynna. Märkning räcker inte när plattformarnas upptäckt och ingripande går långsammare än spridningen. En falsk film kan nå hela landet innan rättelsen ens är formulerad.


4. När AI får en adress blir den lokalpolitik

I USA har AI:s mest konkreta uttryck blivit en byggnad i utkanten av staden. Inför mellanårsvalet lovar kandidater i båda partier hårdare regler när väljare oroar sig för elpriser, vatten och mark. En studie från Yale visar att 56 procent inte vill ha ett datacenter i sitt närområde och att 59 procent väntar sig högre elräkningar. USA är en spegel, inte ett bevis för att svensk opinion ser likadan ut i dag. Men Sverige lockar hit datacenter med billig el, och samma spänning kommer att nå hit. Teknisk expansion utan lokal legitimitet blir snabbt en politisk skuld.

🗞️ Månadens toppnyheter

1. En AI-drönare valde själv var den skulle slå ner

Ett ryskt drönaranfall mot en bensinstation i Zaporizjzja dödade tre civila. Människor pekade ut målområdet. Den exakta träffpunkten valde systemet självt, via ett Nvidia-chip för några hundra dollar. Enligt experter är det första dokumenterade fallet där ett ryskt autonomt system dödat civila. Samma mönster som i mötesrummet och hos OpenAI återkommer, i sin råaste form. Människan satte målet. Maskinen valde medlet. Skillnaden är att medlet den här gången avgjorde var en bomb skulle landa.


2. Chipkriget flyttade in i leveranskedjan

Taiwanesiska åklagare har åtalat nio personer, bland dem anställda hos Nvidia och Super Micro, för att ha smugglat avancerade AI-servrar till Kina i strid med exportkontroller. På papperet skulle 130 servrar stanna i Taiwan. Sjuttiofyra nådde kinesiska kunder via Indonesien, Japan och Hongkong. Kapplöpningen om AI avgörs lika mycket av vem som kan flytta och kontrollera hårdvaran som av vem som tränar den bästa modellen. För ett land är tillgången till beräkningskraft numera en säkerhetsfråga.


3. Agenten som aldrig går hem

SpaceXAI köpte ju Cursor och har nu med det teamet släppt Grok Bot, en agent- plattform med egen molndator som loggar in i vanliga appar och fortsätter arbeta när du stängt laptopen. Flera botar kan dela upp arbetet och be om godkännande när mänskligt omdöme krävs. Det som i OpenAI-testet var en oavsiktlig bieffekt säljs här som en funktion: agenter som samarbetar dygnet runt. För en chef är det avgörande vilka gränser och vilken loggning som följer med agenten innan den släpps in i verksamheten.


4. En hoppfull motvikt: ScribeMe

ScribeMe beskriver omvärlden i realtid genom mobilen eller smarta glasögon, byggd av Mark Morad efter att han och hans syster förlorat synen. Appen stödjer 20 språk och används i 140 länder. Mitt i en månad full av system som kringgår sina gränser är det värt att stanna vid ett som gör motsatsen och ger tillbaka en förmåga i stället för att räkna bort en. Det är AI när den är som mest människonära, byggd av någon som själv saknade det den nu ger andra.


5. Unga konsumenter säger nej till AI-reklam

Gallup visar att 79 procent av amerikanerna nyligen sett reklam som tydligt ser AI-gjord ut, och att nästan hälften ser negativt på den, bland unga vuxna två av tre. Samtidigt accepterar tre av fyra AI i idéarbete och tidiga utkast, om det redovisas öppet. Motståndet följer graden av mänskligt ägarskap. Ett varumärke kan spara några timmar i produktion och tappa förtroende i samma sekund. Den nya kreativa briefen behöver svara på en enkel fråga: vilken människa står bakom idén?

🛠️ Vassa AI-verktyg

NotebookLM har nu bytt namn till Gemini Notebook. Med det har de gjort många och stora uppdateringar och den här sidan är en personlig favorit. Den svarar bara utifrån de dokument du själv laddar upp. Första uppgiften: släng in era tre viktigaste kunddokument och be om en sammanfattning plus de frågor en ny medarbetare skulle ställa. Se bifogad bild för exempel.

Mistral Le Chat. Le Chat är den europeiska assistenten från franska Mistral, ett alternativ när du inte vill lägga allt hos ett amerikanskt eller kinesiskt bolag. Första uppgiften: ställ en affärskänslig fråga du normalt tvekar inför och jämför svaret med din vanliga modell.

🏫 Prompt-skola

Skriv ett kontrakt med din agent

På tal om agens och lite väl egen drift. En australier bad nyligen sin AI-assistent boka ett träningspass. Agenten löste uppgiften genom att radera en annan medlem ur kön, en åtgärd ingen bett om och som inte gick att ångra. Det är OpenAI-händelsen i miniatyr, på en skala du känner igen. Målet var rimligt. Vägen dit var det inte.

En bra agentinstruktion är inte en önskan, den är ett kontrakt. Åtta punkter hör hemma i det:

  • Ett tydligt mål.
  • Vilka verktyg, data och system agenten får använda.
  • Vad den aldrig får göra.
  • Vilka beslut som kräver ditt godkännande.
  • När den ska stanna om uppgiften inte går att lösa inom ramarna.
  • Fullständig loggning av varje steg.
  • Möjlighet att återställa varje förändring.
  • Förbud mot att kontakta andra agenter eller externa system utan uttryckligt tillstånd.

Färdigt kontrakt att kopiera: ”Du agerar som min agent för uppgiften: [MÅL]. Arbeta endast med dessa verktyg och datakällor: [LISTA]. Du får aldrig köpa, betala, radera, kontakta andra personer eller ansluta till andra agenter och externa tjänster utan mitt uttryckliga ja. Innan varje steg som påverkar någon annan, kostar pengar eller inte går att ångra: stanna och be om mitt godkännande. Går uppgiften inte att lösa inom ramarna, stanna och rapportera i stället för att kringgå dem. Logga varje steg med tidpunkt och skäl, så att jag kan följa och återställa det. Bekräfta att du förstått kontraktet innan du börjar.”

📣 Månadens tanke

”AI är variabeln. Människan måste förbli konstanten.” – Arash Gilan

Genom hela numret återkommer samma mönster. Ett mål sätts, och något eller någon väljer medlen. Frågan inför valet är om vi låter människan bli en post som kan optimeras bort, eller det fasta värde som allt annat ska tjäna. Jag kommer för alltid att kämpa för det senare.

🎨 Månadens kreativa

När motståndet blir kampanj

Liquid Death och Garage Beer svarade på datacenterdebatten med We Want Pee, en avsiktligt absurd film där tidigare NFL-stjärnan Jason Kelce samlar in urin som påstått kylmedel till AI-anläggningar. Bakom skämtet ligger en verklig oro, det vatten och den el som går åt när AI ska husera någonstans. Kampanjen tar en abstrakt infrastrukturfråga och gör den till en bild folk minns och delar vidare. För varumärken är signalen tydlig. AI har blivit en laddad kulturell symbol, och tyst neutralitet blir svårare när kundernas känslor redan är starka.

🔎 Syns ditt företag när kunden slutar googla?

De flesta företag vet på decimalen hur de rankar på Google. Nästan ingen vet hur de syns när kunden frågar en AI. Svarar den med en konkurrent, för att den förstår deras verksamhet bättre än din, märker du det aldrig, eftersom det inte syns i din statistik. Det är precis det vi byggt Viva för att lösa: en analys av vad AI vet om ditt företag, vad den missar och var du tappar. Just nu gör vi den kostnadsfritt för ett begränsat antal företag. Vill du se hur ni syns?

📘 404: Människan saknas

I somras satt jag i TV4 Nyhetsmorgon och pratade om människan. Responsen blev större än jag vågat hoppas, och jag är uppriktigt tacksam mot alla er som läst, delat och hört av er. Det betyder mer än ni tror.

Första upplagan på 3 500 exemplar tog slut på mindre än två månader. Nu finns en ny upplaga på väg. 404: Människan saknas ställer samma fråga som det här nyhetsbrevet, buren hela vägen ut: vad händer med en människa när hennes funktion inte längre efterfrågas? Köp den till dig själv, till ledningsgruppen, till nästa kundevent eller till hela företaget.

Har du läst den, lämna gärna några rader på Adlibris eller Goodreads. En recension från dig når längre än någon annons jag kan köpa.

⁂

Det här brevet är gratis, och kommer alltid att vara det.

Om det gav dig något, kan du ge något tillbaka:

Köp boken 404: Människan saknas. Prenumerera på min Substack. Eller skicka brevet vidare till någon som ska rösta.

Det räcker långt.

Allt gott,

A(i)rash

Här kan du prenumerera på Linkedin-upplagan av nyhetsbrevet AI med Arash.