Here are the ones I’ve read so far (in order of original publication):

• Pietr the Latvian (tr. David Bellos, 2013; Pietr-le-Letton, 1931)
• Maigret och den hängde i Liège (tr. Harald Jeurling, 1934; Le pendu de Saint-Pholien, 1931)
• Maigret (tr. Katja Birmann, 1972; Maigret, 1934)
• Maigret i New York (tr. Gunnel Vallquist, 1953; Maigret à New York, 1947)
• Maigret på semester (tr. Vallquist, 1952; Les vacances de Maigret, 1948)
• Maigret och hans mord (tr. Vallquist, 1953; Maigret et son mort, 1948)
• Maigrets första fall (tr. Vallquist, 1952; La première enquête de Maigret, 1949)
• Min vän Maigret (tr. Vallquist, 1952; Mon ami Maigret, 1949)
• Maigrets jul (tr. Katja Birmann, 1975; Un Noël de Maigret, 1951)
• Maigret på nattklubb (tr. Vallquist, 1954; Maigret au Picratt’s, 1951)
• Maigret gillrar en fälla (tr. Harriet Ribbing, 1957; Maigret tend un piège, 1955)
• Maigret blir arg (tr. Gun & Nils A. Bengtsson, 1965; La colère de Maigret, 1963)
• Maigret försvarar sig (tr. Britte-Marie Bergström, 1966; Maigret se défend, 1964)
• Maigrets barndomsvän (tr. Katja Waldén, 1969; L’ami d’enfance de Maigret, 1968)
• Maigret och den stolliga damen (tr. Birmann, 1971; La folle de Maigret, 1970)

Jag lät Gemini läsa pappret och jag förstår det som att OpenAI med GPT 4.1 lyckats väldigt väl att blockera att repetera upphovsrättsskyddade verk. Eller så kunde forskarna inte hitta något jailbreak som funkade. För det verkar ha krävt rätt mycket experimenterande med jailbreaks.

Frågan är om att träna på upphovsrättsskyddade verk bör ses som ett intrång om vi antar att det är svårt nog att få modellerna att repetera verken ordagrant.

Och var går gränsen? Är det problematiskt att det går att få sin egen text omskriven som om den vore en bok i Harry Potter-serien? Att den skulle använda sig av karaktärer från böckerna?

Jag tänker på att man har upptäckt att det går att få påtagligt mer kraftfulla modeller genom att skala upp mängden träningsdata parallellt med mängden parametrar.

Upphovsrätten är något begränsat, avsett att balansera upphovspersonens rättigheter mot det allmännas – som Lawrence Lessig brukade prata om. Kanske är det här ett fall där det allmännas rättigheter väger tyngre?

Även om det på sätt och vis är riktigt att målet är att ’kunna härma all världens texter’ så handlar det sällan om att härma enskilda texter ordagrant i sin helhet – och ’härma text’ är en kraftig förenkling av vad modellerna gör.

Är det problematiska snarare att man hanterar ännu upphovsrättsskyddade verk som en allmänning och låter företag ta betalt för att använda resultatet? Eller blir det oproblematiskt eftersom det krävs sådana enorma mängder pengar att träna en språkmodell?

Sålänge man rör sig i trakter där det finns mycket text i sin användning av språkmodeller så kan man också dra nytta av den kunskap som modellerna har tillgodogjort sig.

Med chain of thought och agentiska modeller, alltså att de kan resonera med sig själva när de svarar på dina frågor, så borde vi komma aningen längre även där det inte finns tillräckligt med text. Men hur långt räcker det?

Kommer det komma en variant av reinforcement learning from human feedback (RLHF) där människor kommer att beskriva sina resonemangskedjor för språkmodeller för att de ska kunna besvara frågor där kunskap inte har manifesterats i text i tillräcklig utsträckning? Finns det redan?

Jag tänker att om språkmodeller alls ska kunna leda till AGI så handlar det antingen om att få fram text som manifesterar resterande mänsklig kunskap, eller att få modellerna att själva kunna resonera sig fram.

When we envision what to build, it feels right to get very clear about things – what it should look like, how it should work. But once we’ve imagined something, and put it in the design and in the specs, not building it feels like failure (even if it’s only nice-to-haves or could-haves).

Actually developing software means getting clear about things at a level that the designs and specs can’t reach. Even something very crude, without any design – just a sliver of software, but a sliver that works – tends to tell you more than spending the same amount of time on designs and specs would have.

This is an ideal. It won’t always be viable. But holding it changes how I work.

Making software by handing over designs and specs, as if they’re merely something to implement, leads to higher complexity. And things inevitably surface during implementation that the specs didn’t consider, but by then it’s often too late to discuss them properly.

The ideal of starting collaboration early, letting the design and specs emerge alongside working software, surfaces these things sooner. It makes the trade-offs visible. And we can find ways of moving closer to it.

An ideal is based on what the team believes, drawn from experience. Once recognised, it becomes a constant theme in discussions – occasionally reconsidered and refined, guiding work towards better results. It gives the team something to stand for, shaping how the team sees itself and its work.

Making software means constantly making trade-offs between ideals and what’s viable. The key is letting ideals guide you even when circumstances force compromises.

Det finns flera aspekter här. En är att längden på det som brukar kallas ’kontextfönstret’ är begränsad. Vid en viss längd kommer den bara att kapa av det äldsta. Om något nämndes bara i början av sessionen så ’glömmer’ den det.

En annan mer subtil aspekt är att det som faktiskt har sagts i sessionen påverkar vad modellen fäster sig vid. Har du pratat mycket och tydligt om en sak så kan den ’glömma’ annat som du pratat mindre eller mer vagt om.

Sedan så har ChatGPT något de kallar minne, som helt enkelt är saker som den har tyckt varit anmärkningsvärt och sparat i en lista över saker. De här infogas alltså bara i kontextfönstret, som om du hade upprepat dem varje gång.

Jag tycker den här funktionen är mycket märklig – just för det jag skrev om att modellen fäster sig vid de saker som har sagts. Att blanda in random saker som kanske är irrelevanta saboterar alltså för dig. Jag ser det som en funktion som har poäng för marknadsföring men inte i praktiken.

Senare införde de möjligheten att leta efter saker i tidigare sessioner under rubriken ’minne’ – något som Claude också gjort nyligen. Det här är ett bättre alternativ till minne, eftersom det fungerar så att modellen kan välja att söka efter något specifikt. Då infogas helt enkelt sökresultat från tidigare sessioner i kontexten.

Jag tror att det här med kontext i språkmodeller är nödvändigt att skaffa sig en viss förståelse för. Språkmodeller är både bekanta – vi chattar med något som tycks förstå oss – och främmande – de beter sig samtidigt väldigt märkligt.

Man säger sig att när ögonblicket är inne står det en fritt att göra helt om och söka sig fram på nya vägar.

Man skickar ut inspektörer till höger och vänster. Man tror att man står och stampar på samma fläck, men sedan upptäcker man ett nytt litet faktum och börjar försiktigt gå vidare.

Och så plötsligt, i det ögonblick då man minst anar det, tappar man greppet om utredningen. Man bestämmer inte över den själv längre. Det är omständigheterna som tar kommandot och tvingar en att vidta mått och steg som man inte hade förutsett, som man inte är beredd på.

Vid sådana tillfällen har man att genomlida en eller flera timmar av olust. Man frågar sig om man inte ända från början slog in på fel väg och om man inte kommer att hamna i tomma intet, eller, vad värre är, att ställas inför en realitet som inte alls liknar den man hade tänkt sig.

Frågar sedan om ’nya francs’ och får veta att ny valuta infördes där 1 nouveau franc motsvarade 100 ancien och att de användes parallellt under några år.

Här kan den ha hallucinerat lite och påstod att den samtidigt knöts till amerikansk dollar, något den inte kunde bekräfta genom att söka när jag bad den göra det.

Det fick mig ändå att undra över hur det går till rent praktiskt att binda en valuta till en annan. Det i sin tur påminde mig om ECU som användes för att stabilisera ett antal länders valutor innan övergången till euro – det kanske kan kallas en virtuell valuta. Så jag frågade om det också.

Allt under rubriken ’Giffel eller croissant’.