Olle Häggström

Åh herregud, stavfelet! Jag lovar på hedersord att det inte var med flit.

Friends of my blog Häggström hävdar need not worry: I am not giving it up as a consequence of the new Substack.

But how would an AI take over? The Sam Altman way

The third post is titled "But how would an AI take over? The Sam Altman way":

haggstrom.substack.com/p/but-how-wo...

On model weight preservation Anthropic's new initiative

The second post is my partly critical take on Anthropic's new commitment to preserve any major AI model that they retire from use:

haggstrom.substack.com/p/on-model-w...

Announcing "Crunch Time for Humanity" A new blog

I launched my Substack "Crunch Time for Humanity" last week as a vehicle for my thoughts on AI risk and AI safety. I already have three posts there, the first of which is introductory:

haggstrom.substack.com/p/announcing...

I närheten av där jag växte upp, norröver, fanns ett bageri som hette Bull-Olles Bagarbröd. Det är så svåröverträffat att jag lite grand kör fast på din fråga.

Ah, som typ de flesta är jag i den ålder då man tänker osunt mycket på ålder.

Lagen om det uteslutna tredje, tillämpad på en bom.

Nope, jag är 58 och tränar regelbundet, så detta slags tvehågsenhet hos er ungdomar är knappast motiverad!

Idag är jag omslagspojke i Göteborg-Posten. Notera färgprakten, som hämtad ur en Roy Andersson-film!

This is not a dystopian satirical prank but a real billboard campaign from a real AI automation company.

Statement on Superintelligence “We call for a prohibition on the development of superintelligence, not lifted before there is (1) broad scientific consensus that it will be done safely and controllably, and (2) strong public bu...

"We call for a prohibition on the development of superintelligence, not lifted before there is (1) broad scientific consensus that it will be done safely and controllably, and (2) strong public buy-in."

Many prominent signatories to this. And me.

superintelligence-statement.org

Tips till tisdagskvällsnöje: läs min text "AI-utvecklingen och den brytningstid vi lever i", baserad på ett föredrag jag gav för ett år sedan på Knugliga Vetenskaps- och Vitterhetssamhället i Göteborg.

gupea.ub.gu.se/handle/2077/...

Mina åsikter är viktiga för mig, så man skulle kunna tro att jag, var gång någon näringslivs- eller annan aktör skriver till mig att "Dina åsikter är viktiga för oss", identifierar en win-win-situation och glatt lägger ut texten. Ändå får det mig att tänka "skit samma" och kasta mejlet. Paradoxalt!

Ända sedan Trump 2018 började använd begreppet "shithole countries" har allmänt antagits att han åsyftar Haiti och diverse afrikanska länder, men faktum är att det bara finns ett land i världen vars statschef fantiserar offentlig om att sprida exkrementer över sin befolkning.

Jag råkar bara minnas vilken engelskspråkiga forskarkollega som nämnde skämtet och på vilken konferens detta ägde rum.

Som barn tyckte jag att det där med "kom ketchup så går vi" var jätteroligt! Och inom kort firar jag 25-årsjubileum av ögonblicket då tioöringen till slut föll på plats och jag äntligen begrep skämtet. Gissa min ålder.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

58

IT-docenterna Alan Said och Mattias Rost manar till nivåhöjning i AI-debatten, och jag menar att de med fördel skulle kunna bidra till en sådan genom att se över sin egen retorik och argumentation.

Ack denne Bregman. Som i podden med Peter Singer och Kasia de Lazari Radek i våras. I sak är jag >95% med honom, men... han osar av självgodhet, även i sina mest självkritiska reflektioner, och gör mig till en sån där hemsk högermänniska som blir provocerad och arg av godhet(ssignalering).

Den intellektuella respekt Silicon Valley-miljardären Peter Thiel åtnjuter i vissa kretsar har jag aldrig riktigt begripit mig på. Han har länge yrat om Antikrist, och hör här vilken bisarr namn dropping han förfaller till när det gäller att konkret identifiera denna djävulens inkarnation på jorden.

Andra nyimporterade och helt onödiga schacktermer som får den något till åren komne språkvårdaren i mig att börja muttra ilsket är blitz, rapid, drottning, pinna och Ruy Lopez.

Obligatoriskt språktest för schackappskonstruktörer står högt på min kulturpolitiska agenda!

Förlåt mitt lite stofiliska insisterande på klassisk schackvokabulär, men blotta användandet av ordet "pussel" istället för "schackproblem" utesluter i mina ögon ratingtal högre än 1100.

If Anyone Builds It, Everyone Dies: my review In the mathematics community, there is a popular joke about inflation in recommendation letters that goes as follows. A professor is happy ...

Här är min recension av Yudkowskys och Soares nya bok. Spoiler alert: den är jättebra!

Har LLMs koll på sociala normer i vardagslivet? Kort kommentar till den nya studien av Pontus Strimling, Simon Karlsson, Irina Vartanova och Kimmo Eriksson.

Ja tack!

Så är det otvivelaktigt, men att det är detta snöda vinstintresse som ligger bakom helgerånet är knappast att räkna som en förmildrande omständighet.

Vaihelvete, är inget heligt längre i det här landet?

Parallellt med läsningen av Yudkowsky och Soares har jag sett om de båda Tom Clancy-filmatiseringarna Jakten på Röd Oktober och Sum of all Fears, och slås av hur relativt lite (som mest ett globalt kärnvapenkrig) som står på spel jämfört med situationen vi nu befinner oss i.