fredag 13 oktober 2017

Fler ställen att läsa om vårt existentiell risk-program

Ingen någorlunda trogen läsare av denna blogg kan ha undvikit att notera det gästforskarprogram rubricerat Existential risk to humanity som för närvarande pågår på Chalmers och Göteborgs universitet. Vår särskilt inbjudne gästprofessor Anders Sandberg erbjuder på sin egen blogg den i mitt tycke allra bästa sammanfattningen av vad vi sysslar med i programmet, men jag gläds också åt den mediabevakning vi får. Jag har tidigare flaggat för inslag i DN, i P1 och i P4, och vill nu nämna ytterligare tre:

torsdag 5 oktober 2017

Videos from the existential risk workshop

The public workshop we held on September 7-8 as part of the ongoing GoCAS guest researcher program on existential risk exhibited many interesting talks. The talks were filmed, and we have now posted most of those videos on our own YouTube channel. They can of course be watched in any order, although to maximize the illusion of being present at the event, one might follow the list below, in which they appear in the same order as in the workshop. Enjoy!

måndag 2 oktober 2017

Några datum att hålla ordning på i oktober

Det händer mycket denna månad. Här några datum jag personligen har lite extra anledning att hålla ordning på:

torsdag 21 september 2017

Ytterligare radioinslag om existentiell risk-programmet

Dagen efter att P1:s Vetandets värld sänt sitt 20-minutersreportage om vårt gästforskarprogram vid Chalmers och Göteborgs universitet om existentiella risker mot mänskligheten, så har två av landets lokalradiostationer passat på att prata med några av oss forskare i programmet:
  • Morgon i P4 Västernorrland valde att prata med Karim Jebari. Inslaget, som sträcker sig från 2.37.50 in i programmet till 2.58.55 och som tack vare Karims eminenta överblick över området blev ytterst kunskapsspäckat, strukturerades kring ett förslag till topp fem-lista över existentiella risker.
  • Förmiddag i P4 Göteborg med Stefan Livh tog istället ett snack med Anders Sandberg och mig, med start 1.34.25 in i programmet och fram till 1.58.00. Samtalet fick inte samma tydliga struktur som det P4 Västernorrland hade med Karim, men blev glatt och någorlunda informativt.

onsdag 20 september 2017

P1:s Vetandets värld om vårt gästforskarprogram om existentiell risk

Dagens avsnitt av P1:s Vetandets värld handlar om det tvärvetenskapliga gästforskarprogram på Chalmers och Göteborgs universitet med rubriken Existential Risk to Humanity som jag är med och driver. Jag kommer själv till tals några gånger i programmet, jämte gästforskarna Anders Sandberg, Phil Torres, Karin Kuhlemann och Thore Husfeldt. Ratta in P1 klockan 12:10 idag, eller lyssna på webben!

tisdag 19 september 2017

Michael Shermer fails in his attempt to argue that AI is not an existential threat

Why Artificial Intelligence is Not an Existential Threat is an aticle by leading science writer Michael Shermer1 in the recent issue 2/2017 of his journal Skeptic (mostly behind paywall). How I wish he had a good case for the claim contained in the title! But alas, the arguments he provides are weak, bordering on pure silliness. Shermer is certainly not the first high-profile figure to react to the theory of AI (artificial intelligence) existential risk, as developed by Eliezer Yudkowsky, Nick Bostrom and others, with an intuitive feeling that it cannot possibly be right, and the (slightly megalomaniacal) sense of being able to refute the theory, single-handedly and with very moderate intellectual effort. Previous such attempts, by Steven Pinker and by John Searle, were exposed as mistaken in my book Here Be Dragons, and the purpose of the present blog post is to do the analogous thing to Shermer's arguments.

The first half of Shermer's article is a not-very-deep-but-reasonably-competent summary of some of the main ideas of why an AI breakthrough might be an existential risk to humanity. He cites the leading thinkers of the field: Eliezer Yudkowsky, Nick Bostrom and Stuart Russell, along with famous endorsements from Elon Musk, Stephen Hawking, Bill Gates and Sam Harris.

The second half, where Shermer sets out to refute the idea of AI as an existential threat to humanity, is where things go off rails pretty much immediately. Let me point out three bad mistakes in his reasoning. The main one is (1), while (2) and (3) are included mainly as additional illustrations of the sloppiness of Shermer's thinking.
    (1) Shermer states that
      most AI doomsday prophecies are grounded in the false analogy between human nature and computer nature,
    whose falsehood lies in the fact that humans have emotions, while computers do not. It is highly doubtful whether there is a useful sense of the term emotion for which a claim like that holds generally, and in any case Shermer mangles the reasoning behind Paperclip Armageddon - an example that he discusses earlier in his article. If the superintelligent AI programmed to maximize the production of paperclips decides to wipe out humanity, it does this because it has calculated that wiping out humanity is an efficient step towards paperclip maximization. Whether to ascribe to the AI doing so an emotion like aggression seems like an unimportant (for the present purpose) matter of definition. In any case, there is nothing fundamentally impossible or mysterious in an AI taking such a step. The error in Shermer's claim that it takes aggression to wipe out humanity and that an AI cannot experience aggression is easiest to see if we apply his argument to a simpler device such as a heat-seeking missile. Typically for such a missile, if it finds something warm (such as an enemy vehicle) up ahead slightly to the left, then it will steer slightly to the left. But by Shermer's account, such steering cannot happen, because it requires aggression on the part of the heat-seeking missile, and a heat-seeking missile obviously cannot experience aggression, so wee need not worry about heat-seeking missiles (any more than we need to worry about a paperclip maximizer).2

    (2) Citing a famous passage by Pinker, Shermer writes:

      As Steven Pinker wrote in his answer to the 2015 Edge Question on what to think about machines that think, "AI dystopias project a parochial alpha-male psychology onto the concept of intelligence. They assume that superhumanly intelligent robots would develop goals like deposing their masters or taking over the world." It is equally possible, Pinker suggests, that "artificial intelligence will naturally develop along female lines: fully capable of solving problems, but with no desire to annihilate innocents or dominate the civilization." So the fear that computers will become emotionally evil are unfounded [...].
    Even if we accepted Pinker's analysis,2 Shermer's conclusion is utterly unreasonable, based as it is on the following faulty logic: If a dangerous scenario A is discussed, and we can give a scenario B that is "equally possible", then we have shown that A will not happen.

    (3) In his eagerness to establish that a dangerous AI breakthrough is unlikely and therefore not worth taking seriously, Shermer holds forth that work on AI safety is underway and will save us if the need should arise, citing the recent paper by Orseau and Armstrong as an example, but overlooking that it is because such AI risk is taken seriously that such work comes about.


1) Michael Shermer founded The Skeptics Society and serves as editor-in-chief of its journal Skeptic. He has enjoyed a strong standing in American skeptic and new atheist circuits, but his reputation may well have passed its zenith, perhaps less due to his current streak of writings showing poor judgement (besides the article discussed in the present blog post, there is, e.g., his wildly overblown endorsement of the so-called conceptual penis hoax) than to some highly disturbing stuff about him that surfaced a few years ago.

2) See p 125-126 of Here Be Dragons for my attempt to explain almost the same point using an example that interpolates between the complexity of a heat-seeking missile and that of a paperclip maximizer, namely a chess program.

3) We shouldn't. See p 117 of Here Be Dragons for a demonstration of the error in Pinker's reasoning - a demonstration that I (provoked by further such hogwash by Pinker) repeated in a 2016 blogpost.

fredag 15 september 2017

Thente och de två kulturerna

Sedan minst fem år tillbaka har jag retat mig på DN-skribenten Jonas Thentes benägenhet att se ned på kunskap inom det för honom så främmande matematisk-naturvetenskapliga ämnesfältet; han personifierar det kunskapsläge och den inställning som C.P. Snow ondgjorde sig över redan 1959 i sin klassiska De två kulturerna. Följande passage i en DN-artikel av Thente för ett par veckor sedan gjorde inget för att milda mitt sinne.

Det är såklart sant att det finns många människor som inte intresserar sig för skönlitteratur, men det skulle förvåna mig väldeliga om denna egenhet skulle visa sig korrelera positivt med naturvetenskaplig bildning eller dito yrkesval. Om Thente vill hävda något sådant borde han belägga det med statistik. Tills han gör det kommer jag att fortsätta betrakta den här sortens utfall som fördomsfullt hittepå och physics envy.

Ulf Danielsson svarar Thente i dagens DN, och framhåller det önskvärda i att ta del av båda de kulturer Snow åsyftar, och att låta dem korsbefruktas i huvudet. Därmed är han inne på Snows linje, och jag kan bara instämma.

söndag 3 september 2017

Om existentiell risk i dagens DN

I DN denna söndagsmorgon bjuds på en stort uppslagen intervju med Anders Sandberg och mig om de olika existentiella hot mot mänsklighetens överlevnad som föreligger, och om det tvåmånaders gästforskarprogram om saken som vi precis dragit igång på Chalmers och Göteborgs universitet. Artikeln finns även elektroniskt, dock bakom betalvägg.

Kom gärna på programmets officiella invigning i morgon måndag klockan 17.30!

(Obs klockslaget, 17.30 - inte 18.30 som jag tidigare felaktigt skrev.)

torsdag 31 augusti 2017

I morgon börjar det

I morgon börjar det gästforskarprogram vid Chalmers och Göteborgs universitet med rubriken Existential risk to humanity som jag arrangerar. Läs gärna det pressmeddelande om programmet som Chalmers idag gått ut med!

Och missa inte vare sig
  • programmets officiella öppning på måndag där vår särskilt inbjudne gästprofessor Anders Sandberg håller en populärvetenskaplig föreläsning över ämnet "Existential risk: how threatened is humanity?", eller
  • workshopen på torsdag-fredag i nästa vecka, där både Anders och ett dussin andra spjutspetsforskare på området delar med sig av sina preliminära synpunkter på vilka risker mänskligheten står inför och vad vi kan göra åt dem.

tisdag 22 augusti 2017

Bör konsumenter undanhållas information om konsumtionens miljöpåverkan?

Den fråga jag ställer i bloggpostrubriken kan förefalla löjlig, och jag kan verkligen förstå den läsare som inte kan föreställa sig att någon faktiskt skulle besvara den jakande. Men det är exakt vad Expressen-skribenten Naomi Abramowicz gjorde i en krönika häromdagen. Jag rekommenderar inte läsning av krönikan, som är så urbota dum att man som läsare riskerar drabbas av hjärnblödning, men här är dess budskap i kort sammanfattning:
    Det är skittråkigt att som konsument få reda på vilken miljöpåverken ens konsumtion har. Därför bör denna miljöpåverkan hemlighållas.
Den som verkligen böjer sig bakåt för att försvara Abramowicz kan måhända peka på att hon ju egentligen inte motsätter sig informationen, utan bara vill ha budskapet mer positivt paketerat: hellre morot än piska, och berätta inte om nackdelen med att köra SUV och semestra i Thailand utan hellre om fördelen med att avstå! Well, bästa Naomi Abramowicz, du har inte lyssnat ordentligt, för fördelen ligger i öppen dager: du besparar miljön och vår planet ett stycke skadlig miljöpåverkan! Och om du underkänner denna fördel för att den inte tillfaller dig personligen, så blir jag tyvärr tvungen att stämpla dig som en primitiv och antisocial egoist.

Det absoluta lågvattenmärket i Abramowicz krönika nås i följande sandlådemässiga passage:
    Det ständiga predikandet kan väcka en sorts trotsighet. Nu ska jag köra min bil till mataffären, bara för att jag kan! Ha, där fick du! Jag tillhör själv gruppen som, nästan på pin kiv, lockas att göra tvärtom bara för att trotsa de gröna glädjedödarna.
Själv lockas jag att illustrera Abramowicz förhållningssätt med följande fabel, och den läsare som vill försöka sig på det omöjliga kan prova att antingen (a) försvara Abramowicz agerande i fabeln, eller (b) finna någon relevant disanalogi mellan fabeln och den inställning hon torgför i Expressen.
    Abramowicz (A) står och slår, för sitt eget höga nöjes skull, med piska på en åsna (Å) som visar tydliga tecken på smärta. En djurvän (D) kommer förbi.

    D: Men vad gör du, människa?

    A: Va?

    D: Du står och slår på åsnan - ser du inte hur illa du gör den?

    A: Skit i det du! Och om du nu trots allt behöver ta upp saken, var inte så negativ, utan berätta istället vad som vore vunnet på att jag slutar piska åsnan!

    D: Åsnan skulle slippa lida!

    A: Meh, pucko, jag skiter väl i åsnan, berätta nu vad JAG skulle tjäna på det!

    D: Snälla, kan du inte bara sluta piska åsnan?

    A, slåendes ännu hårdare: Ser du nu hur det går när du kommer och neggar på det där viset? Jag blir så förbannad!

    Å: Aaaaaaaaaaaj...

tisdag 15 augusti 2017

Bostroms bok nu på svenska

Min entusiasm då jag 2014 recenserade Nick Bostroms då nyutkomna Superintelligence: Paths, Dangers, Strategies kan illustreras med hur jag avslutade recensionen med bedömningen att boken...
    may turn out the most important alarm bell since Rachel Carson's Silent Spring from 1962, or ever.
Därtill hade jag så mycket att säga om boken att det räckte till en lång rad bloggposter utöver själva recensionen, och man kan lugnt konstatera att bortsett från mitt skamlöst envetna propagerande för min egen bok Here Be Dragons så finns ingen annan bok som jag ägnat så mycket uppmärksamhet här på bloggen som Superintelligence. Och jag står fast vid min bedömning att den är viktig.

Nu finns Bostroms bok i svensk översättning med titeln Superintelligens: Vägar, faror, strategier, och jag har nyss fått hem ett exemplar. Jag kan utan större överdrift berömma mig om att behärska bokens argumentation i stort sett utan och innan, och jag vill därför inte lägga tid på att läsa den svenska utgåvan, men jag har gjort några lite slumpartade nedslag i den och finner översättningen vara tillfyllest. I den mån det finns en läsekrets av personer som bryr sig om mänsklighetens framtid, som är beredda att följa tankegångar en bit utanför mainstreamdiskursens snäva box, och som föredrar att läsa på svenska framför engelska, så är detta en värdefull utgivning.

fredag 11 augusti 2017

Om empati och kärnvapen

Titeln på den amerikanske psykologen Paul Blooms senaste bok Against Empathy provocerar, men det är en läsvärd och intressant bok, med en beaktansvärd huvudpoäng som jag tangerat i en tidigare bloggpost: vår empatiska förmåga begränsar sig till inkännande med en eller några få personer åt gången, vilket skapar en bias för just dessa personer - en bias som ofta leder till dåliga beslut när olika intressen behöver vägas mot varandra. Bloom förespråkar en mer rationellt kalkylerande medkänsla. Den unge skotske filosofen William MacAskill är i sin bok Doing Good Better: How Effective Altruism Can Help You Make a Difference (som är ännu bättre än Blooms!) inne på en liknande linje, men han lägger mindre kraft på själva psykologin och mer på att ge råd och anvisningar om vilka beslut som faktiskt är kloka. (Båda dessa utmärkta böcker kom jag att läsa tack vare författarnas medverkan i varsitt avsnitt av Sam Harris podcast Waking Up.)

Blooms betoning av empatins negativa sidor är förståelig med tanke på hur ensidigt empatin prisats genom åren, men frågan är om den mörka bild av empatin han därmed tecknar är riktigt rättvis. Här är ett klassiskt förslag (som känns extra aktuellt just nu med den pågående besinningslösa upptrappningen i retoriken mellan Norkoreas juvenile ledare Kim Jong-Un och USA:s dito Donald Trump) av den amerikanske juridikprofessorn Roger Fisher om hur empatin skulle kunna användas för att åstadkomma bättre beslut i internationella storkonflikter.

Jag gillar Fishers förslag, dock med reservation för att det kanske inte fungerar just i fallet då USA:s president heter Donald Trump.

tisdag 8 augusti 2017

Om Auschwitz och Almedalen

Jag har läst en rad bra böcker i sommar, och en av de bästa är Göran Rosenbergs Ett kort uppehåll på vägen från Auschwitz från 2012. Boken är hans gripande och skakande porträtt av fadern David Rosenberg, Auschwitz-överlevare som såg ut att vara på väg att bygga ett gott liv i det svenska folkhemmet, men som till slut inte orkade. Jag skall inte försöka mig på någon recension, utan nöjer mig med att rekommendera boken å det varmaste och hänvisa till Jens Liljestrands anmälan i DN när boken var ny.

Den avgörande vikten (inte minst i dessa politiskt turbulenta och osäkra tider) av att minnas historien påpekade jag i förra månaden, och särskilt viktigt är att vi inte glömmer Förintelsens och nazismens fasor. Att nazismen har anhängare än idag är en fruktansvärd anomali och inte något vi bör vänja oss vid. Det slags normalisering och bagatellisering som Johan Hakelius torgför i en raljant krönika i Expressen i samband med årets Almedalsvecka finner jag särskilt motbjudande. Lite småputtrigt skojfriskt sådär berättar han om hur han inte lyckades träffa på några nazister i Almedalen, och uttrycker sin besvikelse över detta med orden "Jag får aldrig vara med om något spännande". Well, inte allt som är "spännande" är därmed önskvärt, som Margit Silberstein framhåller i sitt välformulerade och läsvärda svar i DN idag, där pellejönsen Hakelius åker på en rejäl uppläxning. Tvärtemot vad Hakelius verkar anse så är inte allt här i livet trams - vissa saker är djupt allvarliga.

måndag 7 augusti 2017

Workshop reminder

This is just a reminder of the (previously annonced) Workshop on existential risk to humanity that takes place on September 7-8, here at Chalmers and the University of Gothenburg, with some of the world's leading researchers in the growing and very important cross-disciplinary field of existential risk. The workshop is open to the general public, but note that the registration deadline (August 16) is approaching quickly.

The workshop is part of a longer guest researcher program on the same topic; see the interview with Anders Sandberg (who will serve as the program's invited GoCAS Distinguished Chair) and myself about the contents of the program. The official opening of the program takes place on September 4 at 17.30, with an overview talk by Anders on Existential risk: how threatened is humanity.

tisdag 1 augusti 2017

Nationalekonomi i ringen

Jag är lite för gammal för att vara något stort fan av hiphop, eller ens för att ha klart för mig exakt vad det är. Fast musiken i nedanstående riktigt lysande allmänbildande video om meningsskiljaktigheterna mellan två av 1900-talets nationalekonomiska giganter, John Maynard Keynes och Friedrich Hayek, kan väl kanske räknas till genren? (Videon är i själva verket del 2 i det som beskrivs som Keynes och Hayeks rap battle; här är del ett.)

Medryckande! Och fast min instinkt är att heja på Keynes, så är det nästan så att mina sympatier svänger över till Hayek när diskussionerna kommer in på krig och krigsindustri några minuter in i videon. Denna upplevelse, tillsammans med de snygga boxningsscenerna, får mig att associera till (den, precis som Keynes och Hayek ovan, fiktivt gestaltade) Michail Gorbatjovs omsvängning i slutscenen till Rocky IV.

lördag 22 juli 2017

Om synen på universitet

Väldigt mycket blir bättre här i världen, och min grundinställning är att om vi (mänskligheten) sköter våra kort rätt så väntar oss en blomstrande framtid. Likväl drabbas jag ibland av stunder då bekymren ter sig svårövervinnerliga. Det kan t.ex. handla om vissa av de katastrofscenarier jag diskuterar i min senaste bok Here Be Dragons, eller (allt oftare de senaste två åren) om vad som händer i politiken (Putin, Trump, Berxit etc). Men det är inte ofta en nyhet så till den grad fyller mig med pessimism som den nyligen rapporterade opinionsundersökning som anger att...

Hur påverkar man ett sådant opinionsläge? Hjälper det överhuvudtaget att tala förstånd med en folkopinion som verkar ha kastat allt vad förstånd och rationalitet vill heta överbord?1 Och vad skall vi annars göra?


1) Timothy Snyder skriver i sin bok On Tyranny: Twenty Lessons from the Twentieth Century (som jag nyligen utnämnde till obligatorisk läsning) om Victor Klemperers beskrivning av auktoritarianismens nedmontering av sanning och rationalitet i fyra moder. Efter att ha gått igenom de två första (det oförblommerade förnekandet av verifierbar verklighet, respektive det hypnotiska upprepandet av fraser som "Crooked Hillary" och "Build that wall") redogör han på s 67-69 för de två sista:
    The next mode is magical thinking, or the open embrace of contradiction. The president's campaign involved the promises of cutting taxes for everyone, eliminating the national debt, and increasing spending on both social policy and national defense. These promises mutually contradict. It is as if a farmer said he was taking an egg from the henhouse, boiling it whole and serving it to his wife, and also poaching it and serving it to his children, and then returning it to the hen unbroken, and then watching as the chick hatches.

    Accepting untruth of this radical kind requires a blatant abandonment of reason. Klemperer's descriptions of losing friends in Germany in 1933 over the issue of magical thinking ring eerily true today. One of his former students implored him to "abandon yourself to your feelings, and you must always focus on the Führer's greatness, rather than on the discomfort you are feeling at present". Twelve years later, after all the atrocities, and at the end of a war that Germany had clearly lost, an amputated soldier told Klemperer that Hitler "has never lied yet. I believe in Hitler".

    The final mode is misplaced faith. It involves the sort of self-deifying claims the president made when he said that "I alone can solve it" and "I am your voice". When faith decends from heaven to earth in this way, no room remains for the small truths of our individual discernment and experience. What terrified Klemperer was the way that this transition seemed permanent. Once truth had become oracular rather than factual, evidence was irrelevant. At the end of the war a worker told Klemperer that "understanding is useless, you have to have faith. I believe in the Führer".

Väldigt dystert alltsammans, men Snyder påminner oss om att framtiden inte är ristad i sten, och att vi genom att göra motstånd kan hejda tyranniets framväxt.

tisdag 18 juli 2017

Som hastigast i P1:s Studio Ett

Med anledning av Elon Musks senaste utspel om hur artificiell intelligens (AI) kan utgöra ett hot mot mänskligheten sände Sveriges Radios Studio Ett idag ett knappt tolv minuter långt inslag om saken, med start cirka 1:18:45 in i programmet. Medverkade i inslaget gjorde jag och AI-forskaren Fredrik Heintz, som jag faktiskt uppträtt tillsammans med i P1 en gång tidigare.

En del blev sagt om behovet av att beakta säkerhet och risker, men inslaget hade kunnat bli betydligt bättre om programmakarna varit mer professionella såväl redaktionellt (diskussionen framstod som tämligen ostrukturerad och oförberedd från deras sida) som tekniskt (programteknikerna avböjde mitt förslag om att i förväg prova de olika möjligheter till uppkoppling jag har här ute i den obygd där jag just nu råkar befinna mig, ett beslut som fick uppenbara konsekvenser i programinslaget). Dessutom tycker jag att Fredrik avslutade det hela snudd på ovärdigt genom att reducera perspektivet på denna viktiga och för mänskligheten kanske avgörande fråga från det globala till ett snävt nationellt övervägande om att Sverige behöver skärpa sig för att hänga med i utvecklingen. Jag får trösta mig med att programledaren i alla fall gjorde lite relkam för min bok Here Be Dragons.

söndag 9 juli 2017

Required reading: Timothy Snyder

President Trump's encouragement of violence against media he perceives as oppositional, which took place on Twitter last week, is just one of his many many steps on the slippery slope towards authoritarianism and fascism. These steps by him and his administration urgently need to be resisted. I know of no better guide to such resistance than the American historian Timothy Snyder's marvelous little book On Tyranny: Twenty Lessons from the Twentieth Century.1 The book contains exactly what the title says, thus drawing heavily on experiences from the twentieth century. It is generally considered bad manners to compare contemporary phenomena to counterparts in Nazi Germany, but I dont't think this particular code of polite behavior should be carried too far, as there are important parallels to be drawn between, e.g., Donald Trump and Adolf Hitler - parallels that we need to understand. Snyder does not shy away from this. His book is organized in the following twenty concrete lessons.
    1. Do not obey in advance.
    2. Defend institutions.
    3. Beware the one-party state.
    4. Take responsibility for the face of the world.
    5. Remember professional ethics.
    6. Be wary of paramilitaries.
    7. Be reflective if you must be armed.
    8. Stand out.
    9. Be kind to our language.
    10. Believe in truth.
    11. Investigate.
    12. Make eye contact and small talk.
    13. Practice corporeal politics.
    14. Establish a private life.
    15. Contribute to good causes.
    16. Learn from peers in other countries.
    17. Listen for dangerous words.
    18. Be calm when the unthinkable arrives.
    19. Be a patriot.
    20. Be as corageous as you can.
Each lesson begins with three to five sentences summarizing its take-home message, such as the following in Lesson 1:
    Most of the power of authoritarianism is freely given. In times like these, individuals think ahead about what a more repressive government will want, and then offer themselves without being asked. A citizen who adapts in this way is teaching power what it can do.
Then follows just a few pages elaborating and giving historical examples, and then on to the next lesson. The entire book is just 126 sparsely typeset pages, and can easily be read in an hour or two, but deserves to be read again and - for someone who's a slow learner like myself - yet again. I warmly recommend it - no, I insist you should read it. Doing so and learning Snyder's lessons is, at the current moment, most urgent for Americans, but Europeans (and others) should do the same, because we are not immune to the development that is currently most visible in the United States. One day in the not-so-distant future, we may plausibly see a Marine Le Pen as president of France, and a Geert Wilders and a Jimmie Åkesson as prime ministers of the Netherlands and Sweden, respectively. Hungary is already there, and Poland is well on its way. When a government with an authoritarian inclination comes into power, we are in a better position to resist it the more prepared we are, and reading Snyder is one of the best ways to prepare.

I also recommend the May 29 episode of Sam Harris' podcast, where Harris interviews Snyder about the book. Some 26 minutes into the episode, Snyder emphasizes the pivotal role of Lesson 1:
    [This lesson] is number 1 for a bunch of reasons. [...] It is at the core of what historians understand about authoritarian regime changes: Nazi Germany in particular but also in general. Namely, that at the very beginning, whether it's the takeover in Germany itself or it's the Anschluss in Austria, [...] authoritarian leaders require consent. This is a really important thought, because when we think of authoritarians, we then think of villains and then we think of super-villains, then we think of super-powers, we imagine these guys in uniforms who can stride across the stage of history and do whatever they want. And maybe towards the end, something like that is true, but at the beginning it's not. At the beginning, interestingly, people will in a sense have more power than they do normally, because they have the power to resist. The problem is that we don't usually realize that. [...] We tend to [...] look for the new true north and align [our compasses] with that. We follow along; we drift. Most of the time that's appropriate, but sometimes it's an absolute disaster.
See Lesson 1 in Snyder's book for a scholarly historical perspective on this, and for the remaining 19 lessons. If you are at all literate, if you care at all for liberal democracy, and if you can spare just a few bucks, then you have no excuse for not getting the book. Order it now. And then read it. Just do it.


1) Also very much reading is Snyder's 2012 book with Tony Judt: Thinking the Twentieth Century. More than once in the last couple of years, I've found myself wishing that Tony Judt were still around to help us navigate these difficult times. Alas, he isn't, but Timothy Snyder is among his best replacements.

torsdag 29 juni 2017

A conversation with Thore Husfeldt on his Cast IT podcast

Last month I visited computer scientist Thore Husfeldt at the IT University of Copenhagen, in order to appear with him in the fifth episode of his recently launched video podcast Cast IT. The podcast, marketed as "a popular science podcast about foundations of information technology", is in my opinion an excellent initiative and features plenty of interesting discussions.

Thore and I talked for (what seemed to me like just a few minutes but was actually) 1 hour and 17 minutes, engaging in some of the central topics of my book Here Be Dragons: Science, Technology and the Future of Humanity: existential risk, artificial intelligence and the hypothetical scenario known as an intelligence explosion (a.k.a. the Singularity). I enjoyed our discussion, which was both informative and (despite our difference of opinion on some of these topics) friendly, and I hope some of the readers of this blog might enjoy it too.

måndag 26 juni 2017

Wireheading in the White House

We humans, as well as rats and many other beings, have pleasure centers that reward us when we act in evolutionarily adaptive ways, such as when we eat or procreate. Wireheading happens when we figure out how to get the reward in our brains without actually doing what evolution wanted us to do in the first place. The most immediate way to wirehead is to hook up electrodes to the right parts of the brain and obtain direct electrical stimulus, as in the pioneering 1954 study on rats by James Olds and Peter Milner; Wikipedia informs us about subsequent studies showing how "rats will perform reinforced behaviors at the exclusion of all other behaviors. Experiments have shown rats to forgo food to the point of starvation in order to work for brain stimulation or intravenous cocaine when both food and stimulation are offered concurrently". Joelle Renstrom has a nice blog post about this.

Parallels to drug addiction among humans are obvious. Another example is the use of contraceptives in connection with sex; science fiction writer Peter Watts has a wonderful poem about this kind of wireheading.

Now for what is going on with the Trump administration. It has of course always (since 1789) been the case that the President of the United States receives pleasurable positive feedback when he does good work. Now, if he is unable to do good work, or if he is simply lazy, he can try to wirehead and get fake positive feedback without actually doing any good work, such as through rallies with enthusiastic followers in Florida or Iowa, or through North Korea-style cabinet meetings, or through typing tweets that generate thousands of likes and retweets.

I am not in general against wireheading (in particular, I am not opposed to the use of contraceptives), as in many cases I think the hedonic utility obtained is a more important value than whatever it is that the wireheading circumvents. But the White House is not the right place for this. What happens in the White House has so far-reaching consequences for the rest of the world that the single-minded quest for the maximization of just one man's hedonic well-being (which, ironically, doesn't even seem particularly successful) with zero regard for others should preferably take place at some other location where the potential for collateral damage is not as large.

lördag 24 juni 2017

Two conferences, two moods, two photos

During the last two weeks I've participated in two rather different academic conferences, and I'd like to share a couple of photographs that illustrate the rather diverse states of mind that the conferences put me in.1

First I took part in the IS4SI (International Society for Information Studies) 2017 Summit in my hometown Gothenburg. The invitation I received early on to give a keynote lecture (in which I spoke on the topic Should AI Armageddon scenarios be taken seriously?) generated further invitations to various sessions at the conference, so I ended up also participating in a panel discussion on The good information and communication society - from theory to actions, as well as contributing to a session on transhumanism (speaking on Aspects of mind uploading). All in all, the conference had its ups and its downs, and on at least one occasion I had trouble staying awake, as the following photo indicates.

The next week I went on to the 24th Ulvön conference on environmental economics, where I contributed a talk on Energy vs information: environmental exonomics meets singularitarianism. This annual meeting (this was the second time I participated; the first was in 2007) is truly enjoyable for many reasons including its intellectual content, the general friendliness of its participants, and its traditional menu on the final evening (surströmming - pretty much my favorite dish!).


1) Photo credit to Torbjörn Lundh and Jason Shogren, respectively.

söndag 11 juni 2017

Läs Derf Backderf!

Genom SVT:s kulturprogram Babel den 21 maj i år blev jag varse den amerikanske serietecknaren Derf Backderf. Jag har nu läst hans båda serieromaner My Friend Dahmer och Trashed, vilka båda är mycket bra, och starkt oroande om än på lite olika vis. Jag rekommenderar dem varmt.

Derf Backderf (som egentligen heter John i förnamn) föddes 1959 och växte upp i en medelstor stad i Ohio. Det slumpade sig inte bättre än att han var klasskamrat med Jeffrey Dahmer, som kort efter att deras vägar skildes åt i samband med high school-examen begick sitt första mord, och som 13 år senare skulle bli känd under beteckningen "the Milwaukee Cannibal" som en av USA:s värsta och mest bestialiska seriemördare, men 17 liv på sitt samvete. Dahmer dömdes till (mångdubbelt) livstids fängelse, och blev ihjälslagen av en medfånge 1994. Men My Friend Dahmer utspelar sig (till allra största delen) innan Dahmer blev mördare. High school-skildringar har ofta ett mörkt stråk i sig (jag tänker här framför allt på flera böcker av Stephen King), men den här boken är nog den svartaste jag läst i genren, och möjligen överhuvudtaget. Den är skriven med vad jag uppfattar som total ärlighet, utsökt fingertoppskänsla och stor medkänsla med huvudpersonen; Backderf är dock noga med att poängtera att hans sympati med Dahmer helt och hållet tar slut när denne tar steget från troubled teenager till kallblodig mördare. Vad som (utöver de mord man vet skall komma) är mest omskakande är vuxenvärldens enhälliga vägran att se de uppenbara tecknen på att Dahmer var i desperat behov av hjälp. Både lärare och föräldrar hävdar efteråt att de inte lade märke till att han avvek på något särskilt vis från den typiske lite stökige tonåringen.

Trashed är, liksom My Friend Dahmer, övervägande självbiografiskt baserad, och behandlar det moderna konsumtionssamhällets bokstavliga baksida. Konkret får vi ta del av Backderfs korta karriär, 19 år gammal, som renhållningsarbetare; han har dock valt att förflytta handlingen från sent 1970-tal till något som mer liknar nutid, möjligen för att smidigare passa in aktuella fakta kring amerikansk sophantering. De unga sopgubbarnas självironiska jargong (som ibland för tankarna till Martin Kellermans Rocky, fast bättre), och de många dråpliga händelserna (måhända inget för den äckelmagade) borgar för nöjsam läsning, men insikterna i modern (om uttrycket tillåts) sophantering gör boken upprörande och skrämmande. Till skillnad mot hos oss i Sverige - där vi för all del överkonsumerar med negativa konsekvenser för miljön, om än inte lika illa som i USA - domineras amerikansk sophantering ännu av dumpandet av osorterat avfall i enorma landfills, med stora konsekvenser för miljön. För den som inte nöjer sig med exempelvis global statistik över olika länders koldioxidutsläpp i vederläggandet av Vita husets fullkomligt absurda uttalande i samband med det nyligen annonserade utträdet ur Parisavtalet, att "the United States, under the Trump administration, will continue to be the cleanest and most environmentally friendly country on Earth", så kan Trashed erbjuda en hel del kompletterande ammunition.

torsdag 1 juni 2017

Solnit om Trump och den giriga fiskarhustrun

I höstas och vintras bloggade jag frekvent om Donald Trump, och även om ingångarna var lite olika var det grundläggande budskapet hela tiden detsamma, nämligen hur gravt och bottenlöst olämplig han skulle bli (eller redan var) som president. Min ståndpunkt kvarstår (och har om möjligt förstärkts), och igår nåddes jag av en underbar essä av Rebecca Solnit (som jag även tidigare hyllat här på bloggen) med titeln The loneliness of Donald Trump, vars budskap åter är detsamma, men framfört på ett annat sätt än jag träffat på tidigare. Solnit gör nämligen en ansats att sätta sig in i hur det är att vara Donald Trump. Hennes essä förtjänar att läsas i sin helhet, men låt mig ändå återge ett par passager:
    Thinking of [Trump], I think of Pushkin’s telling of the old fairytale of The Fisherman and the Golden Fish. After being caught in the old fisherman’s net, the golden fish speaks up and offers wishes in return for being thrown back in the sea. The fisherman asks him for nothing, though later he tells his wife of his chance encounter with the magical creature. The fisherman’s wife sends him back to ask for a new washtub for her, and then a second time to ask for a cottage to replace their hovel, and the wishes are granted, and then as she grows prouder and greedier, she sends him to ask that she become a wealthy person in a mansion with servants she abuses, and then she sends her husband back. The old man comes and grovels before the fish, caught between the shame of the requests and the appetite of his wife, and she becomes tsarina and has her boyards and nobles drive the husband from her palace. You could call the husband consciousness—the awareness of others and of oneself in relation to others—and the wife craving.

    Finally she wishes to be supreme over the seas and over the fish itself, endlessly uttering wishes, and the old man goes back to the sea to tell the fish—to complain to the fish—of this latest round of wishes. The fish this time doesn’t even speak, just flashes its tail, and the old man turns around to see on the shore his wife with her broken washtub at their old hovel. Overreach is perilous, says this Russian tale; enough is enough. And too much is nothing.

Och lite längre fram i essän:
    A man who wished to become the most powerful man in the world, and by happenstance and intervention and a series of disasters was granted his wish. Surely he must have imagined that more power meant more flattery, a grander image, a greater hall of mirrors reflecting back his magnificence. But he misunderstood power and prominence. This man had bullied friends and acquaintances, wives and servants, and he bullied facts and truths, insistent that he was more than they were, than it is, that it too must yield to his will. It did not, but the people he bullied pretended that it did. Or perhaps it was that he was a salesman, throwing out one pitch after another, abandoning each one as soon as it left his mouth. A hungry ghost always wants the next thing, not the last thing.

    This one imagined that the power would repose within him and make him great, a Midas touch that would turn all to gold. But the power of the presidency was what it had always been: a system of cooperative relationships, a power that rested on people’s willingness to carry out the orders the president gave, and a willingness that came from that president’s respect for rule of law, truth, and the people. A man who gives an order that is not followed has his powerlessness hung out like dirty laundry.

Och till slut:
    He must know somewhere below the surface he skates on that he has destroyed his image, and like Dorian Gray before him, will be devoured by his own corrosion in due time too. One way or another this will kill him, though he may drag down millions with him. One way or another, he knows he has stepped off a cliff, pronounced himself king of the air, and is in freefall. Another dungheap awaits his landing; the dung is all his; when he plunges into it he will be, at last, a self-made man.
Aldrig mer kommer jag att kunna höra Donald Trump yttra sitt favoritord utan att jag därmed kommer att tänka på Solnits essä och på folksagans giriga fiskarhustru.

måndag 29 maj 2017

Intervju om höstens gästforskarprogram om existentiell risk

Den workshop i Göteborg om existentiell risk den 7-8 september i höst som jag gjorde reklam för härom veckan här på bloggen är del av ett längre gästforskarprogram under september-oktober inom ramen för GoCAS (Gothenburg Centre for Advanced Studies in Science and Technology) och med Anders Sandberg som gästprofessor och vetenskaplig ledare. Nu finns en intervju med Anders och mig om programmet att läsa på Chalmers webb.

onsdag 24 maj 2017

Om Rickard L Sjöberg, Sven Å Christianson och vikten av att inte fastna i kollegial lojalitet

I mars 2013 skrev jag en bloggpost i vilken jag förklarade att kollegial lojalitet inte är en dygd jag håller högt. Det är såklart viktigt att stå upp för de kollegor som gör nytta och bedriver ett gott och hederligt arbete för en god sak, men om man fäster alltför stort och urskillningslöst avseende vid kollegial lojalitet riskerar den att komma i vägen för viktig kritik mot de kollegor som gör skada genom ett dåligt, missriktat eller ohederligt arbete.

En svensk forskare som verkligen sticker ut i fråga om att göra skada genom sitt både dåliga, missriktade och ohederliga arbete är psykologiprofessorn Sven Å Christianson vid Stockholms universitet. Genom den mycket konkreta skada han orsakat i rättsväsendet och hur han i förlängningen ödelagt människoliv vill jag mena att han i detta avseende utklassar den kvintett professorer jag listade i mars 2013 som exempel på kollegor som tack vare sin inkompetens eller ohederlighet eller sitt slarviga arbete kommit i skottlinjen för min brist på kollegial lojalitet. Ja, jag drar mig inte för att säga att Christianson håller Macchiariniklass.

Just nu är det mediagranskningen av det tragiska Kevinfallet i Arvika som aktualiserar namnet Christianson. Det är i hög grad måttfullhet i kollegial lojalitet vi har att tacka för att dessa avslöjanden kommit till stånd, ty det är tack vare civilkuraget och den begränsade kollegiala lojaliteten hos Rickard L Sjöberg, docent i medicinsk psykologi, som både DN och SVT kom bristerna i mordutredningen på spåren, inklusive Christiansons katastrofala inblandning. Jag rekommenderar varmt Sjöbergs artikel i SvD i måndags som obamhärtigt ådagalägger den flagranta ohederlighet som Christianson i detta fall uppvisat genom sin förvridna framställning av det vetenskapliga kunskapsläget inom minnes- och vittnespsykologi.

Trogna läsare av denna blogg minns att Christianson figurerade även i Quickfallet, något jag hade anledning att ta upp i min recension av Göran Lambertz bok Quickologi eftersom denne Lambertz i sin bok tog på sig att, med en fatal blandning av naiv okunskap och motivated reasoning, försvara Christiansons charlatanerier.1 Även den gången var det Rickard L Sjöberg som gjorde grundarbetet i att uppmärksamma de pseudovetenskapliga inslagen i Christiansons arbete; se gärna Joacim Jonssons utmärkta sammanfattning i tidskriften Folkvett.

Heder åt Sjöberg för att han tar på sig den otacksamma uppgiften att punktmarkera den vetenskapligt inkompetenta och direkt farliga kollegan Christianson!


1) Även nu i uppmärksamheten kring kring Kevinfallet har Lambertz av någon anledning (lojalitet?) kommit fram till att han borde ställa sig på Christiansons sida.

onsdag 17 maj 2017

Workshop on existential risk to humanity

Come to Gothenburg, Sweden, for the Workshop on existential risk to humanity that I am organizing on September 7-8 this year! The topic is a matter of life and death for the human civilization, but I still expect the workshop to be stimulating and enjoyable. The list of world-class researchers who are confirmed as speakers at the workshop include several who are already known to readers of this blog: Stuart Armstrong, Seth Baum, Robin Hanson, James Miller, Anders Sandberg and Roman Yampolskiy. Plus the following new aquaintances: Milan Cirkovic, David Denkenberger, Karin Kuhlemann, Catherine Rhodes, Susan Schneider and Phil Torres. All of these will in fact stay in town for various durations before and/or after the workshop, at the guest research program on existential risk that runs throughout September and October.

The workshop is open to all interested, and participation is free of charge. Pre-registration, however, is required.

fredag 5 maj 2017

Snabbvisit i Umeå

Om jag inte tar miste är det snart fem år sedan jag senast framträdde med föredrag i Umeå, men måndagen i näst-nästa vecka, den 15 maj, är det dags igen. Vid ett av Sveriges unga akademi och Vetenskapsrådet samarrangerat möte med rubriken Om forskningsetik: Vetenskapen och ansvaret för det möjliga kommer jag att tala över ämnet "Är det moraliskt försvarbart att bedriva forskning som resulterar i global katastrof?", delvis med utgångspunkt från moralfilosofiska resonemang i min bok Here Be Dragons: Science, Technology and the Future of Humanity. (Mötet är öppet för alla intresserade, men notera att arrangörerna begär föranmälan senast 12 maj.)

onsdag 3 maj 2017

Rekommenderas varmt: Sam Harris podcast

I minst ett år har jag haft tillräckligt många vänner (med intellektuell smak tillräckligt i linje med min egen) som varmt rekommenderar den amerikanske neurovetaren och samhällsdebattören Sam Harris podcast Waking Up för att inse att den är riktigt bra. I förra veckan gjorde jag äntligen slag i saken och började lyssna, så nu tillhör jag de frälsta, och skriver denna bloggpost i avsikt att rekrytera fler själar åt Harris.

Sam Harris har ett brinnande samhällsengagemang och en uppsättning filosofiska och vetenskapliga intressen som uppvisar ett påtagligt överlapp med mina. Han är synnerligen analytiskt lagd, han gillar att se svåra frågor belysta från olika håll, och han utmanar gärna sig själv genom att på stort allvar ta del av meningsmotståndares argument. Ofta, men långtifrån alltid, landar han i ungefär samma ståndpunkter som jag. Om hans analyser leder honom mot kontroversiella och impopulära ståndpunkter så väjer han inte för det.

Ett typiskt avsnitt av Waking Up utgörs av ett samtal mellan Harris och någon annan person vars tankar han intresserar sig för. Dessa samtal är vanligtvis cirka två timmar långa, vilket medger befriande fördjupning i en tid som i allt högre grad kommit att domineras av tweets och andra ytliga snapshots (men det bidrog nog också till att det dröjde så länge som det gjorde innan jag började lyssna på podcasten). Jag har nu på mindre än en vecka hunnit höra Sam Harris samtala med följande nio personer, och jag tycker mig ha hört tillräckligt för att våga påstå att den som gillar min blogg sannolikt kommer att älska Waking Up.
  • Charles Murray. Det här är det senaste avsnittet av Waking Up, och det som (via påstötningar från Patrik Lindenfors och Anders Emretsson) fick mig att till slut börja lyssna på podcasten. De läsare som känner till statsvetaren Charles Murray gör det nog från hans och den sedemera framlidne Richard Herrnsteins bok The Bell Curve: Intelligence and Class Structure in American Life från 1994, eller - troligare - från den långdragna och mycket aggressiva debatt som följde på boken. I denna debatt (som ännu inte svalnat; hans framträdanden kan fortfarande mötas med upplopp) framställdes Murray som rasist och värre saker än så, och jag tycker faktiskt att vi som i ett par decennier burit på det intrycket är skyldiga honom den lilla tjänsten att ta del av detta podcastavsnitt och få reda på vilken klok och sansad person han faktiskt är, och vilket starkt engagemang för social rättvisa han (trots att han politiskt drar åt höger) har.

  • Paul Bloom. Jag tvekar inte att karaktärisera detta samtal med psykologen Paul Bloom som ett ustökt och rentav virtuost samspel mellan två intelligenta herrar med viktiga saker på hjärtat. I centrum för diskussionen står (den för mig tidigare okända men troligvis väldigt viktiga) distinktionen mellan empati och medkänsla, och jag får snart hem Blooms aktuella bok med den provokativa titeln Against Empathy: The Case for Rational Compassion.

  • David Chalmers. Det finns få (om ens någon) nutida forskare inom medvetandefilosofi som är mer framstående än David Chalmers. Detta samtal tror jag kan fungera ypperligt som nybörjarintroduktion till området. (För mig, som alltid intresserat mig för medvetandefilosofi, och dessutom läst flitigt om det de senaste 15 åren, blev det dock mest skåpmat, om än välformulerad sådan.)

  • Stuart Russell. Här kan jag använda copy-and-paste ganska effektivt: Det finns få (om ens någon) nutida forskare inom artificiell intelligens (AI) som är mer framstående än Stuart Russell. Detta samtal tror jag kan fungera ypperligt som nybörjarintroduktion till AI-risk. (För mig, som intresserat mig för och dessutom läst flitigt om saken de senaste 8-9 åren, blev det dock mest skåpmat, om än välformulerad sådan.)

  • Daniel Dennett. Frågan om människans fria vilja och huruvida sådan är möjlig i ett materiellt universum hör till dem som tidigare intresserat mig men som jag senare tröttnat på, och det skall villigt erkännas att jag började lyssna på detta podcastavsnitt mer av nyfikenhet på hur Harris och Dennett socialt skulle hantera den situation de skapat genom den extremt arga debatt de haft med varandra i frågan några år tidigare. Det visar sig att de helt klart är on speaking terms, men att en viss odör av gammal surdeg likväl kans skönjas. I sakfrågan har de inte flyttat sig nämnvärt: att de ger olika svar på frågan om huruvida fri vilja existerar beror enbart på att de har olika uppfattning om vad som är en relevant definition av fri vilja, och inte alls på någon eventuell skillnad i uppfattning om hur världen är beskaffad (men det visste vi redan).

  • Gary Kasparov. I min ungdom hörde Kasparov - schackgeni och så småningom världsmästare, och möjligen rentav den störste schackspelaren genom alla tider - till mina allra största idoler. Hans roll efter avslutad schackkarriär som ledande rysk oppositionell och antiputinist är beundransvärd. I samtalet med Sam Harris är det delarna om Putin, Trump och internationell storpolitik som är värda att lyssna på. I diskussionen om artificiell intelligens (något Kasparov ofta tillfrågas om i kraft av sin historiska roll som den förste schackvärldsmästare som tvingats se sig besegrad av ett datorprogram) har han däremot väldigt lite av värde att tillföra.

  • Anne Applebaum. Författaren och journalisten Anne Applebaum har sällsynt god nutidshistorisk överblick över sovjetisk/rysk, europeisk och amerikansk politik. Liksom Harris samtal med Kasparov kretsar det med Applebaum i hög grad kring Trump, Putin, realpolitik och diktaturens mekanismer, men är avgjort intressantare.

  • Lawrence Krauss. Harris diskussion med fysikern Lawrence Krauss spänner, liksom så många andra av hans samtal, över många områden. Här är det delarna om kärnvapenhotet som är intressantast, medan den om tolkningar av kvantmakanik känns som om jag hört den hundra gånger förut, och käbblet om vilket som är farligast av kristen och islamsk fundamentalism snabbt blir tjatigt.

  • William MacAskill. Filosofiämnet anklagas ofta för att vara fast positionerat så högt upp i elfenbenstornet att det aldrig någonsin får någon praktisk betydelse. Men anklagelsen är felaktig, och den 30-årige (29 vid tiden för programmets inspelning) Oxfordfilosofen William MacAskills verksamhet är ett strålande motexempel. Han är frontfigur (såväl intellektuellt som entreprenöriellt) för den nya och snabbt växande effektiv altruism-rörelsen, som jag känner stor sympati med, och samtalet behandlar väldigt nyanserat frågan om hur vi bäst kan göra världen bättre. Vissa psykologiska aspekter har starka beröringspunkter med ovan nämnda avsnitt med Paul Bloom. Jag har beställt MacAskills bok Doing Good Better och ser fram emot att läsa den.

söndag 23 april 2017

Bilder från March for Science

Jag är i viss mån är benägen att instämma i den kritik som Ulf Danielsson riktar mot de svenska grenarna av March for Science - en kritik som går ut på att arrangemanget i allt för hög grad lierat sig med makten. Istället för att ur gräsrotsperspektiv varna för den inskränkta forskningspolitik som vår regering för (något som tydligt kan utläsas ur höstens forskningsproposition, och som Ulf sammanfattar med att de ser vetenskapen som "ett lydigt verktyg som skall leverera enligt beställning"), väljer man inställsamt att till talrastolen inbjuda höga företrädare för makten, inklusive forskningsminister Helene Hellmark Knutsson.

Ändå är jag glad och stolt över att ha deltagit i gårdagens världsomspännande hyllning till vetenskapen (och jag gjorde faktiskt en ansats att, då jag hade ordet, erbjuda en smula motvikt mot sagda inställsamhet, genom att kritisera den snävt instrumentella syn på vetenskapen som regeringen står för). Så här såg det ut hos oss i Göteborg:1

Många fyndiga plakat förekom, här några exempel:

Det marscherades ju som sagt även på många andra håll än i Göteborg. Här är ett exempel från Seattle, med anknytning till ett av mina favoritforskningsområden - sannolikhetsteori:

Så här långt kommen må läsaren vara förlåten om hen finner budskapen uppslupna och trevliga men tämligen oförargliga - vem kan rimligtvis ha något att invända mot detta slags vetenskapshyllningar? Well, tro det eller ej, det finns faktiskt vetenskapsfientligt lagda figurer som har det. Ett exempel är Peter Stilbs, professor emeritus i fysikalisk kemi vid KTH. En och annan läsare kanske känner igen hans namn; han och jag har haft en kylslagen relation med då och då uppblossade små gräl alltsedan han 2008 kom i skottlinjen då jag i tidskriften Folkvett skrev om klimatförnekeri. I den populära Facebookgruppen Högskoleläckan såg han sig i morse föranledd att länka till en sida med bilder (liknande de ovanstående) vilka han fann anstötliga, samt lägga till de varnande orden "Ni som deltog i marschen i går - betänk att det var denna typ av krafter ni lierade er med". Länken gick till ett färskt inlägg på den amerikanska klimatförnekarbloggen Watts Up With That (WUWT), och här är några av de bilder som tydligen såväl WUWT-bloggaren som Peter Stilbs fann anstötliga:

Roliga plakat, tycker jag! Och jag fann Stilbs upprörda reaktion på dem tillräckligt löjlig för att svara med en lätt spefull kommentar - " Om du tycker de där bilderna var hemska, Peter Stilbs, då skall du få se något om möjligt ännu värre från March for Science i Göteborg - där var vi inte nådiga mot vetenskapsförnekare av ditt slag!" - tillsammans med följande bild från min egen medverkan igår:


1) Foto-attribuering: De tre första bilderna är tagna av Joacim Jonsson, och den fjärde av Peter Guttorp. Ursprungen till bilderna fem, sex och sju är höljda i dunkel, medan den åttonde kommer från Chalmers kommunikations- och marknadsavdelning.

torsdag 20 april 2017

March for Science

Nu på lördag (22 april) är det dags att ge sig ut på barrikaderna, ty då går March for Science av stapeln i Washington D.C. och i hundratals andra städer. Avsikten är att "stå upp för vikten av vetenskap och att forskningsbaserad kunskap används i samhället. Särskilt poängteras att vetenskapen inte känner några gränser och att dess styrka och karaktäristik är mångfald och öppenhet". I Sverige äger March for Science rum i Luleå, Stockholm, Umeå och Uppsala.

Samt naturligtvis i Göteborg, där (bland universitetsrektorer och annat prominent folk) även lilla jag finns med på talarlistan! Vi samlas på Gustav Adolfs Torg 12.00, för avmarsch 12.30 mot Götaplatsen, där manifestationen fortsätter 13.00 med diverse tal och andra framföranden.

Några av talarna på March for Science i Göteborg. Övre raden: Carl Bennet, yours truly och Bethanie Carney Almroth. Nedre raden: Stefan Bengtsson, Lena Malm och Pam Fredman.

tisdag 18 april 2017

Akademisk-frihetlig extremism

Göran Bexell är professor i etik och var under åren 2003-2008 rektor för Lunds universitet. Jag läser just nu hans bok Akademiska värden visar vägen, som handlar om begreppet universitet och hur ett universitet kan organiseras och ledas. Den har drag av självbiografi, och är intressant, om än inte fullt lika intressant som självbiografier av intellektuellt mer vildsinta figurer som exempelvis Richard Feynman, Ayaan Hirsi Ali och Torbjörn Tännsjö. Jämfört med dessa framstår Bexell som en välartad och ganska beskedlig person, utan särskilt många utmanande eller misshagliga uppfattningar, och sådan måste man naturligtvis vara om man skall nå så högt som till universitetsrektor i sin ämbetsmannakarriär. Emellertid, då jag nu nått sidan 97 finner jag att Bexell gör sig till tolk för en ståndpunkt som upprör mig tillräckligt för att jag skall stämpla den som akademisk-frihetlig extremism. Hör här:
    Det finns en inre kärna i begreppet [akademisk frihet] som inte är förhandlingsbar för ett universitet. Jag kallar den akademisk integritet. Medan akademisk frihet är ett vidare begrepp har akademisk integritet mindre omfång och står för kravet på total integritet avseende forskningens resultat, metod, publicering och i viss utsträckning dess inriktning men också för utbildningens frihet. Ingen styrning eller ens otillbörlig påverkan av politiska, ekonomiska, ideologiska eller andra ovidkommande faktorer ska få förekomma. Detta är själva kärnan i akademisk frihet och livsnerven i ett universitet. Om det uppges förlorar universitetet sin identitet, sin själ. Det är en av rektors viktigaste uppgifter att stå upp för integriteten och säga nej om den hotas. Om en regering tvingar på något som bryter integriteten är det rektors uppgift att avgå.
Detta är enligt min mening alldeles på tok. I uppräkningen av "forskningens resultat, metod [och] publicering" skulle jag, för att motviera min ståndpunkt, kunna skjuta in mig på "metod" och nämna namnet Macchiarini, varvid nog både Bexell och alla andra förstår min poäng om att påverkan utifrån på forskningens metod ibland trots allt kan vara motiverad när universitetet självt fallerar. Låt mig dock istället välja att skjuta in mig på "publicering", och oförsynt hävda att när en grupp forskare är på väg att skrida till verket med en publicering som kan förutsägas leda käpprätt mot mänsklighetens undergång eller annan global katastrof, då finns legitima skäl för en regering eller annan extern part att ingripa mot publiceringen. Och låt mig betona att detta inte är något långsökt teoretiskt resonemang från min sida; i min bok Here Be Dragons ger jag en lång rad mer eller mindre plausibla konkretiseringar av vad för slags forskningsresultat ett sådant scenario skulle kunna inbegripa.

En försvarare av den bexellska integritetsståndpunkten skulle här kunna säga att visst bör man undvika att publicera forskning som resulterar i mänsklighetens undergång, men låt det då vara upp till den enskilde forskaren eller det enskilda universitetet att göra den bedömningen, utan att exempelvis regeringen lägger sig i. Om enskilda forskare eller universiteten eller forskarsamhället som helhet uppvisade det slags mognad och klokskap som krävs för att hantera sådana frågor, då skulle det försvaret måhända duga, men för mig står det alldeles klart att såväl enskilda forskare som universiteten och forskarsamhället som helhet brister i fråga om den erforderliga mognaden och klokskapen. För en antydan om dessa brister, se t.ex. följande passage från sidan 4 i Here Be Dragons:
    Creation (or recreation) of deadly viruses immediately springs to mind as a case for concern. In 2005, a group of US scientists announced that they had reconstructed the Spanish Flu virus that in 1918 and 1919 had killed maybe 50 million people. Their publication generated significant controversy about safety issues concerning both the laboratory work and the publication of their findings.9 A recent similar controversy concerned the release of details about the laboratory-based mutation of a bird flu virus to make it transmissible between mammals.10 Here, a US government biosecurity advisory board initially advised that the papers be censored before publication, but later changed their mind on the grounds that "it had heard new evidence that sharing information about the mutations would help in guarding against a pandemic" and that "the data didn't appear to pose any immediate terrorism threat".11 The revised papers were then published in full. At the time of the controversy, one microbiologist interviewed in a TV news broadcast12 defended the publication by pointing out that terrorists lack the technological infrastructure to exploit the research findings on the bird flu mutation. Be that as it may, the argument is flawed, because once the findings are published they are irreversibly out there, and we need to be worried not only about whatever infrastructure terrorists have now, but also what they may possess 10 years from now, or 20, or 50. (It may of course be that the microbiologist had access to a careful study showing that no such threat was forthcoming, but that seems unlikely.)

    9) von Bubnoff (2005), van Aken (2007).

    10) Yong (2012), Ritter (2012).

    11) Ritter (2012).

    12) Unfortunately, I have not been able to retrieve a more specific reference.

Säkert kommer en del läsare att tycka att jag är orättvis som dömer ut Bexells ståndpunkt om akademisk integritet som extremism, då det ju handlar om synpunkter som var och varannan någorlunda allmänakademiskt engagerad forskare skulle kunna häva ur sig. Och ja, jag medger här att jag tagit mig en retorisk frihet genom att avvika något från den gängse betydelsen av extremism som en kraftig avvikelse från det normalt förekommande spektrat av åsikter. (Om den bexellska ståndpunkten är den vanliga, vilket jag faktiskt tror är fallet, då kan man ju hävda att det är jag snarare än han som är extremist.) Vad jag menar här är snarare en kraftig avvikelse från vad som är rimligt att anse, eller från vad en klok och välinformerad person skulle komma fram till efter tillräcklig reflektion i frågan.

Jag skall träffa Göran Bexell imorgon, i anslutning till att han på Göteborgs universitets Naturvetenskapliga fakultet ger ett seminarium över ämnet Kollegialitet, akademiskt ledarskap och akademiska värden, och det skall bli intressant att höra hur han ställer sig till denna fråga. Gissningsvis kommer han att ge mig rätt i att forskare och universitet inte bör tillåtas publicera forskning som medför stor risk för mänsklighetens undergång eller liknande global katastrof, men framhålla att det inte var den sortens situationer han avsåg i sitt tal om akademisk integritet. Nåväl, det vore ju bra, men om han öppnar för sådana undantag borde han inte använda kompromisslösa formuleringar om "inte förhandlingsbar", "total integritet" och "Ingen styrning [...] ska få förekomma".

fredag 7 april 2017

Tännsjös självbiografi

Det mesta som Torbjörn Tännsjö skriver är läsvärt, men jag vill lägga ett extra gott ord för hans nyutkomna självbiografi Vänsterdocenten.1 Inledningsvis förklarar han sin uppskattning för intellektuella biografier, och den här boken är verkligen en sådan. Det är i första hand de idéer som sysselsatt honom som står i fokus, inte hans privatliv; av boken framgår att han gift sig mer än en gång och fått mer än två barn, men det är händelser som skymtar förbi i förbifarten, och i ingetdera fallen tycker jag mig ha kunnat utläsa något klart besked om det exakta antalet. Idéerna som behandlas faller mestadels i endera av två kategorier (även om överlappet är icketrivialt), nämligen de som rör hans profesionella gärning som akademisk filosof, och de som rör hans engagemang i den svenska vänsterrörelsen.

Utan tvekan är det den första kategorin av idéer jag har lättast att begripa. Det är inte så att jag delar alla Tännsjös filosofiska ståndpunkter (den moraliska realism han vurmar för har jag nog aldrig omfattat, åtminstone inte i vuxen ålder), men han uttrycker och försvar dem med klarhet och skärpa. Vi får ta del av hur han tänkt kring frihet, yttrandefrihet och demokrati, vi får en rejäl dos utilitarism, liksom därtill en gnutta religionsfilosofi, en intressant djupdykning i ondskans natur, och en förklaring till hans 180-gradersomsvängning i frågan om personlig integritet och privatliv. Det är också med stor behållning som jag tar del av skildringarna av livet och verksamheten på Stockholms universitets filosofiska institution på 1970-talet, och boken blir till en för mig värdefull brygga mellan den tid som skildras i Svante Nordins Ingemar Hedenius-biografi (ytterst läsvärd även den!) och vår egen. Tongivande i den äldre generationen på den tiden var Anders Wedberg och Harald Ofstad. Den förre av dessa har något av idolstatus hos mig i kraft av sin filosofihistoria, och därför var det extra sorgligt att ta del av hur illa hans bana slutade, i samband med införandet av institutionsdemokrati på filosofiska institutionen:
    Den personligen välsinnade och på många sätt tålmodige Anders Wedberg, bruten av [sjukdomssviter] men fortfarande i tjänst, inte bara som professor, utan olyckligtvis också som prefekt [...], klarade inte av att lära sig denna för honom okända umgängesform. Vad som för de flesta människor bara skulle ha varit en irriterande episod, blev för Wedberg en personlig katastrof. Han lät sig dras med i en absurd cirkus, med möten som kunde vara tolv timmar i sträck (jag satt själv ordförande vid ett sådant - det ogiltigförklarades senare) och JO-anmälningar som gav upphov till nya möten där man ändlöst diskuterade spetsfundiga frågor om vem som egentligen var prefekt en viss vecka under sist förlidna sommar.

    Styrelsens majoritet ville driva igenom vissa smärre ändringar i organisationen av ämnet teoretisk filosofi, vilket skulle gynna icke disputerade lärare. [...] Wedberg motsatte sig förslaget bestämt. Majoriteten svarade med att söka formella fel i Wedbergs ämbetsutövning. Wedberg svarade med att skriftligen försvara sig. Enstaka företrädare för majoriteten producerade nya anklagelseskrifter. Ett kollektivt vanvett grep omkring sig. Högre instanser vid universitetet inträdde, Harald Ofstad och Lars Bergström övertog växelvis ansvaret för prefektsysslan, institutionens självstyrelse upphävdes, men den onda spiralen av anklagelser och motanklagelser bröts inte förrän Anders Wedberg avled. [s 198-199]

Denna och andra skildringar Tännsjö bjuder på av det konfliktfyllda akademiska livet under 1970-talet tjänar som en nyttig påminnelse för en sådan som mig, som har en lätt kverulantisk tendens att motsätta mig de nya vindar som blåser i universitetssverige och tycka (felaktigt) att allt var bättre förr.

Jämfört med den akademiska och filosofiska sidan av den tännsjöska idévärlden finner jag den vänsterpolitiska mer svårsmält. Troligen är det helt enkelt så att jag saknar den förkunskap om 68-rörelsens alla grupperingar och fraktioner som Tännsjö förutsätter att läsaren skall ha. Kanske hade det hjälpt om han inkluderat en ordlista med korta förklaringar till de grundläggande ismerna och vad som skiljer dem åt: socialism, kommunism, rådssocialism, marxism, trotskism, leninism, stalinism, maoism och det ena med det tredje. Jag saknar (åtminstone just nu) det tålamod som krävs för att utan ledsagare ta reda på allt detta: när jag läser om X-ismen att den uppstod som reaktion på en Y-ism som ansågs alltför starkt influerad av Z-ism, då sträcker jag uppgivet händerna i luften och tänker att det här är nog fan inte värt besväret, nog för att jag kan ställa upp på idéer om solidaritet och social rättvisa, men allt det här revolutionsromantiska snacket, var inte det mest bara dumheter?

Mot slutet av boken lättar den politiska dimman något, och det är med stort utbyte jag tar del av kapitlen om Tännsjös "skamliga resor" (hans egen kapitelrubrik, om hur han reste som representant för svensk akademi och svensk vänster till bland annat Nordkorea och DDR), och om arbetet med Vänsterpartiets nya idéprogram efter murens fall. Han avslutar boken med en utsökt cliffhanger inför vad som tydligen skall bli en andra del av självbiografin:
    Det är sensommar, 1989. Jag står i begrepp att resa till Helsinfgors med två av mina barn, Josef och Olga. Telefonen ringer just innan vi ska ge oss av. Det är från Tidningarnas Telegrambyrå (TT). Har jag läst i tidningarna om Alf Svenssons utspel? Det har jag inte. Då får jag veta:

    Alf Svensson, ledare för Kristdemokraterna, har krävt att du ska avsättas från din docentur vid Stockholms universitet. Har du någon kommentar?


1) Förutom att ha läst boken var jag även med vid boksläppet den 15 mars i år, då Tännsjö förde ett både intressant och trivsamt samtal om boken med Erik Helmerson. Det spelades in, och 48:05 in i videon ställer jag en publikfråga och får svar av både Tännsjö och Helmerson; möjligen kan en eller annan läsare inför speciellt Helmersons svar nicka och tänka att där minsann fick väl den där Häggström sig en välförtjänt läxa. Måhända får jag anledning att återkomma i frågan.