tisdag 20 februari 2018

Existentiell risk i Stockholm

På onsdag kväll i nästa vecka, den 28 februari, håller jag föredrag i Stockholm med rubriken Existential risks to humanity. Tidpunkt 17.30-18.30, plats Stockholms uiversitet, Universitetsvägen 10A, Södra huset, sal D7. Arrangör är föreningen Effektiv Altruism Sverige, och i deras inbjudan till föredraget finns följande sammanfattning:
    During the 21st century, extraordinary and perhaps disruptive advances can be expected within biotechnology, nanotechnology, and machine intelligence. The potential benefits of all these technologies are enormous, but so are the risks, including the possibility of human extinction.

    In this lecture, Olle Häggström will discuss some of the major existential risks facing humanity in the coming century or so, and explain why he thinks that the currently predominant attitude towards research and development - tantamount to running blindfolded at full speed through a minefield - ought to be revised in favor of more foresight and more caution.

    [...]

    Olle Häggström is a professor of mathematical statistics at Chalmers University of Technology. His most noted research achievements are in probability theory, but his cross-disciplinary research interests are wide-ranging and include climate science, artificial intelligence, and philosophy. The talk will be partly based on his 2016 book Here Be Dragons: Science, Technology and the Future of Humanity.

måndag 12 februari 2018

Meningsutbyte med Bo Rothstein om matematisk modellering

Bo Rothstein är med varje rimligt mått mätt en av Sveriges mest framstående statsvetare, och på tidningarnas debattsidor utgör han en frisk fläkt. Ibland går han dock en smula överstyr i sin argumentation, som i gårdagens artikel på DN Debatt, rubricerad Felaktig tolkning av metoo riskerar att skada tilliten. Det finns mycket att diskutera och kritisera i den artikeln, men här skall jag uppehålla mig vid en enda detalj, nämligen följande passage:
    [På] min egen arbetsplats, Göteborgs universitet, [utförs] ett antal undersökningar [...] där de tillfrågade fått svara på frågan om de under det senaste året utsatts för sexuella trakasserier. Resultatet är att cirka 2 procent av kvinnorna uppger att de blivit utsatta (och ungefär 1 procent av männen).

    Det är statistiskt inte helt enkelt att översätta dessa två procent per år till längre tidsperioder, men om man utgår från en anställningstid om 20 år är en någotsånär rimlig uppskattning att femton procent av de anställda kvinnorna blivit utsatta för vad de själva uppfattar vara sexuella trakasserier någon gång under en tjugoårsperiod.

Dessa 15% synes mig gripna ur luften, något som föranledde mig att igår skriva en Facebookuppdatering med följande innehåll.
    En sak jag inte begriper med den här artikeln är detta: om man är kritisk mot metoo och tycker att ett huvudproblem är att det är tyst kring vetenskapliga resultat om hur vanligt förekommande sexuella trakasserier är, på vad sätt skulle det då förbättra situationen att en ledande statsvetarprofessor killgissar1 på DN Debatt att 15% av kvinnliga anställda vid Göteborgs universitet blivit utsatta för sexuella trakasserier under sistlidna 20-årsperiod?
Jag skrev dock detta med en lite obehaglig magkänsla av att jag själv faktiskt kunde tänkas ha bidragit (om än helt oavsiktligt) till den av Rothstein anförda procentsiffran. Den 27 november förra året tog jag nämligen del av en Facebookuppdatering från samme Rothstein, där han frågade huruvida en årlig trakasserisannolikhet om 1,6% (en sifferuppgift som härrör från samma undersökning vid Göteborgs universitet men som avser en poolning av grupperna män och kvinnor) kunde översättas till en 32%-ig sannolikhet att bli trakasserad någon gång under en 20-årsperiod. Jag svarade nej, och Rothstein bad mig utveckla, varvid jag utvecklade:
    Det första du skall tänka på är huruvida du har tillräcklig information för att besvara din fråga. Det har du inte här, för sannolikheten att trakasseras inom loppet av en tjugoårsperiod beror inte bara på den årliga sannolikheten, utan också på beroendestrukturen mellan att trakasseras ett år och ett annat år. Givet att den årliga siffran är rätt kan, beroende på denna beroendestruktur, tjugoårssannolikheten landa var som helst mellan 1,6% och 32%. För att få fram en exaktare siffra krävs modellantaganden. Tre exempel:

    (1) Om trakasseri ett år immuniserar en person mot trakasseri alla kommande år (ett fullständigt orimligt antagande), så att det varje år uteslutande är nya personer som syns i statistiken, så fungerar din kalkyl, och svaret blir 32%.

    (2) Om det ständigt är exakt samma personer som trakasseras (ett lika orimligt antagande) så att inga nya kommer in i statisktiken under ett nytt år, så blir svaret 1,6%.

    (3) Om statistiskt oberoende gäller mellan att en person blir trakasserad ett år och nästa (ett måhända aningen mindre orimligt antagande, men fortfarande orimligt), dvs noll korrelation, så fungerar den Lindbomska kalkylen1 nedan, och svaret blir 27,6%.

    Många alternativa modellantaganden är möjliga. Så vad är sanningen? I slutändan är det en empirisk fråga. Intill dess vi kan besvara den gissar jag (tentativt) att positiv men inte fullständig korrelation föreligger mellan trakasseri mot en och samma person ett år och ett annat, så att det rätta svaret i så fall hamnar någonstans mellan (2) och (3).

Min obehagliga magkänsla besannades för någon timme sedan, då Rothstein kommenterade på Facebook med följande ord.
    Modellantaganden har jag fått från Olle Häggström själv [se ovan] när jag får några månader sedan frågade honom hur man skulle resonera om detta. Som ni kan se [...] är hans egen "gissning" att man hamnar någonstans mellan 1,6% och 27,6. Och då blir det väl som jag skrev, runt 15%.

    [...]

    Kan tillägga att jag inte är förtjust i att bli förolämpad ("killgissning"). Jag är inte statistiker men har gjort så gott jag kunnat i detta genom att tillfråga en av landets främsta matematiska statistiker. Har jag gjort fel så vi jag naturligtvis rätta till det men tonen i många av dessa kommentarer ger mig avsmak

Mitt svar till honom:
    Det här var inte helt bra, Bo. Om du faktiskt på allvar tolkar något av det jag skrev på din FB den 27 november som stöd för din siffra 15% så ber jag härmed att å det bestämdaste få dementera detta.

    Att "tillfråga en av landets främsta matematiska statistiker" är naturligtvis en god idé i sådana här sammanhang, men det hade varit en ännu bättre idé om du hade fullföljt den strategin lite ihärdigare innan du vände dig till DN Debatt. Du hade exempelvis kunnat fråga mig (a) huruvida medelvärdet mellan två ytterlighetspunkter automatiskt ger en rimlig uppskattning, och (b) huruvida kvantifieringarna "någonstans mellan 1,6% och 27,6%" och "runt 15%" är att betrakta som synonyma. Mitt svar hade blivit ett kraftfullt nej på båda frågorna.

Rothstein valde då att insistera på att det jag skrivit utgjorde stöd för hans 15%:
    Olle, tråkigt att du inte vågar stå för vad du faktiskt skrev, eller åtminstone erkänna att du uttryckt dig på ett sätt som gjort min tolkning helt av vad du skrev rimlig. Igen, du avslutar med följande
      Så vad är sanningen? I slutändan är det en empirisk fråga. Intill dess vi kan besvara den gissar jag (tentativt) att positiv men inte fullständig korrelation föreligger mellan trakasseri mot en och samma person ett år och ett annat, så att det rätta svaret i så fall hamnar någonstans mellan (2) och (3).
    Modell 2 var 1,6 procent, modell var 27, 6 procent. "Mellan" måste enligt svenskt språkbruk ses som en mittpunkt, och då hamnar man något under 15%.
Mitt korta svar på det:
    Jag står för det jag skrev, Bo. Och är ärligt talat lite chockad över hur du valt att vantolka detta.

Där tog dessvärre diskussionen slut, i och med att Rothstein, tydligen en smula förnärmad, valde att trycka på Facebooks avfriendningsknapp.

Fotnoter

1) I (den ganska omfattande) kommentarstråden fick jag viss berättigad kritik för ordvalet "killgissar" (inte bara från Rothstein). Ordet anbefalles visserligen av statliga Institutet för språk och folkminnen som ett av 2017 års nyord, men är likväl inte särskilt lyckat.

2) Nämligen uträkningen 1 - (1-0,016)20 = 0,276.

tisdag 30 januari 2018

Två tankar i huvudet samtidigt

Tydligen var det så att SVT:s samhällsprogram Agenda i söndags planerades bjuda på en debatt på det brännande temat "Är det samhällets eller individens ansvar att minska flygandet för att rädda klimatet?"1 - ett inslag som dock gick om intet eftersom Ingvar Kamprads bortgång kom emellan och behövde ägnas en stor del av programmet. Som en ringa kompensation för det uteblivna inslaget erbjuder jag härmed mina två cent i frågan. Jag tycker att vi borde kunna hålla två tankar i huvudet samtidigt:

Å ena sidan. Klart som tusan att individen har ett ansvar för att inte belasta vår jord med mer än sin rättmätiga andel (typ en 7500000000:e-del, förutsatt att man inte har väldigt övertygande argument2 för en mer ojämn fördelning) av vad som är hållbart. Envar som flyger mer än så beter sig oansvarigt och skurkaktigt.

Å andra sidan. Med tanke på folks allmäna skurkaktighet och usla track record när det gäller att ta ansvar för vår planetära hållbarhet (mea culpa), så blir det nog likförbannat nödvändigt för samhället att gripa in och sätta stopp för det hejdlösa flygandet.

Fotnoter

1) Flygets klimatpåverkan är något som bl.a. några av mina Chalmerkollegor sysslat med. Se exempelvis rapporten Svenska handlingsalternativ för att minska flygets klimatpåverkan av Jonas Åkerman, Jörgen Larsson och Anna Elofsson.

2) Ett exempel på ett argument jag inte finner övertygande är följande, som jag upplever som mycket vanligt även om det oftast lämnas outtalat: "Jomen det mesta jag flyger är ju i jobbet, och vad jag gör i jobbet har jag såklart inte något som helst personligt ansvar för."

söndag 28 januari 2018

Swing Time är läsvärd

Swing Time av Zadie Smith är en av de bästa romaner jag läst på ganska länge. Den känns naturlig att jämföra med Kjell Westös Den svavelgula himlen som jag läste i höstas, då de båda kretsar kring barndomsvänner som så småningom graviterar isär men till slut återser varandra en bit upp i medelåldern, och båda genomsyras av klassfrågor.1 I Swing Time tillkommer rasperspektiv som ett bärande element, till skillnad från i Westös bok vars handling är koncentrerad i och kring ett etniskt tämligen homogent Helsingfors. Smiths bok är mer kosmopolitisk, och utspelar sig i London, New York och ett västafrikanskt land som aldrig nämns vid namn men som verkar vara Gambia, där huvudpersonen medverkar i ett föga framgångsrikt biståndsprojekt.2 Det är ett gott betyg på Swing Time att jag finner den klart bättre än Den svavelgula himlen trots att Westö är en gammal favoritförfattare och trots att hans aktuella bok ingalunda är något misslyckande.

En sak jag fann frapperande hos Swing Time är att de fyra personer som porträtteras någorlunda utförligt - berättarjaget, hennes mamma, hennes barndomsvän Tracy, och megapopstjärnan Aimee (som om än inte i alla avseenden identisk med Madonna likväl är tydligt modellerad efter henne) - alla är kvinnor (många andra personer figurerar i boken men blir mer till bifigurer och rekvisita). Men så slog det mig att jag nog läst många böcker som på motsvarande vis domineras av ett antal män utan att reagera närmare på den saken, så själva min reaktion på detta blev en lärorik påminnelse om skevheter i hur vi ser på män respektive kvinnor.

Av de fyra personprorträtten är det berättarjagets som är mest utförligt, och ändå är det hon som likväl till slut förblir mest enigmatisk. En oro återkommer då och då om huruvida hennes på ytan innehållsrika liv ändå lider av tomhet. Den underliggande frågan om vad som är ett meningsfullt livsinnehåll får inget slutgitigt svar, men blir något man som läsare tar med sig efter att ha lagt ifrån sig boken.

Fotnoter

1) Smiths insiktsfullhet och utsökta känsla för klass- och andra sociala frågor framkommer bland annat också i en essä hon skrev i kölvattnet av Brexit och som jag tidigare lyft fram här på bloggen.

2) Handlingen i Gambia får mig att associera till en annan bra bok jag läst denna vinter: Kevin Simlers och Robin Hansons mycket intressanta The Elephant in the Brain, som jag räknar med att återkomma till här på bloggen och vars genomgående tes är att mycket av vad vi gör drivs av andra (och typiskt mindre ädla) motiv än dem vi hävdar - motiv som vi hemlighåller så noga att vi till och med lurar oss själva. I kapitel efter kapitel illustrerar författarna grundtesen på olika områden, och i kapitlet om välgörenhet hävdar de att det som driver en välgörare som regel mer handlar om att imponera på andra och visa upp dygder än om genuin önskan att göra gott. Detta påstående är givetvis oaptitligt, men samtidigt är det svårt att avvisa, och det havererade biståndsprojektet i Swing Time passar bra in Simlers och Hansons cyniska bild.

söndag 21 januari 2018

SVT:s Idévärlden om AI-risk

Veckans avsnitt av SVT:s Idévärlden behandlar risker med framtida utveckling inom artificiell intelligens (AI), och kan ses i SVT Play. AI-risk var ett framträdande tema vid det gästforskarprogrm om Existential risk to humanity som jag var med och drev vid Chalmers och Göteborgs universitet i höstas (något som t.ex. framgick av flera av föredragen vid vår publika workshop i september), och därför är det kanske inte helt ologiskt att samtliga tre gäster i SVT:programmet hämtades bland deltagarna i vårt gästforskarprogram: Anders Sandberg, Dorna Behdadi och Karim Jebari. Det blev ett riktigt bra avsnitt av Idévärlden, något som i alla fall för mig var ytterst väntat, i ljuset inte bara av de utmärkta interna diskussioner vi hade i gästforskarprogrammet, utan också av de publika paneldiskussioner jag de senaste åren deltagit i med var och en av tre: Anders, Dorna och Karim. Även programledaren Daniel Sjölin gjorde ett bra jobb.

onsdag 17 januari 2018

Two excellent contemporary writers

Two of my favorite contemporary writers, operating however in very different genres, are Ted Chiang and Scott Alexander:
  • Ted Chiang is a science fiction writer specializing in short stories. When I read his collection Stories of Your Life and Others I said to myself "wow, this guy is almost better than Greg Egan" (but let me withhold final judgement on that comparison). The book opens with Tower of Babylon, which explores a beautiful alternative cosmology more in line with what people believed in ancient times, and continues with Understand, which, albeit lacking somewhat in realism, gives what is probably the best account I've read on what it might be like to attain superintelligence - an impossible topic, yet important in view of possible future transhumanistic developments. Among the other stories in the book is the title one, Story of Your Life, which was later adapted to the Hollywood movie Arrival; I recommend both reading the story and seeing the movie (the plots diverge somewhat in interesting respects) and then listening to the podcast Very Bad Wizards discussing them.

  • Scott Alexander blogs about science, philosophy, future technologies and related topics. He often penetrates quite deeply into his chosen topic, and his posts are often longish to very long. Several of his blog posts have influenced me significantly, such as...
Excellence is writing may however be more or less genre-specific; I suspect that most good authors of university-level mathematics textbooks suck as poets, and vice versa. Another example is that when last month Ted Chiang tried his luck at writing an essay on AI futurology with the title Silicon Valley is Turning into its Own Worst Fear, his brilliance does not shine through. The gist of Chiang's argument is that superintelligent AI and capitalism are similar in that they both relentlessly optimize for something that is not entirely well-aligned with human well-being, and that since superintelligent AI does not at present exist while capitalism does, only capitalism poses a real danger. This last conclusion is a non sequitur.

And now, finally... get ready for my excuse for discussing Chiang and Alexander in the same blog post! Scott Alexander's blog post Maybe the Real Superintelligent AI is Extremely Smart Computers from earlier this week is a masterful exposition of the errors in Chiang's arguments. When I first saw Chiang's essay, I saw mostly the same errors that Alexander saw, but would never have been able to explain them quite as pedagogically as he does. Do read it (Alexander's blog post, that is), as I have nothing to add to it.