De 100-jarige Allan Karlsson vindt het niet te laat om opnieuw te beginnen met zijn leven. Hij ontsnapt uit het tehuis, neemt op het busstation een koffer mee die miljoenen kronen blijkt te bevatten, sluit onderweg een goede vriendschap met enkele zonderlinge figuren, en vermoordt en passant zijn criminele achtervolgers. De politie probeert een zaak tegen hem te maken, maar dan blijkt dat niets bewezen kan worden.
Er wordt veelvuldig overgeschakeld naar flashbacks uit Karlssons jongere jaren, waar op episodische wijze door zijn honderdjarige geschiedenis wordt gesprongen. Zijn voorliefde voor het opblazen van dingen brengt hem van de Spaanse Burgeroorlog tot Stalinistische werkkampen en de bouw van de eerste atoombom. Onderweg ontmoet een jonge Karlsson een aantal belangrijke en minder belangrijke historische figuren, van generaal Franco tot Winston Churchill en van Josef Stalin tot Herbert Einstein, het vermeende, minder pientere broertje van Albert.