本来，段匹磾与刘琨结盟，是想借助刘琨的威望提高自己的号召力，可根本没啥作用。更让段匹磾始料不及的是，刘琨的威望没能让段氏内部实力派听命于己，却赢得了原来居住在幽州的晋人之心。这让段匹磾如坐针毡。

如今的段匹磾可谓是内外交困，面对咄咄逼人的段末柸，惶恐不安的他找到了刘琨，主动提出撤出蓟县，并将幽州的胡人和晋人一起转移到代郡。然而，代郡被拓跋鲜卑占据着。其新任首领拓跋郁律拓跋郁律：五胡十六国时期鲜卑拓跋氏首领，其父为拓跋弗，其子为拓跋翳槐、拓跋什翼犍。与刘琨并无多深的交情，此时如果逃难到代郡，显然是凶多吉少。因此，刘琨坚决反对。他说，如果要撤离幽州的话，最好还是南下，这样就更接近江南的朝廷。但是，段匹磾没有采纳。

就在这个当儿，段匹磾的巡逻兵抓住了从段末柸那边来给刘琨送信的使节，并从使者的身上搜出了刘群亲笔书写的那封密信。当时，刘琨住在征北将军府所在的小城，与段匹磾并不居住在同一个城内，因此对此事完全不知情。

段匹磾得到刘群书信以后，满腹狐疑，谎称有要事相商，派人请刘琨进城。不知情的刘琨毫无防备地进城来见段匹磾。段匹磾一向都对刘琨十分敬重，他将刘群的书信拿给刘琨看。看过书信，刘琨从容地说道：“我发誓与您结为同盟，一起效力王室。这次不说我没有收到书信，即使收到了书信，我也不会因为一个儿子，就做出辜负您的事情！”段匹磾说：“我根本就不怀疑您，所以才拿出来叫你看来着。”

话虽这样说，但这封书信不能不让段匹磾有所警惕。段匹磾的另一个弟弟段叔军私下对他说道：“我们是胡人，之所以能让晋人服从，只是因为他们屈从于我们人多。如今，我们骨肉相残，正是晋人人心思动之时。如果现在有人站出来，奉刘琨为主，我们就全完了。”段匹磾本来还打算将刘琨送回，但听段叔军这么一说，满腹狐疑，就把刘琨软禁起来了。

刘琨被软禁的消息很快像瘟疫一样迅速传播，事态开始失控。

留在小城的刘琨的庶长子刘遵担心被杀，赶紧闭城自守。段匹磾派人前往晓谕，但刘遵置之不理。于是，段匹磾派兵强行攻击小城。城内粮食不多，守军坚守了一段时间。最后，刘琨的某部将因乏食，被迫率众开门投降，刘遵被俘。

刘琨被段匹磾关押了将近一个月时间，消息传来，晋人义愤填膺。代郡太守辟闾嵩、雁门太守王据、后将军韩据等人密谋，准备攻下幽州，袭杀段匹磾，救出刘琨。韩据的女儿是段匹磾儿子的妾，她听说自己父亲的计划，就向段匹磾告密。段匹磾立即逮捕了辟闾嵩、王据以及牵连到的部众，将其全部杀掉。事已至此，再无挽回的余地。

这时候，正好建康方面派来了使者。史书称，这是王敦的使者。

听说建康来的使者是王敦派来的，刘琨对儿子说：“处仲(王敦字)使来而不我告，是杀我也。死生有命，但恨仇耻不雪，无以下见二亲耳。”说罢，他忍不住歔欷长叹，泪落如雨。此时的刘琨知道自己必死无疑，但他早已将生死置之度外了。