后抵达浚稽山，停下扎营，沿途命人将所过之处的山川地形绘制成图，派部下骑兵陈步乐送回长安。汉武帝召见陈步乐，听他报告说李陵能使部下拚死效力，非常高兴，封陈步乐为郎官。

李陵在浚稽山与单于率领的匈奴军队相遇，匈奴约三万骑兵将李陵的部队包围。李陵屯兵两山之间，用大车围成营寨，亲自率领士卒在营外列下战阵，前排手持戟、盾，后排手持弓、弩。匈奴兵见汉军人少，便直逼营前阵地。李陵率部迎击，展开搏斗，汉军千弩齐发，匈奴兵纷纷应弦倒地，只得退回山上，汉军追击，杀死匈奴数千人。单于大惊，召左、右两翼军八万余骑兵崐前来围攻李陵。李陵率部且战且走，向南撤退，数日后，来到一个山谷之中。汉军接连作战，士卒大多身带箭伤，仍顽强苦战，受伤三处的坐在车上，受伤两处的驾车，受伤一处的手持武器坚持战斗，又斩杀匈奴三千余人。李陵率部沿着龙城旧道向东南方撤退，四五日后，退到一大片沼泽芦苇之中。匈奴在上风放火，企图烧死汉军；李陵也命部下放火烧光周围的芦苇以自救。汉军继续南行，来到一座山下。单于在南山上命他的儿子率领骑兵向汉军进攻。汉军在树林之中步战，又杀死匈奴数千人，并用连弩机射单于，单于下山逃避。这一天，汉军抓到部分匈奴俘虏，据他们说：“我们听单于说：‘这是汉朝的精兵，猛攻也没能将他们消灭，他们日夜引我们向南接近汉塞，莫非是有埋伏的军队吗？’各位当户、君长都说：‘单于亲率数万骑兵攻击汉军数千人而不能将他们消灭，以后将无法再号令边臣，还会使汉朝更加轻视匈奴。所以要在山谷中再次力战，还有四五十里才到平原地区，如仍不能取胜就返回。’”

此时汉军处境越发凶险。匈奴骑兵多，一日交战数十回合，汉军又杀伤匈奴二千余人。匈奴作战不利，打算撤兵离去。然而就在此时，李陵军中有一个名叫管敢的军候，因受到校尉的欺辱，逃到匈奴军中投降，一一说出汉军实情：“李陵部队并无后援，箭矢也即将用尽，只有将军部下和校尉成安侯韩延年所属部队各八百人在前面开路，以黄旗和白旗作为标志。应当派精锐骑兵用弓箭射杀他们，汉军立即就可击破。”单于得到管敢，喜出望外，命匈奴骑兵一齐向汉军发起进攻，同时令人大声喊叫：“李陵、韩延年快快投降！”又派兵截断汉军的道路，猛攻李陵。李陵的部队被困在山谷之中，匈奴军在山上，从四面射箭，箭如雨下。李陵继续向南退却，尚未到达汗山，一天中五十万支箭已全部用尽，于是放弃辎重车辆，继续前往。此时军中士兵还有三千余人，只能砍下车的辐条拿在手中做武器，文职人员也手持短刀加入战斗行列。汉军退入狭谷之中，单于亲自率兵截断汉军后路，指挥匈奴兵卒将山上巨石滚入谷中，汉军多数死去，不能前进。黄昏以后，李陵独自一人身穿便衣走出大营，止住左右随从说：“不要跟着我，我要独自一人生擒单于！”过了很长一段时间，李陵回到营中，叹道：“我们已然兵败，即将死于此地了！”于是将所有的旌旗尽行砍倒，与珍宝一起埋入地下，李陵叹了口气，对部下说道：“如果再有数十支箭，我们就足以逃脱了。现在已没有武器再战，天亮以后，就只能坐等被擒了，不如各自逃命，还有人能够侥幸逃脱回去报告天子。”于是命将士每人身带二升干粮，一片冰，约定到遮虏障会合。半夜时，李陵命人击鼓叫醒将士们，但战鼓已破，敲不响。李陵与韩延年都跨上战马，十几名壮士跟随。匈奴数千名骑兵随后追击，韩延年战死。李陵说道：“我已无面目报答皇帝陛下了！”于是投降。其他人分散突围，逃回边塞的有四百余人。

李陵兵败之处距边塞只有一百余里，边塞将领将此事报告朝廷。汉武帝本希望李陵能死战，后听说李陵投降匈奴，十分愤怒，责问陈步乐，陈步乐自杀而死。满朝大臣都说李陵有罪，汉武帝问太史令司马迁对此事的看法，司马迁竭力为李陵分辩说：“李陵对父母孝顺，对士人讲信义，常常奋不顾身，赴国家急难，这正是他平时的志愿所在，颇有国士的风范。如今出征偶然不幸失败，那些保全自身性命和妻子儿女的臣子就跟着捏造他的短处，实在令人痛心！况且李陵率领不到五千步兵，深入满是战马的匈奴腹地，抵挡数万敌军；匈奴被打得连救死扶伤都顾不过来，将全国所有能拉弓射箭的人全部调来围攻李陵。李陵率部转战千里，箭矢用尽，无路可走，将士们手拿着没有箭的空弩机，冒着敌人锋利的枪尖刀刃，仍然面向北方拚死力战，能够得到部下这样的拚死效力，既使是古代的名将，也不过如此！李陵虽然兵败，但他对匈奴的打击也足以使他名扬天下了。李陵之所以没有死节，当是想找机会报效国家。”汉武帝认为司马迁在诬陷欺骗，是为了诋毁李广利，为李陵游说开脱，下令对司马迁施以宫刑。

很久以后，汉武帝才对原先使李陵陷入孤立无援的境地表示后悔，说道：“应当在李陵率军出塞时，再让强弩将军路博德前去接应；而我预先就颁下诏书，使老将路博德生出奸诈之心，不肯接应李陵。”于是派使臣对逃脱回来的李陵余部进行慰劳赏赐。

汉武帝用法制来控制国家，喜欢任用执法严苛的官吏，各郡、国的二 千石官也大多以残暴的手段治理地方，而小吏和平民百姓对犯法却越发不当回事。东部地区盗贼兴起，大股数千人，攻打城邑，夺取府库的兵器，释放犯死罪的囚徒，捆缚、污辱郡太守、都尉，杀死二千石官；小股数百人，在乡村中劫杀抢掠，多得无法计算，致使道路断绝。汉武帝开始只派御史中丞、丞相长史负责督察镇压，但未能禁绝；于是派光禄大夫范昆及曾经位居九卿的张德等身穿绣花官服，手持皇帝符节和调兵的虎符，调集军队进行围剿，有的大郡斩杀达一万余人；另外，各郡因帮助盗贼通行、提供食物而受到牵连、犯法被杀的普通百姓多的也达数千人。过了几年，抓获了大部分盗贼首领。一些被打散逃亡的人，往往重新聚集在一起，占据山川险要之处，官府无可奈何。于是，汉武帝命人制定《沉命法》，规定：“凡有成帮结伙盗贼兴起，地方官不能及时发现，或虽然发现却未能全部擒获，自二千石官以下直至小吏，主持其事的一律处死；”从此以后，小吏畏惧朝廷治罪，既使发现有盗贼，也因害怕不能全部捕获而不敢报告；各郡长官因害怕受到牵连，也让下属不要报告。因此，盗贼越来越多，而地方官上下串通，隐瞒不报，空以虚文应付朝廷，逃避法网。