国昌子克用，非常善于骑射，能仰面射中双水鸟，封为云州守捉使。国昌已抗拒唐朝命令，克用便杀大同军防御使段文楚，占据云州，自称留后。唐朝用太仆卿卢简方为振武节度使，会合幽州、并州军去讨伐。行军至岚州，士兵溃散，从此，沙陀族侵掠代北，成为唐朝边患。

乾符一年(874)，僖宗即位，因为前太原节度使李业对沙陀族有恩，业已死，封其子钧为灵武节度使、宣慰沙陀六州三部落使，施行招安。封克用为大同军防御使。

后来，李国昌出兵袭击党项，吐浑赫连铎袭破振武。李克用听到消息，从云州去接应国昌，而云州人闭关不让他们进城。国昌父子无所归，就在蔚州、朔州间抢掠为生，得兵三千，国昌入据蔚州，克用还据新城。僖宗封赫连铎为大同军使，用李钧为代北招讨使，讨伐沙陀军。

乾符五年(878)，沙陀破遮虏军，又破岢岚军，唐兵屡败，沙陀由此更加强盛，北据蔚、朔，南侵忻、代、岚、石，兵至太谷。

广明元年(880)，招讨使李琢会同幽州李可举、云州赫连铎进击沙陀族，克用与可举在雄武军对峙，其叔父友金以蔚州、朔州归降李琢，克用闻讯，立即回军。可举追到药儿岭，大败沙陀军，李琢出兵夹击，又在蔚州大败克用军，沙陀军大溃败，李克用父子逃亡鞑靼。

克用少年骁勇，军中号称“李亚鸟儿”，一只眼睛瞎了，人们又称他“独眼龙”，威名响震代北。他在鞑靼日久，郁闷不得志，又常常害怕鞑靼人谋害自己，因此时常跟随鞑靼贵族射猎，或者挂针木上，或立马鞭，百步之外射之百发百中，鞑靼贵族佩服，以为是神。

黄巢已经攻下京城，中和元年(881)，代北起军使陈景思率沙陀降兵与吐浑、安庆等士兵万人赴援京城，走到绛州，沙陀军乱，大肆抢掠而还。景思认为沙陀军若不用李克用为将就无法统率，就用诏书到鞑靼召回克用，任命他为代州刺史、雁门以北行营节度使。率蕃汉万人出石岭关，经过太原，要求发给军费。节度使郑从谠给他钱千缗，米千石，克用大怒，纵兵抢掠而回。

中和二年(882)十一月，景思、克用率步骑一万七千人赴援京城。中和三年(883)正月，路过河中，进屯乾坑。黄巢军惊呼：“亚鸟儿军到了！”二月，在石阝是谷打败巢将黄邺的军队；三月，又在良田坡大败巢将赵璋、尚让军，横尸三十里。当时唐各镇兵马会师长安，渭桥大战，巢军败入城内，克用乘胜追击，自光泰门先入，又在望春宫升阳殿交战，巢兵败，向南退出蓝田关。收复京城，克用功居第一。唐天子封克用检校司空、同中书门下平章事、河东节度使，用国昌为雁门以北行营节度使。十月，国昌死。

十一月，派其弟克修进攻昭义孟方立，夺取泽、潞二州。方立退到山东，以邢、氵名、磁三州自称昭义军。黄巢南走至蔡州，秦宗权投降，遂进攻陈州。四年(884)，克用率兵五万救陈州，出天井关，借道河阳，诸葛爽不许，只得从河中渡河。四月，在太康打败尚让军，又在西华打败黄邺军。巢军且走且战，至中牟，临河未渡，李克用追兵赶上，巢军惊溃。巢军退到封丘，又被克用击败，黄巢慌忙退走，克用猛追，一日夜追赶二百里，至冤朐，未能追上只得回师。