魏野畴以其科学的理论、精辟的见解和渊博的知识深深地赢得了杨虎城的敬重，从此，两人成为亲密的朋友。在一次次的交谈中，杨虎城较系统地了解到以前闻所未闻的革命理论和苏联革命的一些情况，解开了一些困扰他的问题，为后来与中国共产党长期合作奠定了思想基础。在此期间，杨虎城通过杜斌丞还结识了榆林中学进步教师王森然。
王森然后来说：我是继魏野畴之后，在榆中主要担任国文课的。常到我宿舍小院来的，还有杨虎城将军。杨将军虽只念过两年私塾，没有很深的文化，但很愿意同知识分子交往。榆林中学是当地的文化中心，自然受到他的重视，和杜斌丞搞得很熟。他结识我后，一见如故。我曾用很长时间给他讲完了一部《水浒》，他对林冲、杨志、鲁达等人物产生了极大的兴趣，但他当时对革命形势，对中国革命的概况、方针了解不够，通过与杜斌丞、魏野畴等人的频繁接触，逐渐对中国前途有了认识，并总结了失败教训。这段时期，对杨虎城以后的思想倾向，起了很大的促进作用。他对我谈论井岳秀时说：“我们是同乡，表面上他对我当然不慢怠，事实上他看不起我。”他说，平时除来这里找杜斌丞和我，很少出门，自觉寄人篱下，精神抑郁，心中不快。就井岳秀提防杨虎城“反客为主”的问题，杜斌丞自己并委托我从中做了很多工作，向井岳秀反复说明杨虎城非“池中之物”，其志决不在陕北，占不了他的地盘，井岳秀才感放心。⑥杨虎城后来对部下说：“在榆林期间，我和杜斌丞先生接触，又认识了在榆林中学教书的魏野畴。我在和他们中，得悉了孙中山革命失败的原因，听到国内外的政治形势，由此增长了自己的革命知识。”⑦在榆林，杨虎城一面利用时间抓紧学习努力提高自己的政治水平，同时多次派姚丹峰赴南方与孙中山先生和于右任先生进行联系，接受他们的指示。“孙中山对杨虎城的坚强意志深表嘉许，并指示，无论任何时候都要保存革命武装，以待后命。”孙中山亦曾邀杨虎城到沪晤谈，并让他借机与各方面的同志见见面，将来时机成熟时便于联系。杨虎城因大病初愈不能长途旅行，且部队到陕北后立足未稳，还需一番安排，因而未能成行。1924年1月，在苏联和中国共产党的帮助下中国国民党第一次全国代表大会在广州召开，杨虎城派姚丹峰到广州代表他参加了大会。“孙中山接见了姚，并为杨虎城正式办理了加入中国国民党的手续。” 姚丹峰说：“会后孙中山先生当面向我指示：曹锟贿选是倒行逆施，大背人心，可通函杨先生，在北方与张（作霖）、段（祺瑞）联系，共谋推翻曹锟。”⑧
培养官佐 为民办事
国民党“一大”，正式确认了孙中山的“联俄、联共、扶助农工”三大政策，国民党与共产党实现了第一次合作。一个新的革命高潮即将来临。这对暂时委栖在榆林的杨虎城是极大的鼓舞。为了迎接新的斗争，他感到，自己的部队一直缺乏正规的军事训练。虽然在战斗中表现得英勇顽强，但要承担今后打倒列强、打败北洋军的任务，还有很大差距。特别是军事骨干，大都是跟随他从农民军打出来的，既没文化又缺乏军事知识。为了尽快提高部队的素质，他一方面派唐嗣桐、刘云龙、周诚等人去广东进入黄埔军校。另一方面设法自己培训。一次杨虎城向井岳秀提出了一些训练、建设和改造部队的想法，得到了井岳秀的赞许。杨于是趁机提出要在安边举办一个教导队，井岳秀没反对，安边教导队就筹办了起来。杨聘请了赵寿山、段向武、刘光甫等受过专门军事教育的人担任教官，学员都是派人到关中地区招考的青年学生，有120人之多。其中大部分是中学程度，也有一小部分是高小程度。
1924年秋，安边军事教导队正式开学。孙蔚如兼队长，刘光甫任教育主任，赵寿山、段向武为队副，除讲军事知识外还讲授一些革命知识，张汉民、孔丛洲、刘威诚等当时都是学员。后来他们都成为了杨虎城部队的高级将领和亲信骨干。赵寿山回忆说：“我在保定军官学校毕业后，在北京南苑冯玉祥的检阅使署任少校参谋兼军事教官，当时帝国主义的气焰甚为嚣张，早闻杨虎城先生颇有革命的爱国精神，尤其是在陕西靖国军瓦解之后，能毅然不屈，坚持革命，深受感动。为了以西北为根据地，背靠苏联，进行革命，振兴国家，我于1924年春，携同保定军官学校毕业生刘光甫、段向武等步骑炮工人才到三边，参加了杨虎城的队伍。” 安边教导队培养了一批有文化基础的军事骨干，对于杨虎城部队的后来发展起了重大作用。⑨在榆林，杨虎城与他的部队还做了一些利民的好事。陕北地区原本就很贫瘠，一下增加了杨虎城部队一千多人马的供给，地方财政很困难，老百姓负担也很重，不能保证正常供应，不仅部队生活很艰苦，时有粮断炊停的情况出现。为了减轻当地人民的负担，保障部队的正常供给，杨虎城了解到陕北花马池盛产岩盐。
北洋政府当时在甘肃盐池县（现属宁夏）设有管理机构，派有盐官，设有盐卡，征收盐税。这也是北洋政府的一个重要财源。就派部队去赶走了盐官税警，准许群众自由贩卖；同时夺取了一笔可观的税款，作为部队的费用，大大减轻了人民的负担。在保障部队的低标准供应后，杨虎城还将一部分钱用于当地的教育建设。两年间办了完全小学三处，女校一处，汉蒙学校一处。为了提倡新思想反对封建陋习，驻定边的杨部营长姬汇伯与王县知事共同发表布告厉行剪发绽脚：“按户查验，倘有缠足妇女和垂发之男子，除当即勒令放足、剪发外，并以相当之处罚。”部队还剿灭了多股骚扰地方的土匪，为当地群众所称道。
1924年10月，冯玉祥、胡景翼、孙岳在北京联合推翻了直系军阀曹锟的政府，改称国民军，通电拥护孙中山，同时电邀中山先生北上，晤谈南北统一。11月5日在北京驱逐溥仪出了宫。可此时陕西省的政权仍把持在北洋军阀手中。在这种形势下，井岳秀将部队随之改称为陕北国民军，井担任总司令。杨虎城审时度势，考虑自己的部队经过在陕北休整训练后，官兵素质有了提高，他的身体也已经康复，为了配合孙中山的北伐，应该打回关中去与盘踞西安的北洋军阀势力决一雌雄。他的这一决定得到了杜斌丞、魏野畴的支持。
1924年深冬，杨虎城以陕北国民军前敌总指挥的名义，高擎国民革命军杨字旗，率领着原来自己的部队和由井岳秀部划编的左协中所率领的一支队伍，大约两个多团的兵力，冒着凛冽寒风，从天寒地冻的陕北挥戈南下，回师关中。王森然说：“杨虎城出师之时，井岳秀在榆林城外设酒宴饯行，我和杜斌丞都参加了。没想到黄沙漫天，狂风大作，杨虎城却端着酒碗大笑起来，说：“云从龙，风从虎，你们等着吧，杨虎城定取胜。”杨虎城率部浩浩荡荡从榆林出师南下了。⑩
猛虎出山 回师关中（1）
1924年年底，杨虎城率部队到达耀县。在耀县县城设杨虎城为总指挥的陕北国民军前敌总指挥部，惠又光为参谋长，蒙浚僧为参议，张志先（原陕北镇守使署参谋处长）为参谋处长，马天贤（原陕北镇守使署军需官）为军需处长，董瑞生（原骑兵旅副官长）为副官长。并由陕北镇守使署机枪连抽出一个排，配有两挺重机关枪，马弁数十人，直属前敌总指挥部。前敌总指挥部下属两个支队（比团的建制略大）。第一支队司令高双成，下辖三个步兵营、一个骑兵营，左世允、杨补珊、石谦、王保民为营长，这是井岳秀的基本部队；第二支队司令李子高（德升），孙蔚如为中校副司令，下辖三个营，姬汇伯、冯钦哉、王都为营长。这是杨虎城原来带到陕北的部队。部队到达耀县后，当时国民二军留在陕西的一些部队的首长田玉洁师长、冯毓东旅长、康振邦补充团长等，也都赶来耀县联系，与杨虎城商讨如何配合关外的国民二军，在豫西战争中消灭刘镇华、憨玉琨部。商议后决定：杨虎城向刘镇华的帮凶、驻大荔、澄城一带的麻振武部进攻；田玉洁、康振邦两部向渭南、华县的刘镇华部进攻；冯毓东部进攻华阴和潼关，牵制刘镇华在豫西军队的后方。
经过一番战斗，国民二军于1925年3月攻克洛阳，刘镇华的镇嵩军全线溃败。豫西战事29日结束。刘镇华致电北京临时执政府，“引咎辞职”，被赶下了“陕西督军兼省长”的宝座。陕西方面，杨虎城打败了麻振武部。在渭北地区站稳了脚跟。麻振武部后被国民二军收编为二军第一混成旅，驻大荔、朝邑两县一带。这样，由国民控制渭北地区与西安的北洋军形成了隔渭河相对峙的局面。1925年3月12日，伟大的革命先行者、中华民国和中国国民党的缔造者、中国共产党的挚友孙中山在北京逝世。《孙中山遗嘱》发表。其中“革命尚未成功，同志仍需努力”的嘱托，鼓舞革命者至今。杨虎城闻知中山先生逝世十分悲痛，立即派专人到京致哀。在北京召开的追悼会上，陕西全省仅有杨虎城一人送了挽联。他还在驻地耀县举行大会，隆重悼念孙中山，成为当时陕西政治活动的一件大事。会后刊出了《总理哀思录》一书。
杨虎城在孙中山生前由于种种原因未能与之见面，成了杨虎城的一件憾事。但他通过对三民主义、孙中山思想的学习与实践，成为了孙中山的忠实追随者。4月，北洋政府正式任命吴新田为陕西军务督办，刘治洲为陕西省长。国民二军和国民三军共同反对吴新田督陕。5月30日，帝国主义在上海武装镇压进行反帝游行的中国工人和学生，造成惨案。中共中央于是日晚决定组织上海市民总联合的反帝大运动，6月1日又决