有独立的自治政府及市议会，由市议会管理整个城市。〕在加尔文踏足这个小城邦那年的5月21日，市议会刚通过接纳宗教改革，废止天主教的弥撒，以圣经来作为崇拜的基础。
宗教改革不纯粹是个宗教行动，其中牵涉复杂的政治和经济问题。例如：当时信奉天主教的邻国如费堡（Fribourg），对日内瓦改教这个决定便非常不满。而事实上，即使在国内。全面推行宗教改革的动机也不很强烈。市议会之所以通过支持改教，主要原因是保护城市的经济利益； 不用向教皇缴税；而在人民中间，不少人文主义者是基於追求自由、摆脱传统宗教势力的羁缠的理由，才加人宗教改革行列的，他们对顺服上帝话语的兴趣早就不大了。改教後，由於旧有的宗教与道德规范解体，而新的制度又未曾建立，社会变得失衡混乱，问题重重。
那时在日内瓦市议会担任领导官员（leading minister）的法惹勒（比加尔文年长二十岁），早於1532年便到日内瓦，以客卿身分推动当地的宗教改革。他自知无法控制日内瓦的局面，得知加尔文路过後，乃亲往拜访，要求他留下协助宗教改革。
加尔文最初只打算在日内瓦停留一晚，他也没有在某个地方实际推动宗教改革的抱负，故拒绝法惹勒所请。法惹勒严词责备他，声言他若拒绝顺服上帝此时的呼召及他全备的安排，必定招来上帝的咒诅。在这样的压力下，加尔文终於接受了法惹勒的邀请，成为日内瓦教会的领衔牧者和学者。
在法惹勒的鼓励下，加尔文著手草拟教会典章，制定日内瓦教会的组织及法规。他是念法律出身的，起草这些条文并无任何困难处；不过，因著他的思想较为清晰严谨，不愿意对复杂多元的现实作出妥协调适，或以模糊字句含混过去，故他所起草的条文要获得公众认同接受，并不容易。那些出於追求个人自由而支持宗教改革的人文主义者，对他要求执行教会纪律以保持教会纯洁的做法深恶痛绝，他们特别不接受加尔文禁止道德有亏者领圣餐的明文规定，乃鼓动群众反对他。年轻的加尔文不懂圆融之道，面对强大的反对声音，坚持不让，且威胁要禁止举行复活节的圣餐。最後，市议会迫令加尔文和法惹勒在三天之内离开日内瓦。1538年复活节，加尔文被迫逃往施塔斯堡。
3．在施塔斯堡的日子。
在离开日内瓦四个月後，加尔文书写信给法惹勒。信中他提到他们在日内瓦的继任者推翻了他们所有的建树，全面与市议会妥协，但他确信除了得到上帝容许外，没有人员能污损他们。加尔文对他的改教想法充满信心。
施塔斯堡的改教领袖是布塞琪，他是一位伟大的神学家，既秉持路德的主要思想，亦兼容慈运理派与重洗派的某些看法。加尔文受布塞琅的影响甚大，有说他是在此时期才随从布塞琅正式且有系统地修习神学；不过，对加尔文而言，最宝贵的莫过於亲眼看到布塞琅如何处理教会和社会的事务，执中持平地推动一个城市的改教工作。加尔文除了在布塞琅所主持的一所学院中任教外，也负责牧养当地一个法国人的更正教信徒群体。期间他与一位孀居的重洗派信徒结婚。
加尔文出席了皇帝查理五世所主持为协调天主教与更正教政治势力的三次会议，积极参与讨论。他认识了墨兰顿，二人成为终身好友。1539年，加尔文出版第一本新约注释：《罗马书注释》，第一次修订再版《基督教要义》，又著述了一本关於圣餐的小书。加尔文是一位多产作家，除《但以理书》及《启示录》外，他撰写了每一卷圣经的注释。
在加尔文离开日内瓦後，一位枢机主教沙杜里多写了一封公开信给日内瓦的议会和人民，批评改教者的动机并不纯正，并鼓动他们重投天主教的怀抱。加尔文辗转得到这封信的抄本，乃写了《答沙杜里多书》以作反驳，书中激烈地抨击天主教会所存在的罪恶。从他写这本书，我们可以看到他仍关怀曾短暂牧养过的日内瓦人民。而事实上，日内瓦的民众也未曾忘掉这位牧者；1540年，他们派代表到施塔斯堡，请求加尔文重返日内瓦。
4。重返日内瓦。
加尔文在1541年 9月13日重回日内瓦。他是在几经挣扎後，才顺服这个他深信来自上帝的决定。他在这个岗位上事奉，一直到1564年逝世为止。
日内瓦在与天主教会脱离关系後，长期处於无序的状态中。由於缺乏一套鲜明的改教方案，持不同想法的人各持己见，莫衷一是，自恃自为，社会和教会的秩序都无法建立；加上瑞士城邦处於列强环伺之下，信奉天主教的城邦欲将日内瓦重新纳入天主教的阵营之内，制造许多有关改教运动破坏社会和人心的不利传言，整个城市经常处在恐慌和混乱中。在宗教方面，即使没有加尔文的存在，敬虔的宗教改革信徒和自由派的人文主义者的冲突仍是不可避免的。那些善於与权贵妥协、个人道德操守却不佳的牧者占据了教会的高位，招来许多反对之声，不少有名望的人甚至拒绝从这些人手中领取圣餐；他们积极呼吁让加尔文和法惹勒重返日内瓦，拨乱反正，匡复教会和社会的秩序。加尔文在多方恳求下，重返日内瓦，领导教会的重建工作。
加尔文在日内瓦的主要职责是教导和牧养教会，并为改教後的教会和社会重订各样规条秩序。由於加尔文这次是被邀重回主持大局，所以他较易得到市议会的合作，将心中有关更正教的理想付诸实现。不过，市议会对他并不是毫无保留地支持的，他们尤其担忧教会在加尔文的带领下，会完全不受政府的控制。因此，加尔文与市议会一直处在相当微妙的紧张但又彼此合作的关系里。在他的努力下，市议会在 1541年通过他所拟订的《教会组织法》，及一份信徒学道集。翌年，再通过颁行他所订定的教会礼仪和音乐。
在加尔文的带领下，各项改革措施渐次推行；但由於他的改革得罪当时的权贵及自由派人士，他受到不少攻击。直到 1555年，由於支持一场武装的民众暴动事败，自由派的好些骨干成员被迫逃亡；在主要的反对者离开後，加尔文才算全面控制日内瓦的大局。他在1559年才被接纳为日内瓦的公民，也就是他到这个城市後二十年，距离他逝世前五年。
加尔文的健康一直不佳，每天只吃一顿饭，每晚只睡四小时；才三十岁便开始疾病缠身，五十岁後更形恶化，最後在五十四岁辞世。
III．加尔文的宗教改革。
A．政教关系。
在《基督教要义》里，加尔文书提到他认为牧师并不具备出任公职的资格，政治和社会事务应由平信徒负责。但在日内瓦期间，他发现宗教与政治事务难以分割，宗教规范同时亦是社会及伦理规范，必须藉赖政治力量来推行，世俗事务与神圣事务同时并进，相辅相成。因此，他积极参与市议会的立法工作，监管社会的日常事务。加尔文热衷投入社会事务，曾为他招来不少批评，他也得多方论此答辩。
1．教会与市议会。
加尔文认为教会的权力应由牧者和平信徒共同分担行使，但在他的眼中，平信徒不是指所有参与聚会的信徒，而是当时的市政府官员（magistrates）。官员与教职人员同属圣职人员，教会的政策方向由他们共同策划厘订；并且，教牧人员并非由平信徒自由选立，乃是由市议会委任。
市议会人员每星期聚集一次。聚会的开始先是查考圣经，然後才商议各种事项，包括委任每个查经班的教员。加尔文积极推行宗教教育，要求全城市民参加。长老是负责纪律的政府官员，他们监察市民的伦理道德，定期递交报告；而牧师也得频繁探访信徒，了解他们的信仰境况。加尔文希望市政府协助推行教会事务，当教会法庭裁定某个人有罪後，便转交市政府执法惩处。
不过，在纯粹的信仰问题上，加尔文却坚持只有由牧师组成的牧师团（pany of Pastors）才有发言权，市议会不得过问。譬如禁止某个犯罪者领圣餐，或将之开除出教，市议会便无权推翻教会的决定。1548年，他曾就停止一位行为不检的信徒鲁斯（Guichard Roux）领圣餐的问题，而与市议会公开决裂，并声言他宁可死亡，也不容许这人分享主餐，结果市议会妥协，他获得胜利。同样地，市政府无权过问牧师的讲道内容，因为加尔文认为这关乎上帝的道，没有任何人间权力可以在上帝的道之上。
加尔文关心社会的圣洁过於其建设，而维护社会圣洁乃透过两方面的途径来施行：一是加强社会纪律的控制，二是加强牧者对信徒的教导；前者由市议会负责，复者则是教会的任务。
日内瓦不是一个大城市，人口不太多，故加尔文有能力对市民的生活作钜细无遗的监控。1550年，市政府授权牧师每年至少探访信徒一次，检查他们的家庭是否遵守教会规定。《教会组织法》规定成立教会法庭（the consistory），由牧师和市议会委任的十二位平信徒身分的长老所组成，专责审理信徒所犯与信仰有关的罪行，但不处理民事和刑事的纠纷。这个属灵的政府模仿自巴塞尔的组织。教会法庭派人彻底搜查信徒家里是否藏有诸如占卜、算命等异教书籍，是否有信徒从事不良的或骗人的买卖以谋取暴利等。教会法庭最高的权力是开除犯罪者出教。
加尔文深信没有人可以在不受监管的情况下自行为善，外在的纪律不但不会妨碍人培养自律精神，反而是必要的辅助。
虽然教会法庭也审理许多牵涉信徒日常生活的案件，但加尔文谨慎地区分出何者属於教会的监管范围，何老是世俗政府的事务。至少在理论上，他没有建立一个政教合一的国家的打算。不过，由於所有居民都是信徒，放政治与宗教事务确实是不易界分的（即使＿界分了亦不�