和妻儿再度分离，甘地不免难过，但他已习惯了不安定的生活，他认为在这个世上要指望安定是错误的，只有至高无上的神本身代表着确定。
甘地如期赶到德班。但和张伯伦的初次会晤令甘地大失所望。张伯伦此番前来南非是为了赢得南非英人和布尔人对皇室的效忠，他对印度代表团没有兴趣。他说：“帝国政府对自治领土是没有什么控制的，你们的疾苦看来是确实的。我将尽我的努力帮助你们。但是如果你们想生活在欧洲人中间，你们就得和他们友好相处。”在此之前，甘地一直想以自己的效忠来换得英王的开恩，可现在张伯伦用文雅而直率的方式告诉了他强权政治的逻辑，这意味着将有更艰苦的斗争等着他们。
1903年1月1日，甘地从德班赶到比勒托利亚，他得在那里搜集资料，写成备忘录，准备提交张伯伦。比勒托利亚的地方当局本来存心不让甘地入境，当他们看到甘地居然来了，不禁惊奇。亚洲人事务部主张根据新颁发的治安法将他逮捕（该法规定，凡未持有入境证者，即可将之拘捕入狱）。当他们得知甘地持有合法入境证，便以入境证发错了为理由，要甘地离开比勒托利亚，并强行将甘地的名字从请愿代表团中删掉。这对甘地简直是奇耻大辱，但为了侨团的事宜，甘地不计较个人的屈辱与否，建议让另一个印度律师——乔治·戈克莱先生代替他的位置。
戈克莱先生领着侨民代表去见过了张伯伦，张伯伦先生在答文中谈到甘地没有参加请愿的事十分轻描淡写：“与其反复听取同一个代表的话，换一个新人岂不更好吗？”
事情发展到这种地步，侨团要甘地做的事似乎已完结，但甘地不是肯轻易屈服的人。他不打算立即回国，也不准备返回纳塔耳，就留在德兰士瓦，而且还要在德兰士瓦最高法院登记为律师，他不相信他就对付不了亚洲人事务部。如果连这一点都做不到，那么侨团就会被赶出这个国家，他们将永远只能过没有尊严的日子。
同比勒托利亚及约翰内斯堡的印度人讨论了之后，甘地决定在印侨最多的约翰内斯堡成立事务所。
约翰内斯堡已成为管理亚洲人的官员的据点，这些官员从来没有替印度人、中国人或其他亚洲人做过一件好事，只是一味地敲诈勒索。不断有人找甘地诉说，甘地觉得自己有一种责任，要出来主持公道。
他开始搜集证据，待到材料充足，他便去找警察局长。警察局长看过全部材料并找证人核实后，答应将想方设法对付那帮无恶不作的家伙，不过他和甘地一样清楚：在南非要找一个白种人陪审员来审判触犯有色人种的白种人是极其困难的。虽然甘地当时怀疑一大批官员，但由于没有无可辩驳的材料对付所有的人，所以他的指控只针对两个人。这两个人虽然受了审判，结果却是陪审员不顾昭然若揭的事实，宣判两个人无罪释放。不过，由于甘地的工作，这两个穷凶极恶的官员因民愤极大，还是被革除公职。亚洲人事务部从此收敛了一些，印度侨团也有了一些保障。
在德兰士瓦为印度侨民的利益奔走呼号的时期，甘地的人生观发生了很大变化。第一次留居南非时，他和基督教徒过从甚密，但对宗教仍然谈不上很深的研究。现在他又和通神学的朋友交往，开始系统阅读印度教的经典如《瑜珈经》、《瑜珈论》以及印度教的圣诗《薄伽梵歌》。甘地对《薄伽梵歌》尤其喜爱，他每天清晨沐浴时，在墙上按上纸片，写上几首梵歌，一边洗漱一边背诵。他用这种办法背诵了十三年，并以此作为每日行为的指南。圣诗中的“不占有”与“平等”的教训更是深深地吸引了甘地。他以为圣诗中叫人不占有，是说人生在世，钱财不过身外之物；正如司库出纳，过手钱财虽多，却不能据为己有。人如能抱不占有和平等的观念，即可收到“洗心革面”的效果。受此影响，甘地放弃了原准备投入的1万卢比的人寿保险，他写信给他的哥哥：“我曾多次写信给你，我的全部积蓄可望到1万卢比，准备送你；但从现在起你不必再作指望。因为将来如有任何积蓄，我将用于印侨的公益事业。”他的哥哥为此极不开心，很长一段时间兄弟俩断了通讯。
简朴的理想逐步实现，宗教的意识日益活泼，甘地把素食当作一种使命的热情日趋高涨起来，因此他曾为濒临倒闭的两家素食馆慷慨解囊。由于生活力求简朴，甘地觉得求医问药也属多余。他本有便秘和头痛症，一向药不离身，他决定改变自己的饮食习惯，不吃早餐，并严格限制进食量，以鲜果和硬果作主要食谱，戒绝牛奶，这样治愈了头痛。对于便秘，他则采用自然疗法，用冷水掺一些干净的泥土铺在一块细布上，然后扎在肚皮上，睡觉时系上，醒来时取掉，这种办法效果很好。事实上，甘地后来一直对土疗和水疗法深信不疑，他认为绝大多数的病，几乎是千分之九百九十九可以用有规律的饮食、水疗、土疗和类似的家常办法治好。
在人际关系方面，甘地崇尚博爱、平等。生活中各种各样的事使他同各阶层的人有了密切的联系，他对他们往往一视同仁，无论是亲戚、朋友，还是陌生人，是同胞还是洋人，是白种人还是有色人种，是印度教徒、还是信奉其他宗教的印度人，如穆斯林、耆那教徒、基督教徒、或犹太人，他从不区别对待，只要有机会他都尽可能提供帮助。甚至是他极为痛恨的贪官污吏，他对他们个人也并无私怨，他认为人和行为是两码事，一个好的行为应该引起赞许，而一件不好的行为就应该受到谴责。但对做出这种行为的人，则不能因其行为的好坏而受到尊敬或怜恤，亦即“恶其罪而非恶其人”。甘地认为这是他非暴力抵抗运动的一个必要部分，这种“非暴力”便是追求真理的基础。
1904年，《印度舆论》创刊，一开始它是用英文、泰米尔文、古吉拉特文和印度文4种文字发行。虽然名义上是由一位颇有新闻工作经验的青年曼苏克拉尔·纳扎先生为第一主编，但事实上这个刊物的经营是由甘地负主要责任，它很快成为甘地在南非从事宣传的有效阵地。从它创刊到1914年，几乎每一期都有甘地的文章，它以其严谨、求实的风格征服了读者和批评家。通过这种形式，甘地与读者之间建立了密切的联系。
在甘地抵达南非的第10个年头，甘地有了一个重大发现。在一次旅途中，一位朋友送给甘地一本《给最后的一个》作为旅途的消遣，这是甘地初次阅读英国哲学家和社会学家约翰·鲁斯金的著作，他被深深吸引住了，以致整晚无法入眠。他发现这部1862年初版的书里，正反映着他自己曾经思考过的许多思想，如个人的好处包含在众人的好处之中；律师的工作同理发师的工作具有同样的价值；劳动的生活，即做手工的人的生活是最有价值的生活，等等，他决心照着这本书的理想去改变自己的生活。
他准备开辟一个农场，把《印度舆论》搬到那里。在农场里每个人都要劳动，领取同样的生活费，利用业余时间为《印度舆论》工作，无论什么人和什么肤色，每月一律支取3英磅的生活费。
甘地很快行动起来，10天之内，他便筹资1000英镑，通过广告征购到德班附近凤凰村一块20英亩的土地。当时那里是一片蛮荒之地，人烟稀少，杂草丛生，自从甘地和他几个志同道合的朋友来到了这里，这片荒凉的土地上便有了生机与活力。拓荒者们自己动手，风餐露宿，日夜奋战。在他们挥汗如雨的劳作中，一间长75英尺、宽50英尺的印刷厂拔地而起。这里虽然肤色、人种不同，但没有阶级压迫，人人自食其力，一派和平安详。这正是甘地崇尚的乌托邦理想，或者说正是甘地按理想建立的一块试验样本。
《印度舆论》报仍每周出版。为减少开支，配合印刷设备的条件，周刊改为仅发行英文版与古吉拉特文版，周刊的宗旨是增进爱德华统治下欧印人民的合作，教育舆论，消除误会，并检讨印度侨民本身的缺点，使其明白争取自己的权利与义务。
甘地原打算逐渐摆脱律师业务，在凤凰村住下来，靠体力劳动维持自己的生活，然而这个愿望很难实现，约翰内斯堡的律师业务面临很多问题需要他去处理，因而凤凰村的房子还没盖好，他就不得不重返约翰内斯堡。
律师业务和凤凰村的事情已使甘地脱不开身，短期内返回印度已不可能。1905年初，他回印度把家眷接到了南非。
为了公众工作的需要，甘地在约翰内斯堡的寓所是一栋拥有8个房间的两层楼的西式楼房，四周有花园，前面是空地，居住条件较为舒适、优雅。同居的人包括甘地夫妇，以及他们的3个儿子——10岁的曼尼拉尔、8岁的拉姆达斯和5岁的迪瓦达斯，还有与甘地志同道合的好友波克拉夫妇和另外一个印度伙计。这个大家庭同灶共生，亲如一家。甘地也按照鲁斯金的思想，自己动手做家务，勤俭治家。
甘地的日常生活紧张而有序。他每天7点半起床，不进早餐就离家，9点走到事务所，拆阅信件，口授书信，直到10点半左右，即到法庭出庭。下午1点午餐，约1小时，这时通常和助手或朋友们一道进餐，5点钟离开事务所，7点到家和全家人共进晚餐。晚餐通常两道菜，第一道是各种蔬菜，外加一碟豆子，新鲜沙拉，奶油与面包，第二道是鲜果与牛奶，最后是咖啡或柠檬水。晚餐席上通常是谈些轻松愉快的话题。
饭后，全家通常静坐听甘地朗诵《薄伽梵歌》，彼拉克读亚罗德的圣歌。甘地常就疑难之处提出讲解，然后大家自由讨论。遇有各国来的神学会会员客人在座时，则由客人讲些亲身经历。
甘地对孩子们的教育与众不同。他不给孩子们请家庭教师，也没有送他们上学，他要孩子们在家帮忙推磨并清扫庭院，这是一部分生活教育；他每天带孩子们徒步往返于从家里到事务所之间，以锻炼他们的体魄，这是体格教育。他和孩子们谈话限于使用古吉拉特语，以培养他们的民族认同感。他认为如果从小就训练他们用英语思考和谈话，那就剥夺了他们继承本民族精神遗产和社会遗产的权利，致使他们无力为国家服务。
1906年4月，南非发生了所谓祖鲁人叛乱。甘地对于祖鲁人没有私怨，祖鲁人也不曾伤害过印度人，可以说甘地对叛乱本身是持怀疑态度的。但当时甘地对大英帝国的存在有益于世界这种思想深信不疑，这再次驱使他向纳塔耳省督请缨，表示准备组织一个印度救护队为英帝国效力。甘地的献议很快被接受，他立即解散了约翰内斯堡的大家庭，把家眷安置在凤凰村，自己则前往德班去征集队员。他共招到24个志愿队员，其中包括19个业已满期的契约劳工，一个帕西族人和4个古吉拉特人。印度救护队换上军服，立即开赴前线。
到达“叛乱”区，甘地才发理所谓叛乱事实上不过是一种抗税行动，他因此转而同情祖鲁人，当他得知救护队的主要使命就是救护祖鲁人伤员时，心中感到了一丝安慰。其实，这些所谓伤兵，也并非在战场上受伤，而是被怀疑曾参加叛乱而遭致残酷鞭打所致。因此，印度救护队的工作也常常受到白人士兵的刁难。
对祖鲁人“叛乱”的耳闻目睹令甘地眼界大开。他觉得先前的“布尔战争”不像这次“叛乱”令人感到战争的恐怖。他亲眼看到了白人如何残忍对待这些可怜的人，“他们鞭打他们，却不愿救治他们的伤患，也不乐意印度救护队来照顾他们”，他认为“这不是战争而是一种对人的狩猎”。
另外，由于这次祖鲁人叛乱发生在一个人烟稀少的地方，这种原始而幽僻的所在常令甘地陷入对人生的深思之中。多年来，节欲的想法一直困扰着他。早年因情欲所惑而没能在父亲弥留之际尽孝曾使他痛悔不已，现在他的思想已升华到一个更高的境界。他认为凡是想以全副身心为人类服务的人就必须清心寡欲，一个人不能同时享受灵与肉的生活，否则为家庭服务和为社会服务将会发生冲突，只有节欲，两者才能协调。而节欲不仅仅限于控制个人的情欲，同时要达到控制所有感官的境地，即控制感情，克制胃口，少言寡语，消弭怒气，清除暴力与仇怨，总之必须使自己升华到毫无欲念的境地。
祖鲁人叛乱平息后，甘地回到凤凰村，立下了终身禁欲的誓言。1906年的一个仲夏之夜，他把这一决定告诉了妻子。为克制本能的欲望，甘地进行过各种艰苦卓绝的斗争，也发展了他自己的禁欲理论。如他认为一个人的情欲是和食欲相伴而生的，因此首先必须从节制口腹之欲开始。他一般每逢宗教忌日或特定日子都奉行绝食或只吃一顿，严格限制进食量，而且只吃水果、青菜，不加任何佐料，不吃经他试验或被别人证明有可能引起冲动的任何食物。他虽然在饮食和节欲方面找到联系，但认为心灵的作用仍是主要的，“一个人如果心灵不洁净，改变饮食也没有用”。“色欲的心灵不但不能控制情感，反而成为情感的奴隶”。
1906年8月22日，德兰士瓦官方报公布了亚细亚法草案，其中有关印侨管理法规定：所有年满8岁的印度人必须在警察局户籍簿上注册登记，领取带有个人手印的特别身份证。如不按期登记者，将被处以100镑罚款或3个月拘役或被驱逐出境；上述居留证必须随身携带，供随时检验。管理人员还可以随时进入私人住宅检查证件。凡不出示证件或是拒绝上述规定的，即为违警犯。这是南非当局有计划地限制印度人入境并一步一步赶走印度人的又一花招。
甘地认为这是世界上绝无仅有的对付自由人的法案，这项规定如果批准执行，而印侨又毫无反抗的话，则所有居住南非的印侨将被整个地毁掉。他很快作出反应，一方面将草案全文译成古吉拉特文，在《印度舆论》上公布，以引起印侨的足够注意，同时，召集印侨知名人士商议对策，最后大家决计公开抗议。
甘地率领一个英印协会代表团就此向殖民地事务部请愿，官方答应予以考虑。9月4日，上述法案由政府向议会提出。11日，甘地等在约翰内斯堡的犹太帝国剧院召集了一次印侨代表大会，有3000余人出席。大会通过了很多重要文件，其中有名的是第4号决议案，它表示印侨宁愿忍受一切牺牲而决不对上述法案屈服。甘地在会上大声疾呼“只有一条出路，即反抗到底，直至牺牲，而决不屈服于这种歧视”。这是甘地第一次公开号召群众在神面前庄严发誓，决心反抗不公平的法律。
虽然遭到激烈反对，德兰士瓦立法会议还是通过了这一歧视法案。由于德兰士瓦是英国的殖民地，英国政府对当地的立法与行政仍负有责任，因此，甘地建议派代表团前往英国请愿，试图通过合法的途径实施补救。11月3日，甘地启程赴英。20日抵达伦敦。当日，他便向曾担任印度总督，现任殖民大臣的额尔金勋爵递交了请愿书，并多方游说。在伦敦，甘地先后拜见了当时住在伦敦的国大党元老、82岁高龄的达达拜·瑙罗吉，还有印度国大党英国支部的许多负责人，向他们广泛宣传南非的情形。随后，他又拜会了伯拉格里爵士与多年任英印协会主席的纳波尔·克利芬先生，并征得他们的同情和支持。
11月8日，甘地组织了一个代表团，前往谒见殖民大臣额尔金，向他陈情：不列颠统治下的印度臣民，理应享受不列颠人民的同等待遇，因而恳请殖民地大臣至少应当指派一个委员会，研究南非现有的一切管理印侨的法令是否合适及如何改善的问题。额尔金爵士对此甚表同情，表示尽力而为。
上述临时组成的代表团，随后又拜会了印度事务大臣莫内，他们还晋谒了英国首相坎贝尔·班纳曼。首相建议下院召集印度事务委员会各委员约百余人举行了一次座谈会，请甘地也参加。
甘地的努力赢得了英国舆论的支持。《泰晤士报》曾将甘地的备忘录全文刊载；《每日新闻》著文支持甘地；《论坛报》、《导报》等都派记者访问甘地。
在伦敦紧张忙碌6星期后，甘地准备返回南非。临行前，甘地在他所住的老爷饭店举行了一次早餐会，答谢所有帮助过他的各方友人。席中大家建议成立一个南非英印委员会，由班纳嘉利爵士任主席。
由于甘地的努力，在他返回南非的途中，英国殖民大臣额尔金就已宣布：在未取得帝国政府重新考虑之前，德兰士瓦政府的亚细亚法应暂缓实施，该法的附属法规也应停止执行。
可实际上，甘地的伦敦之行只不过推迟了反印立法的执行。1906年12月6日，德兰士瓦与奥伦次殖民地获得自治权。德兰士瓦第一届国会立即通过了一项法案，基本上是1906年印侨管理法的翻版。1907年3月21日，该法所有立法手续完成，5月英国政府批准该法，7月1日起生效。因而，所有印侨限于7月31日以前前往登记。
甘地对此挑战，态度非常明确，他表示，德兰士瓦政府既然有决心和勇气贯彻此法，那么我们就将以更坚决的行动和英勇的斗争来拒绝遵守。
为赢得各方支持，甘地成立了一个“消极抵抗协会”，吸收了不少会员。在他的主持下，“消极抵抗协会”举行了多次公开集会，每次集会都是先讲解时局，然后大家宣誓消极抵抗。政府方面的计划是分区登记，而且是从印度人组织最弱的比勒托利亚开始的。为抵制登记，甘地率领消极抵抗协会会员不断举行集会，挨户游说，在整个比勒托利亚到处张贴标语，因而，该区1500名印侨只有100名前往登记。当时的华侨也与印侨采取了同一立场。
登记处在印侨居住地接连设立，印侨也全面反击。每一通往登记处的路上，都有义勇队员劝阻印侨前往登记，同时，又要保证不与警察发生冲突，如遇逮捕则欣然就范。
7月31日，登记的最后一天，比勒托利亚举行了一次印侨群众大会。2000多名群众聚集清真寺广场前示威抗议，加上其他各地代表陆续前来，达13000人之多。南非当局的官方代表在会上讲话，试图麻痹人们。甘地一边翻译，一边发表自己的看法：“如果我们对此法低头，谁能保证这就是最后一次同类立法。很显然，本法如获执行，势必产生各种类似的地方性法规，结果是整个国家都要被弄得一塌糊涂。”
政府虽然百般威胁利诱，但无法让印侨以及华侨自动前往登记，只得将登记期限一拖再拖，直到11月30日，13000名指定应前往登记的人，仍然只有500名履行登记。
当斗争继续开展时，甘地感到“消极抵抗”一词尚不足以显示这一运动的真义，因为“消极抵抗”常被认为是无武器的弱者的武器，这暗示着一旦有武器就会变为暴力。而且一个印度人的群众运动竟要用英文词汇来表达，实为不妥，因此，他在《印度舆论》上悬赏，征求以印度语名称代替原用的英语词汇“消极抵抗”。最后，甘地采用莫干拉尔·甘地的献议“萨达格拉哈”一词，并稍作改动为“萨蒂亚格拉哈”（古吉拉特文“坚持真理”的意思），意为一种“由真理与爱及非暴力所产生的力量”。他说，“坚持真理是强者的‘灵魂力量’，弱者是不能使用的，既然如此，不论有无武器，都将遵循这种原则”。甘地运用“坚持真理”这个概念进行的斗争，就是人们通常所说的非暴力抵抗运动。
12月26日，移民法已在议会通过，并经皇家政府正式批准。27日，警察局通知甘地前往警察署，并告知政府已决定逮捕他和其他24名领导人（包括一名华侨领袖），甘地向代理局长当面保证，所有的人第2天上午10点钟都会到达指定地点听候传讯。
当晚，印侨紧急会商，约1000人参加，甘地和其他被指控的领袖全体出席。大会上，甘地抨击皇家政府批准该法是置亿万印度人的信任于不顾，谴责该移民法是野蛮的法律，是“一个文明的政府，自称为基督教的政府所制定的最野蛮的法律”。在他看来，他与英帝国已到分歧的路口，“英国必须在南非和印度之间加以选择”。
28日，甘地及其同僚奉命出庭。法庭以无证居留德兰士瓦的罪名将其拘捕，并对其提起公诉。甘地这位昔日皇家政府的登记律师第一次以被告身份受审。当庭之上，甘地希望能给其机会声明其不服从的原因，未得允许。
甘地要求只发言5分钟，亦被拒绝。最后警察长宣布对他们的判决，所有人驱逐出境，有的48小时内执行，有的则以一周或两周为限。
庭审过后，甘地便在政府大厦广场外对印侨、华侨及一些欧洲人发表演讲，他指出：“不论我和我的同伴遭遇到什么情况，我们的斗争必须继续。这是一种神圣的斗争，我们必须奋斗到底。”
德兰士瓦警察当局对甘地及其同仁的判决于1908年1月10日起执行。甘地发表一项简短声明，要求将他改判重刑。对于甘地这一请求，法庭倒是不假思索，立即改判甘地2个月徒刑，随即将他送往约翰内斯堡监狱。
甘地刚被押解出庭，外面的印度群众即高举黑牌，抗议游行。警察前往驱散，致使多人受伤。1月14日，另一英勇的非暴力抵抗主义者奈都和华侨联合会主席也被押到约翰内斯堡监狱，与甘地同囚。1月29日，因非暴力抵抗罪名锒铛入狱者又增加了155人，其中多为零售商人，他们来自印度各地，包括不同的宗教信仰与不同阶级的印侨。这说明非暴力抵抗运动得到全体印侨一致支持。
甘地与其同僚最初被囚于黑人监狱。这里仅可容纳51人，由于来人增多，不得不临时搭盖帐篷，以收容非暴力抵抗犯。普通的犯人，允许穿本人衣服，但全体非暴力抵抗政治犯则一律身着囚衣，并需服从一切规则。监狱的伙食极度糟糕，奉行禁欲生活的甘地并不觉得有什么不适，不过考虑到同囚其他犯人的利益，他在狱中也坚持非暴力抵抗，设法迫使监狱改善了伙食，同意以麦饼替代面糊，并使印度囚犯能自行烹饪。狱中的起居规则，他也很满意。出监以后，他还不断效法。如从此他不再饮茶，日落以前便吃完晚餐，等等。
监狱里也有种族歧视。白人囚犯，可得一张床，可带牙刷、面盆与脸巾，印囚则不准，华侨同囚则更糟。甘地迫使当局同意华侨同囚获得同印囚一样的待遇，还发给他们一张桌子，少数阅读物与文具。
监禁意外地给了甘地一个学习的机会，使他得以有大量空闲时间深入阅读托尔斯泰、鲁斯金、索里欧、艾姆生等人的著作。书中所宣传的资产阶级人道主义和主张社会改革的思想非常合甘地的口味。
当甘地以乐观和轻松的心情潜心体验铁窗生活时，在印度和英国，不断有人严重抗议南非当局对非暴力抵抗者的关押。屈于强大压力，政府曾一再召集内阁会议商讨此事，两周之后，英国驻南非总督史末资将军派德兰士瓦的开明之士卡迭莱脱前往狱中与甘地谈判。
政府建议，所有印侨可改为自动而不是依法去登记，登记的项目可由政府派员与印侨磋商。建议中还规定如自动前往登记的人数超过多数，政府将自动请议会修改“黑法”，使自动登记成为合法。
1月30日，从约翰内斯堡开往比勒托利亚的火车在何迭泉缓缓停下。从车上走下来几个人，坐上一辆遮盖严实的马车。马车径直驶向比勒托利亚政府办公大楼。这几位神秘人物正是约翰内斯堡警长与对手——在押的政治犯甘地及其同僚。他们此行的目的是去会晤英国驻南非总督史末资将军。
经过交涉，双方作了些让步，并就此达成一项谅解协议。甘地答应去登记，史末资保证修改“黑法”。秘密会晤后，甘地获释。
刚刚获释的甘地身无分文。为赶回约翰内斯堡，他向史末资将军的秘书借了些车钱后便搭乘当日下午7点3刻的班车，于9点抵达约翰内斯堡。从车站出来便直奔纽敦伊斯兰教清真寺。午夜时分，他将在那里组织一次群众演讲会，鼓动人们自动前往登记。
入狱之前坚决反对登记的甘地，此刻又鼓动别人去登记，引起了印侨的疑虑和不满。一个帕西族印侨上前厉声质问甘地：“当初你对我们说，按手印只有刑事犯才这样作，可是今天又劝我们去登记，这让人怎么相信你？”甘地分辩说：“如果是为了服从‘黑法’，就是签一个字也是罪孽，更别说按手印。但是，现在的情况不同了，正如行礼——假如你强迫我对你行礼，我照办了，那等于当众羞辱自己，但如果我是出于自愿，认你以同胞的资格向你行礼，那就是表现我的风度与人情。”
那个人显然未被说服，他恼怒地叫道：“我们听说你得了15000镑，把我们出卖给史末资了，我们决不按手印，也不准任何人这样做。我敢对天发誓，有谁敢带头去登记，我一定要宰了他。”
甘地平静地说：“凡发誓不登记的人，我不强求，但我将尽一切可能帮助任何一个帕西族印侨或其他人前往登记，而不必按手印。但是，甘地补充道，“我并不喜欢刚才这位朋友的做法，我也相信，人不应指天发誓要杀一个人。这次和政府取得变通办法，主要应负责的是我，我以替大家服务的一分子的地位，自然带头前往按手印，愿神准许我这么做。死在一个兄弟手中并不比受外人欺骗更使人难受。”
天亮之前，甘地又赶回狱中，迎接他的同伴出狱。当他和其他印侨走出监狱大门时，受到迎候在那里的群众的热烈欢迎。
2月10日，甘地和他的同志们离开非暴力抵抗运动总部，出发前往印侨登记处注册。8个身强力壮的帕西族人尾随其后，领头的名叫米尔·阿兰。临到登记处附近，米尔·阿兰上前问甘地：“你去干什么？”
“我想按十个手指印，然后领取登记证。”
甘地话音未落，米尔·阿兰对准他下腹猛击一拳。瘦小的甘地不堪一击，当即仆倒在地，头部正撞上石头，嘴唇与两颊、额头被戳破，一颗牙齿被撞松，其他人一涌而上，对甘地拳打脚踢，直到惊动了附近的人，阿兰等才拔腿逃跑，结果被几个欧洲人逮住送进了警察局。
即便被打成这样，甘地仍念念不忘他的保证。他躺在床上把登记表一一填好。在场的人劝他休息，他却说：“我曾保证过，只要我活着，只要神准许，我一定要领到第一张登记证。”
甘地还给警长打电报，表明他对阿兰的行为不予追究，接着他对印侨发表声明，希望他们也不要追究此事，并说：“反对志愿登记的行为既已答应撤回，每一个善良的印度人就该尽力协助当地政府。”
由于目击殴打甘地的欧洲人坚持要将阿兰治罪，所以甘地的请求未被批准。阿兰等人被判3个月苦役。
甘地在医生的治疗下渐觉康复。4月，甘地已恢复工作，他又奔波于德兰士瓦与南丹两地之间，争取并组织印度侨民的合作与支持。他曾去德班召集一次群众大会，会上一个人拿着大木棍直奔甘地，幸亏在场的人及时阻止才免于遭险。从这时起，他接受同僚们的劝告，开始雇用私人保镖。
5月9日，志愿登记的最后一天，已有8000印侨申请登记，其中6000人获准。可以说，印度侨民已履行诺言，现在轮到政府履行它的诺言了。
然而，政府却背信弃义。史末资将军不仅没有撤回“黑法”，而且进一步采取行动。他一方面维持旧法，一方面补充了新的措施，使凡依法在限期以前自愿前往登记者为有效，但限期以后就不再适用上项法令。他为此颁布了两项法令，规定以后新来的印侨或在限期以后申请注册的印侨均需依旧法办理。史末资将军还发表一项声明，矢口否认他曾向甘地允诺过什么。甘地就此多次去信质问，史末资概不认帐。
史末资的背信弃义使甘地如梦初醒。他认为自己“过于相信史末资的政治家风度、诚实与尊严”。甘地发动非暴力抵抗运动，是为了争取所有印度侨民的权利而不仅仅是为了少数人，现在既然政府已无意废止“黑法”，他决定恢复非暴力抵抗运动来对付移民法。他警告德兰士瓦政府：如果亚细亚法不按先前谈判的协议予以撤回，并在一个明确的日期公诸于众，那么印侨所领到的注册证将当众焚毁。同时，印侨领袖通知亚细亚注册司，因为政府背信，他们要求撤回申请，请求发还申请书。政府不予理睬。
新一轮的较量又拉开了序幕。似乎一夜之间，开始出现了为数众多的无证经营小贩。原来，这是印侨有意违抗移民法以示决心。政府判处无证经营的100多印侨罚金，但他们拒绝缴纳，却宁愿坐牢。政府很快又发现如法炮制者愈来愈多，根本没有那么多监狱来收容这些以身试法者，他们也跟着改变对策，不再判拘役，而将他们的货物充公拍卖，或将其驱逐出境。
7月21日，甘地致信史末资，自请入狱。他质问将军：“那么多非暴力抵抗者被判刑入狱而让我逍遥法外，这是否意味着要鼓舞我采取行动，好让多数劳苦大众受苦呢？”23日，为表示对被捕小贩的同情，甘地又组织了德兰士瓦的印度商人全部罢市。他还在《印度舆论》报上每日报道当天印侨的活动以鼓舞士气。8月16日，亚细亚新法完成立法程序的最后一天，也就是印侨向政府提出最后通牒限期答复的那一天，甘地组织了一次盛大的群众集会。广场上堆满了人们自愿交出的登记证，主席台前有一火炉，公众集体焚烧登记证的工作万事俱备，只待政府的答复。当大家最后得知政府不愿改变政策的消息时，全场群情激动。在群众的欢呼声中，甘地开始演讲，他将上次与史末资将军交涉的全过程详尽说明。最后他说：“同胞们，假如有谁改变主意的，现在还来得及拿走你们的证件。但大家要知道，我们这样做，是要表示我们反抗‘黑法’的决心，而且有毁弃证件的力量，我希望大家三思而后行。”人群爆发出强烈的呐喊；“我们不后悔，我们不要登记证”，“反对黑法”等。在这当儿，上次殴打甘地的阿兰愧疚万分，他上前将被迫领来的注册证当场交给甘地让他焚毁。同胞之间的误解不复存在，有的只是一个同生死、共患难的决心。
于是，甘地将收到的2000多张注册证当众投入火中，一时烈焰腾空，全场欢声雷动。群情振奋之下，一些先前未交出登记证的人也自动跑向主席台将其付之一炬。这次事件给当局极大震动。一家英国杂志认为此事可与美国独立革命前“波士顿倾茶事件”相媲美。
印侨的断然措施令南非政府极为难堪。慑于印侨的一致行动，史末资将军先施缓兵之计。8月18日，他约见甘地进行会谈。政府毫无诚意，谈判破裂。23日，大规模的群众集会再次举行。焚烧登记证到处兴起。一些印度富商甚至以身试法，接二连三地进驻德兰士瓦，哪怕身陷囹圄也在所不惜。
南非政府决定镇压。9月29日，甘地及其他15人第二次被捕，被关押到伏克斯洛斯监狱，从事苦役2个月。同时，在德兰士瓦各地，共有150名非暴力抵抗者被判徒刑。
10月16日，伦敦印侨举行集会，强烈抗议南非政府以非人待遇虐待南非爱国印侨。10月27日，甘地由伏克斯洛斯监狱转到约翰内斯堡监狱，与一凶杀案犯关在一起。
12月初，甘地刑满出狱。他又在约翰内斯堡恢复了律师业务与政治活动。10日，甘地因夫人病危不得不暂时离开约翰内斯堡前往德班。当时甘地夫人正在德班医院救治，术后身体极度虚弱，医生主张喂牛肉汤补充能量，甘地不肯，认为这有悖信仰，并不听劝阻，硬是让夫人出院。从德班医院经长途舟车劳顿和14英里徒步跋涉，将夫人弄回凤凰村，自己负责为她治理。一开始他尝试水疗法，没有效果，夫人病情继续恶化。甘地想起哪本书上说过身体虚弱者最好忌食盐和豆类，于是又试着让夫人进行饮食疗法，说来也怪，甘地夫人的顽疾竟奇迹般地好了。
1909年1月15日，甘地返回德兰士瓦时，伏克斯洛斯警察局的警官又向他索要注册证或办理登记手续，甘地不从，因而被驱逐出境1A4英里，以后他又闯关，再次被捕，但旋即被开释回约翰内斯堡。2月25日，甘地和其他7人又以不能出示注册证并按手印罪，在伏克斯洛斯被判罚金50镑或苦役3个月，8人全部选择入狱。5月24日，甘地刑满出狱。此时，拘押、入狱、驱逐出境已成为家常便饭。
甘地有着异乎寻常的精力与毅力，他每天睡眠不足4小时，而且还有一种特殊的本领，可以在工作之余就地入眠，一觉醒来接着工作。甘地始终保持着旺盛的革命斗志，在一次接见《水星报》记者时他指出：“印度人已斗争了2年，将近2000人被捕，亦即有1A3的印度居民已被德兰士瓦拘禁过，他们以为这样可以使我们屈服，但我想信我们有足够的力量在任何情况下支持这一斗争。”
南非政府对甘地及非暴力抵抗者无能为力，暴力已制服不了那些手无寸铁却不屈不挠的人们，在此形势下，博瑟将军和史末资将军于6月中旬赴伦敦，与皇家政府讨论在南非成立联邦的前途问题，甘地也决定派一个印度代表团赴英，以期英国能从整体利益的立场来协调南非的未来发展问题。
甘地和一位来自德班的印度商人哈甫贝组成代表团于6月23日离开开普敦，7月10日抵达伦敦。此行伦敦，甘地下榻威斯敏斯特旅馆，这是国外归侨及国际政治家的理想住所。出于交际需要，甘地恢复了绅士作派，高级的丝帽配上考究的西服，皮鞋锃亮，在正式场合还备有硬领长尾的晚礼服。他举止儒雅，表情生动，谈吐幽默，给伦敦各方人士留下极好的印象。
不过，由于史末资与博瑟2人先声夺人，英国政府无意改弦更张，甘地除了得到一封博瑟将军的表明英国政策的信外，别无所获。信中不仅老调重提，而且措辞强硬，表示英国政府不仅不准备撤回亚细亚法或修改移民法，同时也拒绝废除久已推行的有色人种特别法，假如印度人不满于此而准备斗争，那将咎由自取。
11月13日，甘地失望地离开了伦敦。在伦敦期间，他对印度前途问题的思考有了初步的轮廓。返回南非的途中，甘地在船上奋笔疾书，写就了一部3万字的书稿，书名《印度自治》。全书用古吉拉特文写成，分12章，讨论了自治、文明、律师、医生、机器、教育、非暴力抵抗等问题，文字简洁，结构严谨。书中甘地提出了他自己独特的“自治”观。他认为，英国的殖民统治已使印度精神退化，经济衰败，政治屈辱，个人贫困，因而是不道德的，但英国人多受自己的商业观念影响，不会主动改变这种状况。唯一的出路就是印度起而争取自治。这种自治不仅是政治自由，还包括人的精神完善和社会协调。两者紧密相联、互为协调。如何达到这一目的呢？甘地认为，暴力不能拯救印度，它的文化需要它用不同的、高超的自卫武器，即以“爱的福音代替仇恨，以自我牺牲代替暴力，以灵魂的力量代替野蛮”。这就是他后来所说的真理和非暴力方式。
《印度自治》是甘地思想的精华，最初在《印度舆论》上连载发表，后来印成单行本，译成英文本。据说托尔斯泰看后对它推崇备至，认为书中讨论的主题——真理与非暴力是十分重要的，不仅应为印度，也当为全人类所重视。
甘地及其同志在南非所发动的非暴力抵抗运动也得到了印度国内的支持。国大党温和派主席戈卡利对甘地的斗争予以高度赞扬：“甘地有着超人的精神力量，有着英雄烈士所具有的勇气和牺牲精神……他们所从事的斗争，不是为了他们自己，乃是为了我们祖国的光荣与前途。”
甘地在南非的斗争使其在印度名声大噪。孟买国大党省党部提议以甘地为下届大会主席候选人，甘地因专注于南非的斗争而致电谢绝。他说：“我不知道我是否有资格回电，目前除了德兰士瓦的斗争，我无暇顾及其他。我希望全国同胞们，要认识我们在这里的斗争，它的目的是全国性的，是要保持我们印度的光荣。我也许错了，但我敢说这是现代印度最伟大的斗争，因为它目标最崇高，手段最纯正，任何形式暴力手段均被摒弃，非暴力抵抗者相信，自苦乃是获得永久改革最真实有效的办法。”
印度国内对南非印度人斗争的积极反应也从客观上对南非政府有制约作用。12月24日甘地和另外6个同志再次进入德兰士瓦时，未遭逮捕，其主要原因是南非政府想借此安抚即将在拉合尔举行全国大会的印度国大党，以免国大党激进派在拉合尔大会上拿印人在南非的处境作文章。
在12月下旬的国大党拉合尔全国大会上，戈克利向大会提交了一项有关南非问题的提案，对甘地高度评价，认为甘地是“最伟大的爱国者，印度民族优良品德之集大成者”。还有一些国大党领袖相继发言，言辞恳切，饱含深情，使与会者万分感动，大会现场收到捐款约合18000卢比，首饰无数。甘地之名首次出现于国大党决议案中。此次大会后，印度国内对南非抵抗斗争的援助达到高潮。
1910年5月30日，甘地的好友，一位富有的德国建筑师卡伦巴赫将他位于约翰内斯堡附近的一处1100英亩的农场无偿捐献给非暴力抵抗者及其家属使用。甘地和卡伦巴赫将其取名为“托尔斯泰新村”。这是因为甘地初来南非时读过托尔斯泰著的《天国就在你心中》，对托氏主张应接受基督教中爱的原则，建立没有暴力的、人人平等的天国的思想崇拜不已。甘地决定效法托尔斯泰，建立自己的乌托邦理想。
6月4日，第一批非暴力抵抗者搬进“新村”工作，随后又有许多来自印度不同种族、种姓、宗教信仰的男女老幼来此定居。大家辛勤劳作，布衣素食，分工协作，过着原始自给自足的生活。
甘地的个人生活也效法托尔斯泰，他认为一个潜心于伟大事业的人“为了真理必须使自己减为零”，以便能与千百万劳苦大众打成一片。为此，1910年他停止了年收入6000英镑的律师业务，每月只领取3英镑的生活费，其全部积蓄也都用于公益开支。
托尔斯泰新村和凤凰村一样，一直是训练非暴力抵抗战士的基地，也是他们的庇护所。那些焚烧登记证的人，有的被捕入狱，有的被驱逐出境，有的倾家荡产，这里便是这些无处栖身、无以度日的人及其眷属的避难所。
屈于南非印侨和印度国内的压力，1910年10月，英政府致电南非联邦政府，敦促其废止1907年的第2号法令，并主张撤销种族歧视法。1911年2月25日，南非政府将新法案公诸于世。这项新法宣布废止1907年第2号法令，对亚洲人的入境，不采取直接拒绝，而代以严格的教育考试。新法的公布难令甘地满意，因为这实际上把大部分未受很多教育的人拒之门外。甘地又不懈地同南非政策周旋，最后取得了一项临时协议，史末资答应德兰士瓦的印度人、中国人可自由营业，至少是8个月，并且不再通过歧视性立法；印侨则暂停非暴力抵抗运动。
6月1日，被拘捕的非暴力抵抗者全部获释。印度人都相信，这一场剧烈的斗争暂告一段落。
1911年12月，印度国大党加尔各答年会举行，大会又就南非问题通过一项议案，向甘地与德兰士瓦的斗士们致贺。
甘地一直与国大党主席戈克利保持通讯，并邀其访问南非。1912年10月22日，戈克利抵达开普敦。南非政府以贵宾礼遇款待他，并派专员陪同其到各地考察。印度人和欧洲人都热烈欢迎这一印度领袖，所到各地均为之举行盛大的欢迎会。
