幼时曾过继给叔父、湘军提督谢汉南为子。甲午战争后，山河破碎。他毅然投笔从戎。1898年考入浙江武备学堂，后历任新军哨官、升旗官、督队官等职。

1904年奉调入闽，任福建电光山炮台督召官，兼炮科学堂提调及教习。他与西藏有缘。当时，英军第二次入侵西藏，在布达拉宫逼签了《拉萨条约》。为保卫西藏，应对边疆危机，朝野上下都呼吁训练新式陆军。他被驻藏大臣联豫选中，调往拉萨创办武备学堂，并于1909年招募藏族青年组建了一个营的新军，自任管带。第二年，波密土着部落发生叛乱，十三世达赖喇嘛逃往印度，西藏形势十分严峻。他率领这个营的新军参加江达、曲水战役。后升为统带，督领硕般多、洛隆、边坝三路藏兵助剿，连连获胜。1911年7月，他与同乡上司罗长裿会师于易贡，并在中印边境地区树起龙旗，立上了“清帝国边界”界标。从而，迫使英国远征军悻悻离去，与汉藏官兵一道，共同维护了西藏领土的完整。在征战西藏的戎马生涯中，他和藏族官兵、士兵相处得非常融洽。尤其是宽容、善待、体恤下属，深得藏军上下信赖与钦佩。还爱上了一位藏族姑娘。

这时，辛亥革命爆发和中华民国成立的讯息传到西藏，一部分新军起事回响。但新军内部派系林立，相互仇杀。一些士兵在驻藏川军协统钟颖的怂恿下，打着“归国勤王”的旗号，大肆劫掠。在洗劫拉萨市区后，钟颖又驱兵攻打郊外的色拉寺，企图抢劫寺中财物及避难于此的达官贵族、富商的家财。在这种情况下，西藏“商上”（西藏地方政府与中枢联繫的专门机构）官员被迫组织武装，与清廷驻藏官兵对抗。英侵略者也乘机挑拨。谢国梁不能与其抗衡，也无意加入叛军，便辞出军职，携眷出藏。不料遭到乱军追杀，行李物品被洗劫一空。藏军觉得他不仅练兵能力强，且体恤藏兵，就希望他能率领急募的万余士兵抗击清军。于是，在得知他匿于达木后，即派兵将其“劫回”拉萨，逼着出任藏军总司令。不得已，他只好选择帮助藏军作战。最终将钟颖部围困在拉萨市内。调停休战后，清朝驻藏官员、军队相继撤离西藏，十三世达赖喇嘛也回到了拉萨。他听说后即前往布达拉宫晋谒，指出“此次汉藏交战，始终在藏川兵，不守纪律”，“始而自相残杀，继且扰及藏番”。他抚慰十三世达赖喇嘛，力劝其拥护中华民国政府，勿背中央，并痛斥了英国派兵企图笼络劝离的无耻行径。十三世达赖喇嘛对他十分敬重，为他膜顶，并希望他留下来帮助训练藏军。但当他获悉钟颖出藏后向民国政府诬告他纵兵乱藏，便决计出藏，洗清“降番”的不白之冤，“藉明心迹”。

1913年，谢国梁回到北京，澄清了担任藏军“总司令”的事实，随后被派到陆军部任职。他致力于改善中央政府与西藏地方间的关係。1920年被派往甘肃襄办西藏专案，擢升为国务院顾问，后任广州、南京国民政府善后会议专门委员，国政商榷委员会委员。他曾多次拟藏事条陈呈报中央，强调“国家改革，不可牵动藏局。战端一开，难于善后”；“汉藏不宜过伤感情”，“若失藏则五族去一，不符共和实际”，一再呼吁加强与十三世达赖喇嘛和西藏地方政府的沟通联繫，反对外国侵略，维护国家统一和领土完整。，因其间国事多变，首脑更替频繁，或无暇顾及藏事，或行而未遂。他自己曾说，政府拟3次派其入藏，但均未成行。

1927年，南京国民政府成立。西藏各种政治势力迅速作出反应。留居内地的九世班禅额尔德尼率先代表西藏各界拥护国民政府，十三世达赖喇嘛也派员与国民政府联繫，并于1931年在南京正式设立了“西藏驻京办事处”。在这一过程中，谢国梁参与商谈、联繫工作，还提出了许多有价值的建议。可是，英帝国主义却贼心不死。先是利用西姆拉会议，企图把西藏变成“缓冲国”。1930年初，又利用尼泊尔商人在拉萨的税务纠纷，唆使其派兵入藏，迫使西藏脱离国民政府。他接到十三世达赖喇嘛拍来的明码电报后，清楚地意识到这种非正常的间接请示，“意在使英籍电员视作要电，密报英国当局”，令其罢手，又想试探中央政府的态度。他扮演了“南京友人”的联接角色，使中央政府终于认识到了他的价值，认为“收复西藏之良好机会”来了，即以他“前在西藏任士兵统领，熟悉藏情，并于达赖、班禅具有交谊”，派其入藏与十三世达赖喇嘛切实商谈，解决藏事。

1930 年5月，“报国有志”的谢国梁终于如愿以偿。他和担任秘书的儿子谢伏波一起，绕道缅甸，乔装成商人，随西藏着名商号邦达昌的一支商队向北进发。谢伏波，一名瑞清，单字舒，1907年生于拉萨，7岁随父在北京读书，22岁供职于国府外交部。由于长途跋涉，加上水土不服，感染恶疾，不幸于9月22日在曼德里医院病逝，年仅23岁。料理好儿子之后，谢国梁也病倒了。为巩固西南边疆，谢国梁献出了自己的青春、生命和儿子，病逝前还希望谭云山完成他未竟事业。这时，在仰光担任《兴商日报》主笔的谭云山给他带了希望。谭是长沙人，毕业于湖南省立第一师範学校，愿为国效力。于是，他俩继续前行。途经曲水时，62岁的谢国梁终因病情加剧，于12月17日将自己永远地留在了曾经守卫过的雪域高原。

谢国梁去世后，谭云山不负使命，向十三世达赖喇嘛转交了中央政府的公函、礼物等，达赖则明确表示“倾向中央”，从而彻底粉碎了英国等外国侵略势力的阴谋。达赖还专门为谢氏父子举行了藏汉合璧的隆重葬礼，亲自为之诵经、扶柩，葬谢国梁于罗布岭山冈。1931年5月31日，国民政府也在南京为谢国梁父子举行公祭。蒋介石、邵子力、刘峙、于右任、何应钦等政界要人及西藏驻京办事处人员均躬临致祭。蒋介石除献《像赞》、《诔词》外，复献挽幛三幅致悼“万里驰驱赍壮志，一门忠孝吊英魂”；“尽瘁在西陲，卅载宾士光党国；赍志痛中道，一门忠孝照丹青”；“使命赋皇华，有文郎不远追随，劳神苦雨凄风，竞尔偕亡惊咄咄；招魂伤黑水，慨藏事正殷涸解，转瞬仰乔俯梓，顿教太息咽声声！”

谢国梁以武事兼文官而勤于着述，有《征波密始末记》、《藏事略述》、《藏事条陈》等存世。