Ngay khi mới thành lập, Ban Thanh tra Chính phủ đã đẩy mạnh hoạt động thanh tra và chỉ đạo công tác thanh tra ở các Bộ, các địa phương, đưa công tác thanh tra đi vào nền nếp, thường xuyên và có tác dụng to lớn trong đời sống mọi mặt của đất nước. Do điều kiện kháng chiến, nên mặc dù đã được thành lập và có một văn phòng riêng, nhưng Ban Thanh tra Chính phủ vẫn gần như là một cơ quan chung với Ban Kiểm tra Trung ương Đảng. Đồng chí Trần Đăng Ninh là Trưởng ban kiểm tra Trung ương Đảng giữ chức Tổng Thanh tra phó, các cán bộ khác trong Ban kiểm tra Trung ương đều được Chính phủ bổ nhiệm làm phái viên của Ban Thanh tra Chính phủ. Phương thức tổ chức đó đã tạo nên mối quan hệ chặt chẽ giữa hai tổ chức Kiểm tra và Thanh tra. Đồng thời, việc mang hai danh nghĩa (Đảng và Chính phủ) tạo thêm uy tín và vị trí cho các cán bộ thanh tra trong quá trình thực hiện nhiệm vụ.
Dưới sự chỉ đạo trực tiếp của cụ Hồ Tùng Mậu và đồng chí Trần Đăng Ninh, công tác Thanh tra Nhà nước được tiến hành thường xuyên trong những năm 1949 - 1953. Cuộc thanh tra đầu tiên do Ban Thanh tra Chính phủ tiến hành diễn ra tháng 02/1950. Dưới sự lãnh đạo trực tiếp của cụ Hồ Tùng Mậu, đoàn thanh tra đã đi kiểm tra tình hình ở khu căn cứ địa Việt Bắc. Đoàn đã kiểm tra, xem xét việc xây dựng, củng cố các tổ chức chính quyền, đoàn thể quần chúng, việc chấp hành đường lối, chủ trương, chính sách của Đảng và Chính phủ, việc xây dựng hậu phương... Sau hơn hai tháng kiểm tra, đoàn đã biểu dương tinh thần kháng chiến của đồng bào các dân tộc Việt Bắc, đồng thời nhắc nhở, góp nhiều ý kiến cụ thể với các cấp chính quyền về việc tăng cường, củng cố mối quan hệ quân - dân, thực hiện tốt chính sách dân tộc.
Tháng 05/1950, sau khi nhận được một số đơn, thư phản ánh của quần chúng, Ban Thanh tra Chính phủ đã thành lập đoàn thanh tra do cụ Hồ Tùng Mậu làm Trưởng đoàn vào các tỉnh Thanh Hoá, Nghệ An, Hà Tĩnh thuộc Liên khu IV để kiểm tra tình hình cụ thể. Đoàn thanh tra đã phát hiện nhiều việc làm sai của các cấp chính quyền ở các địa phương này, đồng thời phát hiện nhiều địa phương vi phạm chính sách tôn giáo của Chính phủ, chính quyền một số nơi có những hành vi quân phiệt, doạ dẫm, truy bức quần chúng... Một mặt, đoàn thanh tra đã trực tiếp khuyến cáo và đề nghị các cấp uỷ Đảng và chính quyền ở các tỉnh này chỉnh đốn ngay sai phạm, thiếu sót và chấp hành đúng đường lối, chủ trương, chính sách của Đảng và Chính phủ, mặt khác, cụ Hồ Tùng Mậu đã làm văn bản báo cáo lên Trung ương Đảng, Quốc hội, Chính phủ và Chủ tịch Hồ Chí Minh. Ngay sau khi nhận được báo cáo, Chủ tịch Hồ Chí Minh đã chỉ đạo việc sửa chữa những khuyết điểm, sai lầm, đồng thời, Người trực tiếp viết thư cho đồng bào Liên khu IV, nhân danh Chủ tịch Chính phủ nhận lỗi trước đồng bào và hứa sẽ sửa chữa những sai lầm do các cấp chính quyền gây ra. Việc làm này đã góp phần củng cố khối đoàn kết toàn dân - nền tảng sức mạnh của công cuộc kháng chiến, kiến quốc.
Trong những năm 1949 - 1950, sau gần hai tháng điều tra, Đoàn thanh tra do đồng chí Trần Tử Bình, Phó Tổng Thanh tra quân đội làm Trưởng Đoàn đã thu thập chứng cứ đầy đủ về tội trạng của Trần Dụ Châu, Lê Sỹ Cửu và một số người khác có liên quan đến vụ án biển thủ công quỹ, tham ô, ăn hối lộ... Việc thanh tra này đã có tác động rất to lớn trong toàn Đảng, toàn quân và toàn dân ta lúc bấy giờ, góp phần quan trọng vào việc giáo dục cán bộ, chiến sỹ đồng thời khôi phục niềm tin cho quân và dân ta.
Từ tháng 08 - tháng 12/1950, Ban Thanh tra Chính phủ tiếp tục đi thực tế, hướng dẫn các địa phương thực hiện chủ trương, chính sách của Đảng và Chính phủ, đặc biệt là chính sách tổng động viên.
Năm 1951, sau khi Chính phủ ban hành thu thuế nông nghiệp bằng thóc nhằm đảm bảo đáp ứng nhu cầu kháng chiến, công tác thanh tra cũng được tiến hành thường xuyên. Ngoài các đoàn kiểm tra của Ban Thanh tra Chính phủ, Chính phủ đã lập một số đoàn kiểm tra có tính chất liên hợp bao gồm các đại diện của Ban Thanh tra, các cấp uỷ Đảng và các Bộ tư lệnh quân đội... Một trong những cuộc kiểm tra mang tính chất phối hợp này là cuộc kiểm tra Mặt trận đường 5 vào tháng 01/1951. Đoàn kiểm tra của Ban Thanh tra Chính phủ phối hợp với Liên khu uỷ III đã đi kiểm tra Mặt trận đường 5. Sau khi kiểm tra toàn diện về lãnh đạo, tổ chức và hoạt động của Mặt trận đường 5, đoàn kiểm tra đã báo cáo lên cấp trên những thiếu sót, hạn chế của Mặt trận đường 5, trên cơ sở đó góp phần giúp Mặt trận đường 5 nâng cao vai trò quyết định của chiến trường Bắc Bộ.
Từ tháng 07 - tháng 09/1951, Ban Thanh tra Chính phủ phối hợp và chỉ đạo Ban Thanh tra Bộ Tài chính tiến hành tổng kiểm soát, kiểm tra các chi nhánh và chi điếm tín dụng sản xuất ở Liên khu III.
Trong năm 1952 và đầu năm 1953, hoạt động của Ban Thanh tra Chính phủ vẫn tiếp tục được đẩy mạnh. Tháng 03/1952, đoàn kiểm tra, thanh tra của Ban Thanh tra Chính phủ đã về điều tra vụ tham ô công quỹ ở công trình kiến trúc giao thông Liên khu III theo đơn, thư tố giác của một số cán bộ, công nhân công trường. Đoàn kiểm tra đã thu hồi cho Nhà nước 579.000 đồng, đề nghị truy tố 2 người phạm lỗi nặng và cách chức, cảnh cáo 3 người khác.
Trong gần 4 tháng (từ tháng 06 - tháng 09/1952), Ban Thanh tra Chính phủ đã cử nhiều đoàn kiểm tra đi hầu hết các tỉnh Việt Bắc, Liên khu III, Liên khu IV để kiểm tra tình hình quản lý tài chính của các cấp, các ngành.
Tháng 10/1952, đoàn kiểm tra của Ban Thanh tra Chính phủ đã đi kiểm tra một số kho tàng thuộc Liên khu III.
Đầu năm 1953, đồng chí Nguyễn Văn Trân được bổ nhiệm làm Tổng Thanh tra Chính phủ, thay cụ Hồ Tùng Mậu đã hy sinh tháng 07/1951.
Trong những tháng đầu năm 1953, Ban Thanh tra Chính phủ đã thành lập một số đoàn đi kiểm tra việc thực hiện chính sách giảm tô ở một số nơi thuộc Liên khu IV. Những nơi đoàn đến, cán bộ và nhân dân hết sức phấn khởi vì đoàn đã giúp đỡ, hướng dẫn cụ thể việc thực hiện chính sách giảm tô gắn liền với chính sách đoàn kết nhân dân, củng cố lực lượng quần chúng.
Từ giữa năm 1953, thực hiện chủ trương chuẩn bị cho việc thực hiện kế hoạch chiến cuộc Đông - Xuân 1953 - 1954 giành thắng lợi quyết định, Chính phủ quyết định thành lập Hội đồng cung cấp mặt trận và trưng dụng hầu hết cán bộ của Ban Thanh tra Chính phủ vào công tác này. Do đó, thời gian này hầu như Ban Thanh tra Chính phủ không còn điều kiện để tiến hành công tác thanh tra. Hoạt động thanh tra tạm thời dừng lại để tập trung toàn lực phục vụ nhiệm vụ cấp bách của cuộc kháng chiến. Tuy nhiên, có thể nói, hoạt động của Ban Thanh tra Chính phủ trong giai đoạn này đã góp phần tích cực giúp Trung ương và Chính phủ xem xét việc chấp hành đường lối, chủ trương, chính sách ở các cấp, các ngành, các địa phương, đồng thời thúc đấy và cải tiến công tác, củng cố mối quan hệ quân, dân, chính Đảng. Cách đáng giá sự việc khoa học, chính xác, khách quan trên cơ sở coi trọng việc dựa vào quần chúng, lắng nghe ý kiến quần chúng của Ban Thanh tra Chính phủ đã góp phần đặt nền móng đầu tiên trong quá trình xây dựng hệ thống tư tưởng và lý luận của Thanh tra Việt Nam./.