Trong tiến trình lịch sử, nhân dân xã Cao Sơn luôn luôn đoàn kết chinh phục thiên nhiên, chống các loài thú dữ, cần cù lao động, giúp nhau phát triển kinh tế, xây dựng cộng đồng dân cư ngày càng phát triển. Nhân dân xã Cao Sơn đã xây dựng được một nền văn hoá tinh thần với nhiều nét đặc trưng, mang ý nghĩa nhân văn sâu sắc. Vì vậy, văn hoá tinh thần của người dân nơi đây rất phong phú, ngôn ngữ của người Nùng, Dao cũng giống như ngôn ngữ chung của người Nùng, Dao khác trên địa bàn huyện Bạch Thông, Bắc Kạn, trong sáng, giản dị, dễ hiểu. Trước năm 1945 trên địa bàn xã Cao Sơn chỉ có khoảng 15-20 hộ sau này cộng đồng dân cư trên địa bàn và những người dân di cư từ địa phương khác đến, định cư thành dòng họ, thôn; trong đó chủ yếu là dân tộc Dao, Nùng do vậy có sự giao thoa văn hóa giữa 2 dân tộc làm cho văn hóa càng thêm phong phú.
Về văn học dân gian, trải qua quá trình lao động sản xuất và đấu tranh, nhân dân các dân tộc xã Cao Sơn đã sáng tác và hát lượn những vần thơ ca trữ tình mượt mà, ấm áp. Nền văn hoá dân gian của người dân nơi đây khá đa dạng về thể loại như: Hát lượn cọi, hát pá dung… đã phản ánh mọi mặt sinh hoạt, tâm tư, nguyện vọng của người dân, ca ngợi cảnh đẹp thiên nhiên, thể hiện tình yêu quê hương đất nước, sự lạc quan, tinh thần chiến đấu chống thiên nhiên, chống tệ nạn xã hội, bất công và chống giặc ngoại xâm.
Văn hoá tín ngưỡng tâm linh của người dân xã Cao Sơn mang đậm tính dân gian bản địa. Gia đình nào cũng có bàn thờ tổ tiên được đặt ở nơi trang trọng. Người Nùng quan niệm tổ tiên là cõi vô hình nhưng linh hồn không thể mất. Linh hồn các cụ quá cố vẫn lui tới bàn thờ chứng kiến những việc làm, lòng thành của con cháu, thể hiện trong các dịp lễ, tết, giỗ chạp hàng năm. Vì vậy đã từ lâu đời, tục thờ cúng tổ tiên luôn được duy trì và giữ vai trò quan trọng trong đời sống tâm linh, nhằm giáo dục con cháu tưởng nhớ đến công sinh thành, dưỡng dục, quá trình phát triển của dòng họ và mỗi gia đình. Trong các dịp lễ, tết mọi gia đình đều làm bánh cúng tổ tiên, vào dịp tết Nguyên đán có bánh chưng, bánh khảo, bánh bỏng… tết Mùng 3 tháng 3 có bánh chứng kiến, tết Mùng 5 tháng 5 làm bánh gio, tết rằm tháng Bảy có bánh gai…
Văn hoá tâm linh của người dân tộc Nùng nơi đây còn được thể hiện rất rõ trong dịp “Tảo mộ” vào ngày mùng 3 tháng 3 âm lịch hàng năm. Dù đi đâu, ở đâu, đến dịp này người dân đều hướng về quê hương, đến thắp hương, dâng lễ, tham gia tu bổ, sửa sang lại mộ phần của tổ tiên. Trẻ em cũng được theo cha mẹ hay ông bà đi tảo mộ, để con cháu nhớ về nguồn cội, kính trọng, biết ơn ông bà, tổ tiên.
Từ xa xưa, người dân Cao Sơn đã sinh sống gắn bó với thiên nhiên, với thôn xóm, rừng núi, đồng ruộng… Cho đến ngày nay nhiều tập quán phong tục vẫn còn mang đậm nét truyền thống xưa kia. Đến dịp tết Nguyên đán là dịp các thôn bản đều được sửa sang quét dọn sạch sẽ ngay từ những ngày cuối tháng chạp của năm cũ. Khu vực xung quanh nhà được phát quang dọn sạch. Các vật dụng trong gia đình cũng được lau chùi, cọ rửa chu đáo và mua sắm thêm để đón năm mới. Những ngày này các gia đình thường gói bánh chưng, bánh gio, làm bánh khảo, bánh bỏng, có gia đình còn mổ lợn. Từ trẻ đến già, nam nữ thanh niên đều mặc áo mới đầu năm. Trong những ngày này đồng bào rất sôi nổi tham gia các hoạt động mang đậm bản sắc văn hoá dân tộc như: tung còn, đánh quay, kéo co, chơi cờ, chọi gà… Đây là là dịp nhân dân các dân tộc bày tỏ tình thân ái đoàn kết, trai gái giao duyên tìm bạn, thể hiện nét văn hóa đậm đà bản sắc dân tộc.
Song song với việc giữ gìn, duy trì các phong tục tập quán truyền thống, người dân Cao Sơn rất quan tâm đến sinh hoạt văn hoá lễ hội. Hàng năm nhân dân toàn xã thường tổ chức lễ hội “Lồng tồng” (xuống đồng), lễ hội này được tổ chức vào đầu xuân, trước đây được tổ chức vào mọt ngày trong tháng Giêng âm lịch, gần đây chuyển sang tổ chức vào ngày mùng 7 tháng Giêng âm lịch. Địa điểm được tổ chức hiện nay của hội Lồng tồng là thôn Khau Cà. Đây là lễ hội truyền thống của các dân tộc trên địa bàn xã Cao Sơn, về cơ bản nội dung và hình thức tổ chức ở các vùng miền đều giống nhau.
Mục đích cơ bản của lễ hội “Lồng tồng” là mong ước cầu cho một năm mới mưa thuận, gió hoà, mùa màng bội thu, bản làng bình yên, mọi người khoẻ mạnh. Lễ hội cũng là dịp để mọi người cùng nhau vui chơi, tham gia văn hoá, văn nghệ… thể hiện tinh thần đoàn kết cộng đồng. Mọi người đều nhiệt tình tham gia lễ hội với niềm mong ước cho một năm cũ qua đi và mở ra một năm mới no ấm, sung túc hơn. Trước ngày lễ hội, các gia đình đều quét dọn nhà cửa, xóm làng sạch sẽ, chuẩn bị đồ ăn, thức uống để đón khách.
Ai từng dự hội “Lồng tồng” sẽ không thể quên được không khí lễ hội say lòng người, cảnh sắc phong phú đẹp mắt, hoà quện trong tình thân ái, đoàn kết, yêu thương. Những ấn tượng sâu sắc ấy sẽ được lưu giữ mãi.