Ông sinh ngày 24-11-1905 tại làng Kruzhilin, tỉnh Roztov, trong một gia đình nông dân. Lúc 16 tuổi Sholokhov đã tham gia công tác cách mạng, làm việc trong đội võ trang trưng thu lương thực phục vụ chiến đấu bảo vệ chính quyền Xô Viết. Cuối năm 1922, Sholokhov từ chiến trường về Maxcơva, làm nhiều nghề để sống, đồng thời bắt đầu sáng tác văn học.
Những năm 1923, 1924, Sholokhov đã viết một số ký sự, truyện ngắn được đăng trên các báo và tạp chí, về sau được tập hợp trong 2 tập truyện ngắn xuất bản 1926: Những câu chuyện sông Đông (Donskije rasskazy, 1926) và Thảo nguyên xanh biết nói về cuộc sống đấu tranh giai cấp quyết liệt ở vùng sông Đông thời nội chiến, nêu bật sự trưởng thành về ý thức cách mạng của quần chúng.
Từ năm 1924, Sholokhov về hẳn quê nhà ở vùng sông Đông. Năm 1925, Sholokhov bắt đầu viết bộ tiểu thuyết đồ sộ Sông Đông êm đềm (Tikhi Don, 1925-1940, 4 tập), được tặng giải thưởng quốc gia Liên Xô, 1941, có tiếng vang trên thế giới, được quay thành phim, phản ánh đời sống thay đổi quan trọng ở vùng sông Đông trong mười năm từ 1912-1922; một bức tranh vĩ đại về cuộc đấu tranh với hai thế giới, sự đổ vỡ của những quan hệ xã hội cũ, sự nảy sinh và củng cố quan hệ mới; miêu tả cac tầng lớp xã hội, những số phận cá nhân gắn bó với quần chúng Kazakh... Bộ tiểu thuyết đã khẳng định vị trí lớn lao của Sholokhov trên văn đàn. Tiếp đó Sholokhov viết bộ tiểu thuyết 2 tập Đất vỡ hoang (Podnjataja zelina, tập 1 - 1932; tập 2 - 1960), được tặng giải thưởng Lênin 1960, kể về cuộc cải cách triệt để xã hội chủ nghĩa, ở một làng vùng sông Đông trong những năm 1930-31, biết phát hiện cái lớn lao trong cái nhỏ, cái toàn thể trong cái cá biệt, trong đó mô tả mối quan hệ kinh tế mới vá quan hệ con người mới.
năm 1932, Sholokhov trở thành đảng viên Đảng Cộng sản Liên Xô. Trong những năm chiến tranh vệ quốc, Sholokhov làm phóng viên mặt trận, viết hàng loạt ký sự, truyện về đề tài chiến tranh. Năm 1942, Sholokhov cho xuất bản truyện ngắn nổi tiếng: Khoa học căm thù (Nauka njenavisti, 1942). Từ năm 1943 trở đi, những chương đầu của cuốn tiểu thuyết: Họ chiến đấu vì Tổ quốc (Oni srazhalis za rodinu) được đăng trên báo Sự thật, những chương sau được đăng vào các năm 1949, 1954 và 1969. Tuy đến nay bộ tiểu thuyết vẫn chưa hoàn thành, song những phần ra mắt bạn đọc cho thấy nổi bật tần nhìn sử thi rộng lớn của nhà văn về đời sống vật chất và tinh thần nhân dân, truyền thống của nền văn hóa nhân dân thể hiện trong hoàn cảnh của chiến đấu chống phát xít. Cuối năm 1956, truyện ngắn Số phận con người (Sudjba Asheloveka) của ông xuất trên báo Sự thật và trở thành một sự kiện làm rung chuyển văn đàn Xô Viết lúc bấy giờ, và sau đó được chuyển thể đưa lên màn ảnh.
Sholokhov mất ngày 21-2-1984 thọ 79 tuổi. Sholokhov được coi là đại diện tiêu biểu cho nền văn học hiện thực xã hội chủ nghĩa. Ông là ủy viên Ban chấp hành Turng ương Đảng Cộng sản Liên Xô (1961), đại biểu Xô Viết tối cao Liên Xô 1937, viện sĩ Viện Hàn lâm Khoa học Liên Xô (1939). Năm 1965, Sholokhov được tặng giải thưởng Nobel văn học. Được nhà nước Liên Xô 2 lần tặng danh hiệu Anh hùng lao động xã hội chủ nghĩa 1967 và 1980.