Bằng cách nhập hàng giảm giá về để bán, mở cửa muộn hơn những nơi khác, mua hàng với giá sỉ từ những nhà cung cấp rẻ nhất, chỉ trong một thời gian ngắn, Walton đã đưa cửa hàng này dẫn đầu về doanh thu và lợi nhuận trong một khu vực gồm sáu bang là địa bàn hoạt động của Butler Borthers.

Thấy cửa hàng của Walton có vẻ ăn nên làm ra, chủ nhà đã hủy hợp đồng thuê nhà và lấy lại cửa hàng cho người con trai của mình. Bị đẩy khỏi lĩnh vực kinh doanh một cách đột ngột, nhưng Walton không hề chùn bước. Ông mở một cửa hàng Ben Franklin khác ở Bentonville, Arkansas và gọi nó là Walton Five and Dime. Từ thành công của cửa hàng này, Walton mở thêm cửa hàng thứ hai ở Fayetteville, Arkansas. Cửa hàng không phải là một franchise của Ben Franklin nhưng cũng thành công không kém. Năm 1962, Walton tiếp tục mở rộng hoạt động và có tổng cộng 16 cửa hàng ở Arkansas, Missouri và Kansas. Cũng chính trong thời gian mở rộng này, Walton đã áp dụng phương thức chia lợi nhuận cho các nhà quản lý bằng cách cho họ các quyền hội viên hạn chế. Mục đích của Walton khi áp dụng mô hình này là nhằm khuyến khích nhân viên và xây dựng lòng trung thành của họ.

Năm 1962, Walton mở cửa hàng Wal-Mart đầu tiên ở Rogers, Arkansas với mục tiêu cung cấp hàng giảm giá cho thị trường nông thôn Mỹ. Sau đó, chuỗi cửa hàng mang tên Wal-Mart tiếp tục mọc lên ở nhiều nơi khác trên toàn nước Mỹ và đến năm 1969 Công ty Wal-Mart Stores Inc. chính thức ra đời. Ba năm sau, công ty này được niêm yết trên thị trường chứng khoán.

Trong những năm đầu hoạt động, Walton tìm cách đặt các cửa hàng chỉ xa trung tâm phân phối của công ty không quá một ngày lái xe để có thể đảm bảo cung ứng hàng kịp thời cho khách hàng. Trong giai đoạn 1970-1980, doanh thu của Wal-Mart tăng từ 313 triệu USD lên 1,2 tỉ USD và số cửa hàng của công ty này cũng tăng lên 8,5 lần. Năm 1983, Walton quyết định mở thêm một chuỗi cửa hàng khác có tên gọi Sam’s Club, hoạt động song song với Wal-Mart và chỉ dành riêng cho những khách hàng có đăng ký trở thành thành viên. Sam’s Club cũng thành công không kém Wal-Mart và nay đã mở rộng phạm vi hoạt động ra toàn nước Mỹ.

Đến năm 1990, Wal-Mart trở thành công ty bán lẻ đứng đầu nước Mỹ, nhưng Walton còn muốn Wal-Mart phải có mặt ở nhiều nơi trên thế giới. Năm 1991, Wal-Mart đánh dấu việc thâm nhập thị trường thế giới bằng một cửa hàng ở Mexico City. Từ đó, Wal-Mart không ngừng bành trướng hoạt động trên cả thị trường Mỹ lẫn ở nước ngoài.

Hiện nay, Wal-Mart vẫn là công ty bán lẻ lớn nhất nước Mỹ, đồng thời là công ty sử dụng nhiều lao động nhất ở Mỹ, Mexico và Canada với doanh thu hàng năm đạt trên 300 tỉ USD. Các cửa hàng Sam’s Club cũng đạt doanh thu gần 40 tỉ USD mỗi năm và đang tiếp tục mở rộng ra nhiều thị trường quốc tế. Nếu xem Wal-Mart như một nền kinh tế thì nền kinh tế này đứng thứ 30 trên thế giới về quy mô. Doanh thu của Wal-Mart hiện đang tăng trưởng với tốc độ 10%/năm và dự báo sẽ đạt con số 500 tỉ USD trong vòng một thập niên tới. Nếu vẫn còn sống đến ngày nay, Walton có lẽ sẽ là người giàu nhất trên thế giới với một tài sản gấp hai lần tài sản của Bill Gates hiện nay.

Theo nghiên cứu của các chuyên gia về khởi nghiệp, Walton có được thành công này là nhờ những bí quyết sau đây:

Luôn động viên nhân viên: “Chúng tôi luôn làm việc sát cánh với nhau, đó chính là một bí quyết”, Walton đã nói như vậy về đội ngũ nhân viên của mình. Walton là một ông chủ rất nổi tiếng về việc luôn tôn trọng và tin tưởng nhân viên để nuôi dưỡng lòng trung thành của họ. Mô hình chia sẻ lợi nhuận với các nhân viên quản lý của Wal-Mart cũng có thể được xem là một bài học đối với nhiều doanh nghiệp.

Xem khách hàng là ưu tiên hàng đầu: “Chúng tôi thể hiện cho khách hàng biết rằng chúng tôi quan tâm đến họ và rằng họ rất quan trọng đối với chúng tôi. Bởi vì họ thật sự là như vậy”, Walton nói. Xây dựng quan hệ rất tốt với khách hàng đã trở thành một trong những điểm nổi bật trong văn hóa của Wal-Mart. Nguyên tắc đầu tiên của công ty này là: “Khách hàng luôn luôn đúng”. Nguyên tắc thứ hai: “Nếu khách hàng sai, hãy xem lại nguyên tắc 1”. Walton cũng đã từng nói: “Chỉ có một ông chủ. Đó là khách hàng”.

Theo đuổi niềm đam mê: Walton chẳng biết vì sao mình lại “say” với ngành bán lẻ. Walton chỉ biết rằng ông yêu thích được làm việc mỗi ngày và xây dựng một doanh nghiệp tốt nhất có thể. Mặc dù cũng đã trải qua những thất bại lúc đầu, nhưng chính niềm đam mê này đã kéo Walton trở lại với công việc.

Nắm bắt những công nghệ mới: Walton là một trong những người đi tiên phong của thời đại thông tin. “Anh không thể cứ làm hoài một cách cũ, bởi tất cả mọi thứ xung quanh luôn luôn thay đổi. Để thành công, anh phải là người đi đầu trong những thay đổi đó”, Walton nói.

Có đầu óc khôi hài: “Đừng nên tỏ ra quá nghiêm trọng. Nên thoải mái một chút và mọi người xung quanh anh cũng sẽ cảm thấy nhẹ nhàng. Tôi luôn thấy tự hào khi phá vỡ những nguyên tắc của người khác và tôi cũng luôn ủng hộ những người muốn thay đổi các nguyên tắc của tôi”, Walton nói. Với quan niệm này, Walton đã làm cho các nhân viên của mình cảm thấy thoải mái, vui vẻ khi đi làm mỗi ngày.