Kim chi trong tiếng Tiều Tiên là “chimchea”, nghĩa là “rau củ ngâm”, để mô tả cách thức chế biến bằng cách lên men các loại rau củ, chủ yếu là cải thảo, cùng tỏi ớt. Một số nguồn gốc cho rằng kim chi đã xuất hiện từ khoảng 2.600 – 3.000 năm trước. Trong đó, văn bản xa xưa nhất nhắc đến kim chi là cuốn Kinh Thi, một cuốn sách tổng hợp các bài thơ ca vô danh của Trung Quốc ra đời vào thời Xuân Thu.

Hàn Quốc vốn nổi tiếng với mùa đông khắc nghiệt, kéo dài. Không một loại cây nào có thể phát triển được vào mùa này, do đó, người Hàn Quốc từ xưa đã phải tính đến chuyện dự trữ thức ăn, đặc biệt là các loại rau cung cấp nhiều vitamin. Ban đầu người ta tìm ra phương pháp bảo quản rau củ bằng cách làm khô với củ cải, củ sâm, các loại lá, hoặc ướp với tương đậu, tương ớt.

Để có công thức chế biến món kim chi hoàn chỉnh như ngày nay là cả một quá trình lịch sử lâu dài. Có ý kiến cho rằng vào thời kỳ đồ đá mới, người Hàn xưa đã biết tạo ra món kim chi cơ bản đầu tiên bằng cách ướp rau với muối. Đến thế kỷ thứ 5 trước Công nguyên, người ta đã cho thêm các gia vị khác như: hành, tỏi, gừng… Sang thời sơ kỳ Triều Tiên, người dân đã biết dùng nước mắm thay muối để làm kim chi. Và sau cuộc chiến giữa Triều Tiên và Nhật Bản (1592), ớt đã được du nhập vào, từ đó, kim chi đã có mùi vị giống như món kim chi ngày nay.