Loạt bài này nói về một khái niệm quan trọng trong lý thuyết học máy. Đó là chiều VC (Vapnik-Chervonenkis dimension), mang tên hai giáo sư người Nga khám phá ra nó vào năm 1971. Chiều VC cho phép ta ước lượng được xác suất lỗi khi sử dụng hàm phân lớp.
Ta xét bài toán phân lớp các mẫu 
Định nghĩa (khái niệm – concept): Một tập con 
Như vậy, cho trước một không gian mẫu 
Định nghĩa (lớp khái niệm – concept class): Một tập các khái niệm gọi là một lớp khái niệm.
Lớp khái niệm cho phép ta khoanh vùng các khái niệm cần “học”. Khi đã có lớp khái niệm, “học” là việc chọn trong lớp khái niệm ra một khái niệm phù hợp với các thông tin đầu vào nhất (ví dụ: phù hợp với tập mẫu học).
Ví dụ:
- Giả sử không gian mẫu là trục số
. Xét lớp khái niệm bao gồm các đoạn đóng trên
- Giả sử không gian mẫu là mặt phẳng
. Xét lớp khái niệm bao gồm các hình chữ nhật có cạnh song song với các trục:
- Giả sử không gian mẫu là
. Xét lớp khái niệm bao gồm các hình cầu:
![\displaystyle \mathcal{C}=\{[a,b]: a\leq b\}](http://l.wordpress.com/latex.php?latex=%5Cdisplaystyle+%5Cmathcal%7BC%7D%3D%5C%7B%5Ba%2Cb%5D%3A+a%5Cleq+b%5C%7D&bg=fafcff&fg=2a2a2a&s=0 "\displaystyle \mathcal{C}=\{[a,b]: a\leq b\}")
![\displaystyle \mathcal{C}=\{[a,b]\times [c,d]:a\leq b, c\leq d\}](http://l.wordpress.com/latex.php?latex=%5Cdisplaystyle+%5Cmathcal%7BC%7D%3D%5C%7B%5Ba%2Cb%5D%5Ctimes+%5Bc%2Cd%5D%3Aa%5Cleq+b%2C+c%5Cleq+d%5C%7D&bg=fafcff&fg=2a2a2a&s=0 "\displaystyle \mathcal{C}=\{[a,b]\times [c,d]:a\leq b, c\leq d\}")
