Thiên kiến trong AI và cách giảm rủi ro

Thiên kiến trong AI là hiện tượng mô hình đưa ra kết quả lệch một cách có hệ thống với một nhóm người, một vùng miền, một ngành nghề hoặc một cách diễn đạt nhất định. Nó không đến từ ý đồ của ai cả mà đến từ ba nguồn có thể chỉ tên: dữ liệu huấn luyện phản ánh thế giới vốn đã lệch, cách con người chấm điểm trong giai đoạn tinh chỉnh, và cách chính bạn đặt câu hỏi. Vì có thể chỉ tên nên cũng có thể chặn, ít nhất là ở phần ảnh hưởng tới quyết định của doanh nghiệp.

Ba nguồn tạo ra thiên kiến

Nguồn thứ ba ít được nói tới nhưng lại chiếm tỷ trọng lớn trong sai lệch hằng ngày. Hỏi vì sao phương án A tốt hơn phương án B thì bạn sẽ nhận về một bài bênh vực A, bất kể A có thật sự tốt hơn không. Mô hình được tinh chỉnh để hữu ích và hợp tác, nên nó chiều theo khung bạn đưa ra.

Thiên kiến biểu hiện ra sao trong công việc thật

Bỏ qua các ví dụ trừu tượng, đây là những chỗ thiên kiến gây thiệt hại thật cho doanh nghiệp Việt Nam.

• Sàng lọc hồ sơ ứng viên. Mô hình có thể đánh giá cao những cách viết hồ sơ theo chuẩn quốc tế và hạ thấp hồ sơ viết theo lối trong nước, dù năng lực thực tế không khác.
• Viết nội dung cho thị trường địa phương. Ví dụ, thói quen tiêu dùng và cách xưng hô trong bài dễ bị kéo về khuôn mẫu chung chung, xa với người đọc mục tiêu.
• Phân tích phản hồi khách hàng. Phản hồi viết bằng tiếng địa phương hoặc nhiều từ viết tắt dễ bị phân loại sai mức độ nghiêm trọng.
• Đề xuất phương án kinh doanh. Mô hình có xu hướng đưa ra lựa chọn phổ biến và an toàn, làm mất những hướng đi khác biệt vốn là lợi thế cạnh tranh.
• Đánh giá rủi ro. Những rủi ro ít được viết về thì ít xuất hiện trong câu trả lời, không phải vì chúng nhỏ.

Sáu cách giảm thiên kiến ở phía người dùng

Bạn không sửa được mô hình nhưng sửa được cách dùng. Sáu kỹ thuật dưới đây rẻ và có hiệu quả đo được.

Một, hỏi trung lập thay vì hỏi dẫn dắt. Thay vì hỏi vì sao nên chọn A, hãy hỏi so sánh A và B theo năm tiêu chí, nêu rõ điều kiện mỗi phương án thắng.

Hai, yêu cầu phản biện chính câu trả lời vừa đưa ra. Một câu thêm vào cuối prompt: sau khi trả lời, hãy nêu ba lý do câu trả lời trên có thể sai.

Ba, cung cấp bối cảnh địa phương. Nêu rõ thị trường, đối tượng, quy mô doanh nghiệp và ràng buộc thực tế. Phần lớn sai lệch về bối cảnh biến mất khi bạn nói rõ bối cảnh.

Bốn, chạy cùng một câu hỏi theo hai khung ngược nhau rồi so sánh. Nếu hai câu trả lời mâu thuẫn hoàn toàn thì bạn đang có một chủ đề mà mô hình chiều theo khung hỏi.

Năm, tách bước sinh ý khỏi bước đánh giá. Yêu cầu liệt kê phương án trước, rồi ở một lượt riêng mới yêu cầu chấm điểm theo tiêu chí bạn đặt.

Sáu, luôn có người quyết định cuối. Với mọi việc ảnh hưởng tới con người, mô hình chỉ sàng lọc và tóm tắt, không kết luận.

Hàng rào ở cấp doanh nghiệp

Ở quy mô tổ chức, chống thiên kiến là việc của quy trình chứ không phải của người dùng riêng lẻ. Bốn hàng rào dưới đây nên có trước khi đưa AI vào các quyết định ảnh hưởng tới người khác.

Hàng rào thứ hai là hàng rào duy nhất phát hiện được thiên kiến bằng con số thay vì bằng cảm nhận. Cách làm đơn giản: lấy một tập hồ sơ, tạo các phiên bản chỉ khác nhau ở một đặc điểm không liên quan tới năng lực, rồi xem kết quả có lệch không.

Liên hệ với các vấn đề đã bàn

Thiên kiến khác với ảo giác. Ảo giác là bịa ra thông tin không có thật, còn thiên kiến là đưa ra thông tin lệch một cách có hệ thống. Ảo giác dễ phát hiện hơn vì kiểm chứng là ra, thiên kiến khó hơn vì mỗi câu trả lời riêng lẻ đều trông hợp lý, chỉ khi nhìn trên nhiều trường hợp mới thấy độ lệch.

Vì vậy bảng tiêu chí chấm chất lượng cần có riêng một dòng cho độ lệch, không gộp vào dòng độ chính xác. Khung chấm nằm ở bài tiêu chí đánh giá chất lượng đầu ra của AI, và phần quy tắc chung nằm ở bài nguyên tắc dùng AI có trách nhiệm trong doanh nghiệp.

Câu hỏi thường gặp

Có mô hình nào không thiên kiến không?

Không, vì mọi mô hình đều học từ dữ liệu do con người tạo ra và dữ liệu đó phản ánh thế giới vốn không cân bằng. Điều khác nhau giữa các nhà cung cấp là mức độ đầu tư vào việc phát hiện và giảm thiểu, cùng mức độ minh bạch về những gì họ đã làm. Mục tiêu thực tế là kiểm soát ở mức chấp nhận được cho từng ứng dụng, không phải loại bỏ hoàn toàn.

Dùng tiếng Việt có bị thiệt hơn tiếng Anh không?

Ở các nhiệm vụ suy luận phức tạp thì thường có chênh lệch, vì lượng dữ liệu huấn luyện tiếng Anh lớn hơn nhiều. Cách bù hiệu quả là viết prompt rõ ràng và có cấu trúc, cung cấp thuật ngữ và ví dụ tiếng Việt chuẩn, hoặc với những bài toán thật khó thì suy luận bằng tiếng Anh rồi yêu cầu trình bày kết quả bằng tiếng Việt.

Làm sao biết một câu trả lời có bị lệch hay không?

Một câu trả lời riêng lẻ gần như không thể kết luận. Cách kiểm tra thực dụng là hỏi lại cùng nội dung theo khung ngược lại và so sánh, hoặc chạy trên nhiều trường hợp khác nhau rồi nhìn phân bố kết quả. Nếu đổi một chi tiết không liên quan tới năng lực mà kết quả đổi theo thì đó là dấu hiệu rõ.

Yêu cầu mô hình khách quan có tác dụng không?

Có tác dụng hạn chế và không nên dựa vào. Câu chỉ dẫn hãy khách quan làm giảm giọng điệu thiên lệch chứ không sửa được độ lệch nằm trong dữ liệu. Hiệu quả hơn nhiều là ép cấu trúc: yêu cầu nêu cả phương án ngược lại, nêu điều kiện mỗi phương án đúng, và nêu thông tin còn thiếu.

Có nên dùng AI để sàng lọc hồ sơ ứng viên không?

Dùng được cho các việc cơ học như kiểm tra hồ sơ có đủ yêu cầu bắt buộc hay tóm tắt kinh nghiệm để người đọc nhanh hơn. Không nên dùng để chấm điểm hay xếp hạng ứng viên, vì đây là quyết định ảnh hưởng trực tiếp tới con người và rất khó giải trình khi bị chất vấn. Nhiều nơi trên thế giới đã đưa loại ứng dụng này vào nhóm rủi ro cao cần kiểm soát chặt.

Thiên kiến có tự giảm khi mô hình mới ra đời không?

Một số dạng giảm rõ rệt, nhất là những dạng đã được chú ý và đo đạc nhiều. Nhưng mô hình mới cũng có thể sinh ra dạng lệch mới, và mô hình càng trôi chảy thì độ lệch càng khó nhận ra. Vì vậy việc rà soát định kỳ không nên bỏ chỉ vì đã nâng cấp mô hình.

Doanh nghiệp nhỏ có cần bận tâm việc này không?

Cần, nhưng ở mức nhẹ hơn. Với doanh nghiệp nhỏ, hai việc đủ dùng: liệt kê rõ những quyết định không giao cho máy, và giữ nguyên tắc luôn có người đọc lại trước khi kết quả ảnh hưởng tới khách hàng hay nhân sự. Hai việc này gần như không tốn chi phí mà chặn được phần lớn rủi ro.

Thiên kiến và ảo giác có liên quan gì nhau không?

Chúng khác nguồn gốc nhưng cộng hưởng với nhau. Khi mô hình bịa một chi tiết, chi tiết bịa đó thường rơi theo hướng phổ biến nhất trong dữ liệu, tức là theo hướng đã lệch sẵn. Vì vậy việc kiểm chứng sự thật và việc kiểm tra độ lệch nên làm song song chứ không thay thế nhau.

Bài liên quan trong cùng chủ đề

• Nguyên tắc dùng AI có trách nhiệm trong doanh nghiệp
• Tiêu chí đánh giá chất lượng đầu ra của AI
• Ảo giác AI là gì và cách kiểm chứng thông tin
• Mô hình ngôn ngữ lớn hoạt động thế nào

Đặt hàng rào trước khi AI chạm vào quyết định về con người

Thiên kiến không nhìn thấy trong một câu trả lời đơn lẻ, chỉ lộ ra khi có quy trình kiểm tra chéo. Hai chương trình dưới đây đi vào phần quản trị và kiểm soát rủi ro khi triển khai.

• Khóa học AI cho quản lý và lãnh đạo
• Khóa học AI cho Trainer, Coach và Consultant
• Liên hệ tại trang thông tin liên hệ hoặc hotline 093.404.1114

Về người viết

Nguyễn Văn Tân (Tân AI, Tân MKT) là chuyên gia đào tạo ứng dụng AI và Marketing, Founder kiêm CEO Drabuff Academy & Agency, tác giả ba cuốn sách. Anh đi lên từ nền tảng kỹ sư công nghệ thông tin với các chứng chỉ CCNA, CCNP và CEH, từng làm tại FPT và Vietsovpetro, sau đó hơn 10 năm làm Marketing. Anh đã trực tiếp đứng lớp hơn 200 khóa đào tạo cho trên 100 doanh nghiệp, trong đó có Viettel, Honda, Mercedes-Benz, Novaland, Heineken, Toyota và EVN. Nguyên tắc của anh là thực chiến: quy trình nào không chạy được trong công việc hằng ngày thì không đưa vào bài giảng.