Vì sao AI trả lời mỗi lần một khác

AI trả lời mỗi lần một khác vì nó không tra ra một đáp án cố định, mà chọn từng chữ theo xác suất, và trong phép chọn đó có một liều ngẫu nhiên có chủ ý. Đây là thiết kế, không phải lỗi.

Hiểu cơ chế này giúp bạn biết lúc nào nên chấp nhận sự thay đổi, lúc nào phải ép cho kết quả ổn định, và vì sao không nên coi một câu trả lời là bằng chứng cho lần sau.

Cơ chế chọn chữ của mô hình ngôn ngữ

Sau khi đọc câu hỏi của bạn, mô hình không nghĩ ra một câu trả lời trọn vẹn rồi mới viết ra. Nó dự đoán chữ tiếp theo, rồi lại dự đoán chữ tiếp theo nữa, cứ thế tới hết câu.

Ở mỗi bước, nó không chỉ có một ứng viên. Nó có một danh sách các chữ khả dĩ kèm xác suất. Nếu luôn chọn chữ có xác suất cao nhất, câu văn sẽ đúng nhưng khô cứng và lặp lại. Vì vậy các nhà phát triển cố tình cho nó thỉnh thoảng chọn chữ đứng thứ hai hoặc thứ ba. Chính liều ngẫu nhiên đó tạo ra sự khác biệt giữa hai lần hỏi.

Một chữ khác đi ở câu đầu sẽ kéo theo cả đoạn sau đi theo hướng khác, giống như rẽ nhầm một ngã ba thì cả quãng đường còn lại đều khác.

Bốn yếu tố khiến kết quả thay đổi

Khi nào cần ổn định, khi nào nên để nó thay đổi

• Cần ổn định: trích xuất dữ liệu từ tài liệu, phân loại theo danh mục cố định, chuyển đổi định dạng, tính toán. Những việc này chỉ có một đáp án đúng, thay đổi là sai.
• Nên để nó thay đổi: nghĩ tiêu đề, tìm góc tiếp cận mới, phác ý tưởng, viết nhiều phương án để chọn. Ở đây sự đa dạng chính là giá trị.

Bốn cách ép cho kết quả ổn định hơn

• Cho khuôn đầu ra thật chặt. Yêu cầu trả lời đúng theo bảng, đúng theo danh sách các trường, hoặc đúng một trong các nhãn bạn liệt kê sẵn. Khuôn càng chặt, chỗ cho ngẫu nhiên càng ít.
• Đưa ví dụ mẫu vào câu hỏi. Cho hai tới ba ví dụ đầu vào và đầu ra mong muốn, mô hình sẽ bám theo khuôn đó thay vì tự do diễn đạt.
• Chia nhỏ việc. Một yêu cầu lớn có nhiều chỗ để rẽ hướng. Ba yêu cầu nhỏ nối tiếp nhau thì mỗi bước chỉ có một hướng đi.
• Hạ tham số ngẫu nhiên nếu dùng qua API. Đặt temperature về gần không cho các việc cần chính xác. Bản web thông thường không cho chỉnh, nên phải dùng ba cách trên.

Câu hỏi thường gặp

Cùng một câu hỏi mà hai lần trả lời khác nhau thì tin lần nào?

Không tin lần nào cả nếu đó là thông tin có thể kiểm chứng. Sự khác nhau giữa hai lần chính là tín hiệu cho thấy mô hình không chắc chắn ở chỗ đó. Hãy đối chiếu với nguồn gốc thay vì chọn câu nghe thuận tai hơn.

Có cách nào bắt AI trả lời y hệt nhau mỗi lần không?

Qua API và hạ tham số ngẫu nhiên xuống mức thấp nhất thì kết quả gần như lặp lại, nhưng vẫn không bảo đảm tuyệt đối vì hạ tầng tính toán cũng có sai số nhỏ. Với bản web thông thường thì không có cách ép hoàn toàn.

Temperature là gì?

Là tham số điều khiển mức độ liều lĩnh khi chọn chữ. Để thấp thì mô hình luôn chọn chữ an toàn nhất, kết quả đều đặn nhưng nhàm. Để cao thì nó dám chọn chữ ít khả dĩ hơn, kết quả sáng tạo hơn nhưng dễ lệch.

Vì sao hôm nay AI trả lời tốt mà hôm sau lại kém đi?

Thường do nhà cung cấp vừa cập nhật mô hình hoặc đổi bối cảnh hệ thống phía sau. Cách phòng là đừng xây quy trình quan trọng dựa trên một cách hỏi duy nhất mà không có bước kiểm tra kết quả.

Bắt đầu cuộc trò chuyện mới có làm kết quả khác đi không?

Có, và thường là khác rõ rệt. Cuộc trò chuyện cũ mang theo toàn bộ ngữ cảnh đã trao đổi, còn cuộc mới thì không. Khi muốn đánh giá công bằng hai cách hỏi, hãy thử mỗi cách trong một cuộc trò chuyện riêng.

Sự thay đổi này có phải là dấu hiệu AI đang bịa không?

Không hẳn, đây là hai chuyện khác nhau. Thay đổi cách diễn đạt là bình thường. Nhưng nếu hai lần đưa ra hai con số khác nhau hoặc hai sự kiện khác nhau, thì đó là dấu hiệu mô hình đang không có dữ liệu chắc chắn, và lúc đó nguy cơ bịa là có thật.

Làm sao so sánh công bằng hai cách viết câu lệnh?

Chạy mỗi cách ít nhất ba lần trong các cuộc trò chuyện riêng, rồi so cả ba kết quả chứ không so một lần với một lần. Cách viết tốt là cách cho kết quả ổn định ở cả ba lần, không phải cách may mắn ra hay ở lần đầu.

Bài liên quan trong cùng chủ đề

• Ảo giác AI là gì và cách kiểm chứng thông tin
• Cùng một câu lệnh, vì sao kết quả mỗi người một khác
• Context window là gì và vì sao AI quên giữa chừng

Huấn luyện đội ngũ dùng AI ổn định

Một đội ngũ hiểu cơ chế sẽ không còn loay hoay mỗi khi AI trả lời khác đi. Em nhận thiết kế và trực tiếp đào tạo phần này theo đặc thù từng phòng ban.

• chương trình đào tạo AI thực chiến cùng Tân AI
• khóa AI cho quản lý và lãnh đạo
• Liên hệ tại trang thông tin liên hệ hoặc hotline 093.404.1114

Về người viết

Nguyễn Văn Tân (Tân AI, Tân MKT) là chuyên gia đào tạo ứng dụng AI và Marketing, Founder kiêm CEO Drabuff Academy & Agency, tác giả ba cuốn sách. Anh đi lên từ nền tảng kỹ sư công nghệ thông tin với các chứng chỉ CCNA, CCNP và CEH, từng làm tại FPT và Vietsovpetro, sau đó hơn 10 năm làm Marketing. Anh đã trực tiếp đứng lớp hơn 200 khóa đào tạo cho trên 100 doanh nghiệp, trong đó có Viettel, Honda, Mercedes-Benz, Novaland, Heineken, Toyota và EVN. Nguyên tắc của anh là thực chiến: quy trình nào không chạy được trong công việc hằng ngày thì không đưa vào bài giảng.