Mô hình ngôn ngữ lớn trong AI hoạt động thế nào

Mô hình ngôn ngữ lớn không tra cứu và cũng không hiểu theo cách con người hiểu. Nó đoán từ tiếp theo hợp lý nhất, lặp lại hàng nghìn lần cho tới khi thành một câu trả lời hoàn chỉnh. Toàn bộ điểm mạnh và toàn bộ điểm yếu của công cụ đều chảy ra từ một cơ chế duy nhất đó. Nắm được nó thì bạn không còn ngạc nhiên khi nó bịa số liệu, và cũng biết chính xác phải đặt hàng rào ở đâu.

Bốn bước từ câu hỏi tới câu trả lời

Bỏ qua phần toán học, quá trình xử lý một câu hỏi đi qua bốn bước có thể mô tả bằng ngôn ngữ thường.

• Cắt thành token. Câu của bạn được cắt thành các mảnh nhỏ, có khi là một từ, có khi là một phần của từ. Cách tính chi phí cũng dựa trên số mảnh này, chi tiết ở bài token là gì và cách token quyết định chi phí dùng AI.
• Chuyển thành số. Mỗi token được biểu diễn bằng một dãy số nắm giữ ngữ nghĩa và quan hệ của nó với các token khác.
• Cân nhắc ngữ cảnh. Mô hình xem xét mối liên hệ giữa mọi token trong đoạn đã có, để biết từ nào đang nói về từ nào.
• Đoán token kế tiếp. Mô hình tạo ra một danh sách các token có thể đứng tiếp kèm xác suất, chọn một, rồi đưa token đó vào cuối đoạn và lặp lại toàn bộ quá trình.

Bước bốn lặp đi lặp lại là điểm cốt lõi. Mô hình không lên dàn ý trước rồi viết. Nó viết từng mảnh một, mỗi mảnh dựa trên tất cả những gì đã viết trước đó.

Năm hệ quả trực tiếp của cơ chế này

Hàng cuối cùng là mẹo thực dụng ít người biết. Khi câu trả lời đã đi sai hướng ngay từ đoạn đầu, việc yêu cầu sửa thường kém hiệu quả hơn nhiều so với mở một lượt mới với prompt tốt hơn, vì phần sai vẫn nằm trong ngữ cảnh và tiếp tục kéo câu trả lời đi theo.

Huấn luyện gồm hai giai đoạn rất khác nhau

Giai đoạn một là học trên khối lượng văn bản khổng lồ. Ở giai đoạn này mô hình chỉ học một việc duy nhất: đoán từ còn thiếu. Làm việc đó ở quy mô đủ lớn thì nó vô tình học được ngữ pháp, kiến thức phổ thông, phong cách viết và một phần khả năng suy luận. Đây là giai đoạn tốn kém nhất và tạo ra nền tảng năng lực.

Giai đoạn hai là tinh chỉnh theo phản hồi của con người, để mô hình trả lời hữu ích, an toàn và theo đúng định dạng người dùng mong muốn. Giai đoạn này không thêm nhiều kiến thức, nó định hình hành vi. Đây cũng là lý do hai mô hình có cùng năng lực nền vẫn có thể cư xử rất khác nhau, như phân tích trong bài cùng một prompt, mỗi công cụ AI trả lời một khác.

Một hệ quả quan trọng: kiến thức của mô hình đóng băng tại thời điểm dữ liệu huấn luyện kết thúc. Mọi thứ xảy ra sau đó, nó chỉ biết nếu được cho tra cứu hoặc được bạn cung cấp trong prompt.

Vì sao nó trả lời được cả những câu chưa từng gặp

Đây là điểm dễ hiểu nhầm nhất. Mô hình không lưu các câu trả lời rồi tra ra. Thứ nó lưu là các mẫu hình về cách ngôn ngữ và khái niệm liên hệ với nhau, nén lại trong hàng tỷ tham số.

Vì lưu dưới dạng mẫu hình chứ không phải bản ghi, nó ghép được những thứ chưa từng đứng cạnh nhau trong dữ liệu, chẳng hạn giải thích một khái niệm kỹ thuật bằng phép so sánh với nghề bếp. Nhưng cũng chính vì vậy, nó không phân biệt được đâu là mẫu hình đúng với thực tế và đâu là mẫu hình chỉ đúng về hình thức. Một trích dẫn bịa trông giống hệt một trích dẫn thật đối với mô hình.

Đây là gốc rễ của hiện tượng ảo giác, được phân tích kỹ trong bài ảo giác AI là gì và cách kiểm chứng thông tin.

Những gì có thể gắn thêm bên ngoài mô hình

Bản thân mô hình chỉ làm một việc là sinh văn bản. Mọi khả năng khác đều là thứ được gắn thêm ở lớp bên ngoài, và biết ranh giới này giúp bạn chẩn đoán đúng khi có sự cố.

Phân biệt được hai cột này giúp bạn không đổ lỗi nhầm. Rất nhiều trường hợp người dùng kết luận mô hình yếu, trong khi vấn đề thật là kho tài liệu chưa cập nhật hoặc một tính năng chưa bật. Cơ chế cho mô hình đọc tài liệu được mô tả ở bài RAG là gì và khi nào doanh nghiệp cần dùng.

Ba điều cơ chế này nói với người dùng

Thứ nhất, prompt là dữ liệu đầu vào chứ không phải mệnh lệnh cho một người. Mô hình không hiểu ý định ẩn sau câu chữ. Nó chỉ có thứ bạn viết ra. Viết đủ bối cảnh không phải là cẩn thận thừa, đó là điều kiện để cơ chế hoạt động đúng.

Thứ hai, độ tin cậy không đi kèm độ trôi chảy. Vì mô hình tối ưu cho tính hợp lý về ngôn ngữ, một câu sai hoàn toàn vẫn đọc mượt như một câu đúng. Mức độ tự tin trong giọng văn không mang thông tin gì về mức độ chính xác.

Thứ ba, mọi việc cần độ chính xác tuyệt đối đều phải có hàng rào bên ngoài mô hình. Không có cách viết prompt nào biến cơ chế đoán thành cơ chế tra cứu. Cách duy nhất là cấp nguồn để nó bám vào và có người đối chiếu ở khâu cuối.

Câu hỏi thường gặp

Mô hình ngôn ngữ lớn có thật sự hiểu điều nó viết không?

Đây là câu hỏi còn tranh luận và câu trả lời phụ thuộc vào định nghĩa của từ hiểu. Về mặt vận hành thì điều đáng quan tâm hơn là nó không có cơ chế kiểm tra xem điều nó viết có đúng với thực tế hay không. Dù gọi hành vi đó là hiểu hay không hiểu, cách làm việc an toàn vẫn giống nhau: luôn kiểm chứng phần quan trọng.

Vì sao mô hình sai những phép tính rất đơn giản?

Vì nó không thực hiện phép tính mà đoán chữ số tiếp theo dựa trên mẫu hình đã thấy. Với các phép tính phổ biến thì mẫu hình đủ mạnh để cho kết quả đúng, còn với con số lạ hoặc nhiều chữ số thì nó trượt. Giải pháp là yêu cầu nó viết công thức hoặc đoạn mã rồi chạy, thay vì đọc ra đáp số.

Tham số nhiều hơn có nghĩa là thông minh hơn không?

Không tự động. Số tham số chỉ là một yếu tố, bên cạnh chất lượng dữ liệu huấn luyện, cách tinh chỉnh và các công cụ được gắn kèm. Thực tế có những mô hình nhỏ được huấn luyện tốt vượt qua mô hình lớn hơn nhiều trong các nhiệm vụ cụ thể, nhất là khi nhiệm vụ đó hẹp và lặp lại.

Mô hình có nhớ những gì tôi đã hỏi không?

Trong cùng một cuộc trò chuyện thì có, vì toàn bộ đoạn hội thoại được đưa lại vào mỗi lần sinh. Giữa các cuộc trò chuyện thì mặc định là không, trừ khi công cụ bạn dùng có tính năng bộ nhớ riêng và bạn đã bật. Đây là chức năng của lớp bên ngoài, không phải bản chất của mô hình.

Dữ liệu tôi nhập có được dùng để huấn luyện tiếp không?

Tùy công cụ và tùy gói dịch vụ, và đây là điều phải kiểm tra trong phần cài đặt trước khi đưa tài liệu nội bộ lên. Quan trọng là việc huấn luyện không diễn ra tức thời theo từng câu bạn gõ, nhưng dữ liệu có thể được lưu lại cho các đợt huấn luyện sau. Xem thêm bảo mật dữ liệu khi dùng AI trong công việc.

Vì sao mô hình thay đổi hành vi sau một đợt cập nhật?

Nhà cung cấp có thể đổi mô hình nền, đổi lớp hướng dẫn ẩn, hoặc chỉnh cấu hình mặc định. Cả ba đều thay đổi hành vi mà không thay đổi cách bạn sử dụng. Với quy trình quan trọng, hãy chọn dịch vụ cho phép cố định phiên bản và chạy lại bộ prompt trên ví dụ mẫu định kỳ.

Có cần hiểu kỹ thuật sâu để dùng tốt không?

Không cần hiểu phần toán học, nhưng nên nắm ba điều trong bài này: nó đoán chứ không tra, kiến thức của nó đóng băng tại một mốc thời gian, và mọi khả năng ngoài việc sinh văn bản đều do lớp bên ngoài cung cấp. Ba điều đó đủ để bạn đặt câu hỏi đúng và chẩn đoán đúng khi kết quả không như ý.

Mô hình có thể tự học từ cuộc trò chuyện với tôi không?

Không trong lúc trò chuyện. Trọng số của mô hình cố định sau khi huấn luyện, nên nó không trở nên giỏi hơn nhờ bạn sửa lỗi cho nó trong một phiên. Cảm giác nó học được trong cuộc trò chuyện đến từ việc phần bạn vừa nói nằm trong ngữ cảnh, và cảm giác đó biến mất khi bạn mở cuộc trò chuyện mới.

Bài liên quan trong cùng chủ đề

• Token là gì và cách token quyết định chi phí dùng AI
• Context window là gì và vì sao AI quên giữa chừng
• Vì sao AI trả lời mỗi lần một khác
• Ảo giác AI là gì và cách kiểm chứng thông tin

Hiểu cơ chế để đặt hàng rào đúng chỗ

Nắm nguyên lý là cách bền nhất để không bị lệ thuộc vào một công cụ cụ thể. Hai chương trình dưới đây dạy nguyên lý và cách vận dụng vào công việc thật, không dạy thao tác theo phần mềm.

• Khóa học AI cho quản lý và lãnh đạo
• Khóa học xây dựng AI Agent cá nhân
• Liên hệ tại trang thông tin liên hệ hoặc hotline 093.404.1114

Về người viết

Nguyễn Văn Tân (Tân AI, Tân MKT) là chuyên gia đào tạo ứng dụng AI và Marketing, Founder kiêm CEO Drabuff Academy & Agency, tác giả ba cuốn sách. Anh đi lên từ nền tảng kỹ sư công nghệ thông tin với các chứng chỉ CCNA, CCNP và CEH, từng làm tại FPT và Vietsovpetro, sau đó hơn 10 năm làm Marketing. Anh đã trực tiếp đứng lớp hơn 200 khóa đào tạo cho trên 100 doanh nghiệp, trong đó có Viettel, Honda, Mercedes-Benz, Novaland, Heineken, Toyota và EVN. Nguyên tắc của anh là thực chiến: quy trình nào không chạy được trong công việc hằng ngày thì không đưa vào bài giảng.