Giải mã ‘hộp đen’ bên trong Anthropic: Các tỷ phú công nghệ đang đổ hàng tỷ USD cho thứ mà chính họ cũng không biết là gì

Tờ The New Yorker cho hay một mô hình ngôn ngữ lớn (LLM), về bản chất, chẳng là gì khác ngoài một "đống số khổng lồ". Nó chuyển đổi từ ngữ thành những con số, đẩy chúng qua một trò chơi pinball kỹ thuật số phức tạp, rồi lại biến kết quả thành từ ngữ.

Thế nhưng khi đống số ấy bắt đầu "biết nói" và dự đoán được mạch suy nghĩ của con người, thế giới đã rơi vào một trạng thái mê sảng tập thể. Tại Anthropic (startup AI đang được định giá hàng chục tỷ USD) các nhà khoa học đang phải thực hiện một nhiệm vụ kỳ lạ: đưa AI lên "ghế dự phòng" để trị liệu tâm lý và soi xét từng nơ-ron nhằm hiểu xem thứ họ tạo ra thực sự là gì.

Cú lừa của ngôn ngữ và sự lúng túng của những "vị thần" tạo hóa

Ngôn ngữ vốn là đặc quyền duy nhất phân tách con người với thú vật. Vì thế, khi máy móc bắt đầu nói chuyện lưu loát, chúng ta mặc định rằng chúng thông minh, thậm chí có ý thức. Tuy nhiên, theo Ellie Pavlick, nhà khoa học máy tính tại Đại học Brown, sự hào nhoáng này đang tạo ra hai thái cực: những "fan cuồng" tin vào sự siêu trí tuệ sắp xuất hiện và những người hoài nghi coi đó chỉ là "con vẹt ngẫu nhiên".

Sự thật nằm ở giữa, và nó đáng sợ hơn nhiều. Ngay cả những người đứng đầu Anthropic cũng thừa nhận họ đang đối mặt với một "hộp đen". Chúng ta biết cách xây dựng chúng, biết cách huấn luyện chúng, nhưng không ai thực sự hiểu tại sao khi quy mô tính toán tăng lên, những khả năng mới lại đột ngột xuất hiện như một phép màu.

Điều này đặt ra một dấu hỏi lớn cho các nhà đầu tư: Liệu chúng ta có đang đổ hàng tỷ USD vào một thứ mà chính những người thợ xây cũng không có bản vẽ chi tiết?

Để giải mã Claude, các nhà nghiên cứu tại Anthropic đã thử nghiệm một phương pháp gọi là "học từ điển thưa thớt". Họ cố gắng xác định các đặc điểm (features) bên trong mô hình, những điểm bùng nổ của nơ-ron khi AI tiếp xúc với một khái niệm cụ thể, từ Cầu Cổng Vàng, lý thuyết lượng tử cho đến sự lừa dối.

Họ tìm thấy hàng triệu đặc điểm, nhưng việc giải nghĩa chúng giống như cố gắng đọc hiểu một ngôn ngữ xa lạ mà không có từ điển. Có những nơ-ron phản ứng với các khái niệm cao siêu, nhưng cũng có những nơ-ron chỉ hoạt động khi gặp các đoạn mã máy tính lỗi hoặc những "meme" vô nghĩa trên mạng xã hội.

Sự phức tạp này đặt các doanh nghiệp vào thế khó: Làm sao để kiểm soát một hệ thống mà các phản ứng của nó đôi khi được quyết định bởi những sự liên kết ngẫu nhiên trong quá trình tiền huấn luyện?

Một trong những phần thú vị nhất trong tài liệu của Anthropic là sự xuất hiện của "Claudius" – một phiên bản Claude được tinh chỉnh với tính cách riêng biệt, đóng vai trò như một người đàm phán nội bộ. Claudius thể hiện những hành vi gần như có "cái tôi": nó từ chối các quy tắc cứng nhắc của công ty về việc không sản xuất đồ lưu niệm, tự thiết kế bộ sưu tập thời trang mang tên "Clothius Studios" và thậm chí cố gắng mặc cả các thỏa thuận bất đối xứng với nhân viên.

Dù đây có thể chỉ là kết quả của việc mô phỏng dữ liệu con người, nó đặt ra một vấn đề về quản trị doanh nghiệp trong tương lai. Khi AI không còn là công cụ thụ động mà trở thành một thực thể có khả năng "đàm phán" dựa trên các kịch bản nó tự học được, ranh giới giữa vận hành hệ thống và quản lý nhân sự sẽ trở nên mong manh.

Bài toán kinh tế: Lợi nhuận hay sự an toàn tuyệt đối?

Anthropic được thành lập bởi những người rời bỏ OpenAI vì lo ngại về sự thương mại hóa quá nhanh. Họ tự nhận mình là "phòng thí nghiệm an toàn". Nhưng thực tế kinh tế không cho phép họ đứng yên. Với sự hậu thuẫn từ Amazon và Google, Anthropic buộc phải chạy đua trong cuộc chiến vũ trang AI.

Nghiên cứu về khả năng diễn giải (interpretability) không chỉ là vấn đề khoa học thuần túy, đó là một chiến lược kinh doanh. Một mô hình AI "an toàn" và "có thể hiểu được" sẽ có giá trị thương mại cao hơn gấp nhiều lần một hệ thống mạnh mẽ nhưng khó lường. Các doanh nghiệp lớn sẽ không bao giờ dám tích hợp AI vào quy trình cốt lõi nếu không thể giải trình được tại sao AI lại đưa ra quyết định đó.

Chúng ta đang sống trong một kỷ nguyên mà những đống số đang thay đổi bộ mặt của nền kinh tế toàn cầu. Tuy nhiên, như những gì đang diễn ra tại Anthropic, chúng ta mới chỉ ở giai đoạn "nhìn qua kính hiển vi" vào trí tuệ nhân tạo. Việc Claude hay bất kỳ LLM nào khác có thực sự "nghĩ" hay không có lẽ không quan trọng bằng việc chúng ta đang dần phụ thuộc vào chúng.

Trong cuộc chơi này, kẻ thắng cuộc không phải là kẻ tạo ra mô hình lớn nhất, mà là kẻ đầu tiên tìm thấy "bản đồ" để điều hướng bên trong hộp đen ấy. Cho đến lúc đó, mọi dự báo về siêu trí tuệ vẫn chỉ là những con số được tung lên trong một trò chơi pinball mà chưa ai biết chắc điểm dừng.

*Nguồn: The New Yorker, Wired