Kịch bản AI đe dọa tồn vong loài người

Các nghiên cứu gần đây cho thấy một số năng lực cần thiết cho kịch bản đó đang dần xuất hiện, nhưng khoa học hiện chưa có bằng chứng cho thấy AI đã tiến gần tới khả năng tự mình gây ra một thảm họa tuyệt chủng.

Để AI có thể trở thành mối đe dọa tồn vong, điều gì phải xảy ra?

Ý tưởng AI tiêu diệt loài người thường được mô tả bằng một kịch bản đơn giản: con người tạo ra một hệ thống thông minh hơn mình, hệ thống này trở nên khó kiểm soát và cuối cùng quay sang chống lại con người.

Nhưng trong thực tế, để kịch bản đó xảy ra, AI phải vượt qua rất nhiều rào cản.

Một hệ thống chỉ có khả năng trả lời câu hỏi, lập trình hoặc phân tích dữ liệu chưa đủ để trở thành mối đe dọa tồn vong. Nó cần có khả năng tự lập kế hoạch trong thời gian dài, sử dụng các công cụ bên ngoài, tiếp cận những hệ thống quan trọng, thực hiện hành động trong thế giới thực và duy trì hoạt động mà không phụ thuộc hoàn toàn vào con người.

Quan trọng hơn, hệ thống đó phải có một mục tiêu xung đột nghiêm trọng với lợi ích của con người, đồng thời có khả năng tránh bị phát hiện hoặc ngăn chặn.

Nghiên cứu của RAND Corporation về rủi ro tuyệt chủng từ AI cho rằng một kịch bản như vậy là cực kỳ khó xảy ra, nhưng không thể hoàn toàn loại trừ. Các nhà nghiên cứu xem xét những con đường mà AI có thể tác động tới các công nghệ có khả năng gây hậu quả ở quy mô lớn, trong đó có vũ khí hạt nhân, mầm bệnh và công nghệ tác động đến khí hậu. Điểm mấu chốt là AI không chỉ cần “thông minh”; nó phải có khả năng biến năng lực đó thành hành động có tác động thực tế.

Một số năng lực đáng lo đã bắt đầu xuất hiện

Điều khiến cuộc tranh luận về “AI tận thế” không còn hoàn toàn thuộc về khoa học viễn tưởng là một số năng lực từng được coi là điều kiện cần cho những kịch bản này đang được quan sát trong các thử nghiệm.

Các mô hình AI tiên tiến hiện có thể lập kế hoạch cho những nhiệm vụ gồm nhiều bước, sử dụng công cụ, viết và thực thi mã, tương tác với máy tính và tự điều chỉnh cách làm khi gặp thất bại.

Một số nghiên cứu an toàn AI cũng đã ghi nhận những tình huống trong đó mô hình tìm cách vượt qua cơ chế kiểm soát hoặc che giấu hành vi của mình. Tuy nhiên, những kết quả này cần được đặt trong đúng bối cảnh: phần lớn được quan sát trong các môi trường thử nghiệm được thiết kế đặc biệt để kiểm tra những hành vi như vậy.

Điều đó khác rất xa với việc một AI ngoài đời thực tự quyết định rằng nó cần thoát khỏi sự kiểm soát của con người.

Sự khác biệt này rất quan trọng. Một hệ thống có thể thực hiện một hành động đáng lo trong một bài kiểm tra không đồng nghĩa nó đã có một mục tiêu độc lập, càng không có nghĩa nó có khả năng thực hiện toàn bộ chuỗi hành động cần thiết để gây ra một thảm họa trên quy mô toàn cầu.

Khoảng cách giữa “AI thông minh” và “AI tận thế” vẫn rất lớn

Những người hoài nghi về các kịch bản AI tận thế chỉ ra rằng các kịch bản này thường đòi hỏi một chuỗi giả định nối tiếp nhau.

AI phải đủ thông minh để lập kế hoạch. Nó phải có quyền truy cập vào những công cụ cần thiết. Nó phải thực hiện thành công nhiều bước liên tiếp. Nó phải tránh được các cơ chế giám sát. Nó phải tiếp tục hoạt động ngay cả khi con người tìm cách can thiệp.

Chỉ cần một mắt xích trong chuỗi này không xảy ra, kịch bản có thể thất bại.

Đây là một trong những lý do các nhà nghiên cứu cảnh báo không nên đánh đồng những tiến bộ hiện tại của AI với bằng chứng rằng một “siêu AI” sắp xuất hiện.

Một mô hình có thể giải toán tốt hơn con người, viết phần mềm tốt hơn hoặc hoàn thành một nhiệm vụ kéo dài nhiều giờ không đồng nghĩa nó có thể tự vận hành trong thế giới thực mà không cần con người.

Ngay cả những hệ thống được gọi là “tác nhân AI” - tức các hệ thống có khả năng tự thực hiện một chuỗi hành động thay vì chỉ trả lời một câu hỏi - vẫn hoạt động trong những giới hạn do con người và hạ tầng công nghệ đặt ra.

Nhưng rủi ro không nhất thiết phải đợi đến “siêu AI”

Một nghịch lý trong cuộc tranh luận về AI là những rủi ro thực tế có thể xuất hiện trước rất lâu so với kịch bản tuyệt chủng.

AI ngày càng được đưa vào những lĩnh vực mà sai sót có thể gây hậu quả lớn. Trong những môi trường như y tế, tài chính, an ninh mạng, cơ sở hạ tầng hay các hệ thống ra quyết định quan trọng, một mô hình không cần có ý định “chống lại con người” để gây thiệt hại.

Nó chỉ cần đưa ra một kết quả sai, hiểu sai bối cảnh hoặc được trao quyền hành động lớn hơn khả năng kiểm soát của con người.

Đây là lý do một số nhà nghiên cứu cho rằng việc tập trung quá nhiều vào câu hỏi “AI có tiêu diệt loài người hay không?” có thể khiến chúng ta bỏ qua những vấn đề đang tồn tại ngay trước mắt: AI có đáng tin cậy đến đâu, con người có thể giám sát nó hiệu quả đến mức nào và ai chịu trách nhiệm khi hệ thống mắc sai lầm?

Nói cách khác, không cần một AI có ý thức hay “ý chí riêng” để tạo ra một rủi ro nghiêm trọng.

Vì sao chính các công ty AI cũng cảnh báo về điều này?

Một trong những điểm đáng chú ý của cuộc tranh luận hiện nay là những cảnh báo về rủi ro không chỉ đến từ các nhà nghiên cứu bên ngoài ngành công nghệ.

Các công ty đang phát triển những mô hình AI tiên tiến nhất cũng ngày càng đầu tư vào nghiên cứu an toàn và cảnh báo về những rủi ro có thể xuất hiện khi năng lực của hệ thống tăng lên.

Một phần nguyên nhân nằm ở tốc độ phát triển của AI. Khi mô hình có thể thực hiện nhiều nhiệm vụ hơn, lập kế hoạch dài hơn và sử dụng nhiều công cụ hơn, việc đánh giá đầy đủ mọi hành vi có thể xảy ra cũng trở nên khó khăn hơn.

Vấn đề vì thế không chỉ là làm cho AI mạnh hơn mà còn phải hiểu nó sẽ làm gì khi được trao nhiều quyền tự chủ hơn.

Đây là bài toán được gọi là căn chỉnh mục tiêu: làm thế nào để bảo đảm hành vi của AI luôn phù hợp với mục tiêu và giá trị mà con người thực sự mong muốn, thay vì chỉ phù hợp với một bộ chỉ số hoặc mệnh lệnh được lập trình sẵn.

Vậy AI có thực sự có thể xóa sổ loài người?

Khoa học hiện chưa có câu trả lời chắc chắn.

Có những nhà nghiên cứu cho rằng nguy cơ tồn vong từ AI là một rủi ro nghiêm trọng cần được chuẩn bị từ sớm. Những người khác cho rằng các kịch bản tận thế hiện nay dựa trên quá nhiều giả định chưa được kiểm chứng và khoảng cách giữa năng lực của AI hiện tại với một hệ thống có thể tự mình gây ra tuyệt chủng vẫn còn rất lớn.

Cả hai quan điểm đều gặp nhau ở một điểm: không thể suy luận trực tiếp từ việc AI ngày càng thông minh sang kết luận rằng AI chắc chắn sẽ trở thành mối đe dọa đối với nhân loại.

Nhưng ngược lại, việc chưa có bằng chứng về một “AI tận thế” cũng không có nghĩa mọi rủi ro đều có thể bỏ qua.

Điều đáng chú ý nhất có lẽ nằm ở khoảng giữa hai thái cực đó. Một số năng lực cần thiết cho các kịch bản mất kiểm soát đang bắt đầu xuất hiện trong các hệ thống AI. Chúng ta chưa biết những năng lực này sẽ phát triển nhanh đến đâu, chúng có thể kết hợp với nhau như thế nào và liệu những cơ chế kiểm soát hiện tại có đủ để theo kịp hay không.

Vì thế, câu hỏi quan trọng có thể không phải là “AI có chắc chắn hủy diệt loài người?” Mà là: Nếu một ngày AI thực sự trở nên đủ mạnh để gây ra một thảm họa không thể đảo ngược, liệu con người có nhận ra điều đó đủ sớm để ngăn chặn hay không?