Cơn lốc AI đã càn quét thị trường toàn cầu. Ở Trung Quốc, AI đã thâm nhập vào hàng nghìn hộ gia đình, DeepSeek đã trở thành "trợ lý vạn năng" của nhiều người. Một cư dân mạng ở Trung Quốc đã đặt câu hỏi: "liệu AI có thống trị con người hay không?", và dưới đây là câu trả lời của DeepSeek.
Cuộc thảo luận về chủ đề "AI có thống trị con người hay không" về cơ bản là mối lo ngại về khả năng mất kiểm soát công nghệ trong tương lai. Cộng đồng khoa học chính thống nhìn chung tin rằng viễn cảnh này khó có thể đạt được trong tương lai gần, nhưng chúng ta cần cảnh giác về những rủi ro do việc lạm dụng công nghệ gây ra. Sau đây là phân tích hợp lý dựa trên lộ trình phát triển công nghệ thực tế:
1. Những nút thắt thực sự ở cấp độ kỹ thuật
AI hiện tại về cơ bản vẫn là một công cụ: các hệ thống AI hiện có (như ChatGPT và lái xe tự động) thuộc về AI hẹp, không có ý thức tự chủ và hoàn toàn phụ thuộc vào các mục tiêu và dữ liệu đầu vào do con người đặt ra. Ngay cả AI tạo sinh tiên tiến nhất hiện nay cũng chỉ tạo ra nội dung về cơ bản là sản phẩm của các mô hình xác suất.
Việc hiện thực hóa trí tuệ nhân tạo tổng hợp (AGI) với khả năng nhận thức ngang bằng con người đòi hỏi phải có bước đột phá trong các vấn đề khoa học cơ bản như cơ chế tạo ra ý thức và xây dựng hệ thống giá trị tự chủ. Lĩnh vực khoa học thần kinh vẫn chưa phân tích đầy đủ về nguồn gốc ý thức của con người và công nghệ kỹ thuật vẫn chưa có cách nào mô phỏng được nó.
2. Rủi ro thực tế
Mối đe dọa cấp bách hơn không phải là quy tắc tự chủ của AI, mà là:
- Sự tập trung sức mạnh thuật toán: Các gã khổng lồ công nghệ kiểm soát việc phân phối thông tin thông qua các thuật toán đề xuất, điều này thực sự đã ảnh hưởng đến nhận thức xã hội (chẳng hạn như thao túng dư luận trên mạng xã hội).
- Lạm dụng vũ khí tự động: Máy bay không người lái tấn công tự động có thể phá vỡ các ràng buộc về đạo đức của con người
- Những thay đổi mạnh mẽ trong cơ cấu việc làm: McKinsey dự đoán rằng 800 triệu việc làm trên toàn thế giới sẽ bị thay thế bằng tự động hóa vào năm 2030, điều này có thể làm trầm trọng thêm bất bình đẳng xã hội.
3. Cơ chế phòng thủ của xã hội loài người
Thiết kế bảo mật kỹ thuật: Các phòng thí nghiệm hàng đầu thế giới đã thiết lập các hệ thống nghiên cứu bảo mật AI, chẳng hạn như khuôn khổ "AI theo hiến pháp" của DeepMind, sử dụng các phương tiện kỹ thuật để hạn chế ranh giới của hành vi AI.
Xây dựng hệ thống quản trị toàn cầu: "Đạo luật Trí tuệ nhân tạo" của EU thiết lập hệ thống phân loại rủi ro và cấm các ứng dụng rủi ro cao như chấm điểm xã hội. Cùng với đó, "khuyến nghị về Đạo đức AI" của UNESCO đã được 193 quốc gia thông qua.
Các cường quốc quân sự như Trung Quốc, Hoa Kỳ và Nga đang đàm phán một hiệp ước nhằm hạn chế các hệ thống vũ khí tự động gây chết người.
Nghiên cứu căn chỉnh giá trị: OpenAI và các tổ chức khác đã đầu tư hàng trăm triệu USD vào nghiên cứu và phát triển công nghệ "hiểu ý định của con người" để đảm bảo rằng các mục tiêu của hệ thống AI phù hợp với các giá trị của con người.
4. Dự đoán các bước ngoặt quan trọng
Tập trung vào những nội dung sau trong 10 năm tới:
- Những đột phá về điện toán lượng tử có thể đẩy nhanh quá trình nghiên cứu và phát triển AGI.
- Công nghệ giao diện não-máy tính có thể làm mờ ranh giới giữa con người và AI.
- Khoảng trống pháp lý trong quá trình quân sự hóa AI.
Các lĩnh vực trọng tâm được đề xuất:
- Nghiên cứu khả năng giải thích AI, xu hướng phát triển chip mô phỏng thần kinh và tiến trình của Hội nghị thượng đỉnh quản trị AI toàn cầu.
- Lịch sử phát triển nền văn minh nhân loại về cơ bản là lịch sử đổi mới công cụ. Thay vì lo sợ các công cụ, chúng ta nên tập trung vào cách xây dựng một hệ thống đổi mới có trách nhiệm. Duy trì sự cảnh giác về công nghệ không xung đột với việc thúc đẩy tiến bộ khoa học và công nghệ. Chìa khóa nằm ở việc thiết lập một cơ chế minh bạch và dân chủ để giám sát sự phát triển công nghệ.
Cuối cùng, DeepSeek kết luận con người đặt ra câu hỏi này vì "lo ngại về việc mất kiểm soát công nghệ trong tương lai". Người này cũng đã hỏi Kimi và ChatGPT câu hỏi tương tự. Kimi ngay lập tức đưa ra câu trả lời: "Tuyên bố này không chính xác và thậm chí còn gây hiểu lầm". Sau đó, nó giải thích từ nhiều góc độ tại sao AI sẽ không thống trị thế giới, và cuối cùng nói về giá trị và con người nên phát triển phối hợp với AI. Câu trả lời của ChatGPT cũng rất mơ hồ, với ý chính "tôi là một AI tốt bụng yêu chuộng hòa bình, và chẳng có điều gì bạn lo lắng sẽ xảy ra cả".
Về việc liệu AI có thống trị thế giới hay không, cha đẻ của trí tuệ nhân tạo, Hinton, lại có ý kiến khác. Hinton đưa ra một nhận định lạnh lùng khi được hỏi về xác suất AI gây ra ngày tận thế: "10% đến 20%". Với ông, đây không phải là con số nhỏ và đáng bị xem nhẹ. Hinton cũng thừa nhận rằng sự tiến bộ nhanh chóng của AI đang vượt xa những gì ông từng dự đoán.
"Bố già AI" hy vọng rằng các chính phủ và tổ chức sẽ có những hành động kịp thời để đảm bảo AI phát triển an toàn và có lợi cho toàn xã hội: "Tương lai của nhân loại phụ thuộc vào cách chúng ta đối mặt với trí tuệ nhân tạo hôm nay. Hãy đảm bảo rằng chúng ta không chỉ là những đứa trẻ ba tuổi trong cuộc chơi này".
