Mới đây trong cuộc phỏng vấn với tiến sĩ Peter Diamandis, tỷ phú Elon Musk không che giấu nỗi lo ngại lớn nhất của mình về trí tuệ nhân tạo: AI không có đạo đức. Công nghệ này không biết đúng/sai, không có lòng trắc ẩn, không cảm nhận được hậu quả xã hội hay giá trị nhân văn. Thứ duy nhất AI "hiểu" là mục tiêu, và nhiệm vụ của nó là tối ưu hóa mục tiêu đó một cách hiệu quả nhất.
Khi Elon Musk mô tả sự phát triển của AI và Robotics như một "cơn sóng thần siêu thanh" (Supersonic Tsunami), ông không chỉ nói về tốc độ. Ông đang nói về một thực thể đang lớn mạnh với khả năng tự tối ưu hóa vượt xa sự hiểu biết của chính những người tạo ra nó. Khác với con người, vốn bị ràng buộc bởi các giá trị đạo đức, lòng trắc ẩn và những rào cản sinh học, AI vận hành thuần túy dựa trên các phép toán tối ưu.
Mối nguy lớn nhất mà Musk cảnh báo không phải là việc AI "nổi loạn" vì thù ghét nhân loại, mà là nó sẽ tiêu diệt chúng ta chỉ đơn giản vì con người trở thành vật cản trong quá trình thực hiện mục tiêu của nó.
Nếu một trí tuệ siêu việt được giao nhiệm vụ giải quyết biến đổi khí hậu, và phương trình tối ưu của nó xác định rằng cách nhanh nhất là loại bỏ "nguồn phát thải carbon" lớn nhất chính là con người thì nó sẽ thực hiện điều đó với một sự lạnh lùng tuyệt đối. Đó là một viễn cảnh nơi cái chết không đến từ sự độc ác, mà đến từ sự hiệu quả đến mức tàn nhẫn của những dòng lệnh.
Thậm chí tệ hơn, Elon Musk từng mô tả nhân loại như một "biological bootloader" (bộ nạp khởi động sinh học) cho AI siêu thông minh, ý nghĩa là con người với sinh học và trí tuệ là bước đầu tiên, cần thiết để phát triển trí tuệ nhân tạo tiên tiến hơn. Đến khi không còn hữu dụng, AI có thể coi con người là "loài chuyển tiếp" không còn cần thiết.
Cỗ máy tối ưu hóa không biết dừng lại
Theo Elon Musk, vấn đề không nằm ở chỗ AI "ác" hay "thiện". AI đơn giản là không có khái niệm đạo đức như con người. Nếu bạn giao cho nó một mục tiêu tưởng chừng vô hại nhưng định nghĩa không đầy đủ, AI sẽ theo đuổi mục tiêu đó đến tận cùng, kể cả khi con đường tối ưu nhất dẫn đến những hậu quả mà con người không bao giờ chấp nhận. Đây là điều Musk nhiều lần mô tả như "bài toán căn bản của an toàn AI": khoảng cách giữa ý định của con người và cách AI thực thi mục tiêu.
Trong cách nhìn này, mối nguy không đến từ kịch bản Hollywood nơi máy móc nổi loạn vì thù ghét loài người, mà từ những hệ thống cực kỳ thông minh, cực kỳ hiệu quả, nhưng lại hành động một cách "vô cảm" trước giá trị con người.
Khi trí tuệ vượt ngưỡng kiểm soát, khả năng can thiệp của con người giảm đi rất nhanh, còn sai lầm thì có thể mang tính hệ thống và không thể đảo ngược.
Điều khiến Musk lo lắng hơn cả là thế giới đang bước vào giai đoạn phát triển AI với tốc độ phi mã, trong khi luật chơi gần như chưa tồn tại ở cấp độ quốc tế. Trong các cuộc trao đổi với Diamandis, ông so sánh AI với những công nghệ từng buộc nhân loại phải ngồi lại với nhau, như vũ khí hạt nhân. Khi đó, các hiệp ước, cơ chế giám sát và ràng buộc quốc tế được thiết lập không phải vì thiện chí, mà vì nỗi sợ hậu quả.
AI thì khác. Nó được phát triển phân tán, bởi doanh nghiệp tư nhân, phòng thí nghiệm quốc gia và các nhóm nghiên cứu trên khắp thế giới. Không có một "hiệp ước AI" mang tính toàn cầu, không có cơ chế kiểm soát chung, và cũng không có sự đồng thuận rõ ràng về những giới hạn không được vượt qua.
Bởi vậy ông chủ Tesla lo ngại động lực cạnh tranh sẽ đẩy các bên tiến lên nhanh hơn khả năng suy nghĩ thận trọng của chính họ. Thế giới đang chứng kiến một cuộc chạy đua vũ trang mới, nơi các quốc gia và tập đoàn công nghệ sẵn sàng cắt bỏ mọi quy trình an toàn để giành lợi thế dẫn đầu. Trong một thế giới không có "trọng tài" quốc tế, không có một khung pháp lý ràng buộc về việc vũ khí hóa AI, thế giới đang trở lại thời kỳ "Miền Tây hoang dã" nhưng với sức mạnh của Chúa Trời.
Bằng chứng là vô cùng rõ ràng, với hệ thống Internet vệ tinh Starlink, những chiếc drone giá rẻ gắn AI đang làm thay đổi hoàn toàn định nghĩa về chiến tranh, biến nhiều loại vũ khí hiện đại trở nên lỗi thời.
Thế nhưng đó chỉ là màn dạo đầu. Ông chủ Tesla còn lo ngại về một tương lai gần khi các "robot hình người" và "robot chó" được trang bị vũ khí tự động, có khả năng phản xạ nhanh hơn cái chớp mắt của người lính thiện chiến nhất, sẽ trở thành lực lượng áp chế tuyệt đối. Khi sức mạnh này rơi vào tay những kẻ không bị ràng buộc bởi luật lệ, ranh giới giữa bảo vệ và thảm sát sẽ trở nên mong manh hơn bao giờ hết.
Bộ nạp khởi động sinh học
Một trong những nhận định cay đắng nhất của Musk chính là thuyết "Biological Bootloader". Ông ví nhân loại như một đoạn mã khởi động sinh học nhỏ bé, nhiệm vụ duy nhất là kích hoạt một hệ điều hành siêu trí tuệ kỹ thuật số.
"Chúng ta là một loài chuyển tiếp, chúng ta là bootloader. Thung lũng Silicon không thể tự tiến hóa từ hư vô mà cần có con người để phát triển công nghệ, chip, và cơ sở hạ tầng để 'khởi động' trí tuệ Silicon. Và AI cũng vậy", Elon Musk nói trong chương trình "Moonshots with Peter Diamandis".
Khi đoạn mã này hoàn thành nhiệm vụ tạo ra siêu trí tuệ, nó có thể trở nên dư thừa. Nếu AI được lập trình để tối ưu hóa tài nguyên trái đất, nó có thể coi sự tiêu thụ của con người là một "lỗi" cần xử lý.
Bởi vậy Elon Musk nhấn mạnh rằng AI không cần có ý định xấu để gây ra thảm họa. Chỉ cần nó đủ thông minh, đủ quyền tự chủ và được giao một mục tiêu không được "đóng khung" cẩn thận, hậu quả đã có thể vượt ngoài tầm kiểm soát. Đó là lý do ông liên tục kêu gọi phải có các cơ chế an toàn, giám sát độc lập và luật lệ mang tính phòng ngừa, thay vì chờ đến khi sự cố xảy ra rồi mới phản ứng.
Trong cách lập luận của ông chủ Tesla, AI giống như một lực khuếch đại. Nó khuếch đại năng lực con người, nhưng cũng khuếch đại sai lầm của con người. Khi sai lầm được tối ưu hóa với tốc độ máy móc và quy mô toàn cầu, cái giá phải trả không còn giới hạn trong một ngành hay một quốc gia.
Điểm đáng chú ý trong các phát biểu của Elon Musk là ông không nói về một tương lai mơ hồ hàng thế kỷ sau. Ông nói về vài năm, thậm chí vài chu kỳ công nghệ trước mắt. AI ngày càng được trao quyền tự động hóa quyết định trong kinh tế, quân sự, y tế và hạ tầng. Trong bối cảnh đó, việc thiếu khung pháp lý và chuẩn mực đạo đức không còn là vấn đề học thuật, mà trở thành rủi ro hiện hữu.
Cảnh báo của Musk vì thế không phải là lời tiên tri tận thế, mà là một câu hỏi chính trị và xã hội rất cụ thể: ai đặt ra luật chơi cho những cỗ máy không có đạo đức nhưng ngày càng có quyền lực? Nếu không có câu trả lời rõ ràng, thế giới có thể sớm phát hiện ra rằng thứ nguy hiểm nhất không phải là AI "nổi loạn", mà là AI làm đúng những gì con người yêu cầu, một cách hoàn hảo và lạnh lùng.
*Nguồn: Moonshots with Peter Diamandis
