Điểm yếu chí mạng cho thấy ChatGPT đang được thần thánh quá mức, chưa thể khiến nhà báo, giáo sư mất việc

Trong những tuần qua, ChatGPT đang thu hút được rất nhiều sự chú ý trên toàn cầu. Đây là chatbot do công ty OpenAI phát triển và ra mắt vào tháng 11 năm ngoái. Công cụ này đã thể hiện khả năng trả lời đầy đủ các câu hỏi từ đơn giản đến phức tạp trong nhiều lĩnh vực, sáng tác thơ, soạn thảo văn bản pháp lý, viết mã hay thiết kế.

Khả năng của ChatGPT đã khiến mọi người kinh ngạc đến mức một số thậm chí còn tuyên bố: “Google đã chết”. Trong khi đó, một số khác cho rằng sức ảnh hưởng của nó còn vượt xa sự sụp đổ của Google: Đe dọa nhiều công việc của con người.

Tờ Guardian nhận định “các giáo sư, lập trình viên và nhà báo đều có thể mất việc vào tay ChatGPT chỉ sau vài năm”. Tờ Information Age cũng đồng quan điểm và tờ Telegraph nhận định chatbot này có thể “làm việc tốt hơn bạn”.

Mặc dù vậy, một số người cho rằng ChatGPT vẫn tồn tại hạn chế và bác bỏ lo ngại rằng nó có thể thay thế sức lao động của con người.

Tác giả Jackson Ryan của CNET đã đưa ra ví dụ minh họa như sau: Tờ Information Age đã sử dụng ChatGPT để viết toàn bộ câu chuyện về nó và đăng thành phẩm kèm theo một đoạn giới thiệu ngắn.

Tác phẩm được đánh giá là đạt yêu cầu khi cung cấp thông tin tương đối đầy đủ nhưng khi “viết”, ChatGPT đã tạo ra các trích dẫn giả và gán chúng cho một nhà nghiên cứu của OpenAI là John Smith.

Điều này nhấn mạnh sự thất bại của một mô hình ngôn ngữ lớn như ChatGPT: Không biết cách tách biệt thực tế và hư cấu. Chatbot không thể được đào tạo để làm như vậy. Đó là một công cụ tổ chức từ, một AI được lập trình theo cách để viết các câu mạch lạc.

Đây là sự khác biệt quan trọng giữa chatbot và con người. Do đó, về cơ bản, điều này ngăn ChatGPT (hoặc mô hình ngôn ngữ lớn cơ bản được xây dựng trên GPT 3.5 của Open AI) làm công việc của một nhà báo như viết tin tức hay phát biểu, nhận xét về các vấn đề hiện tại. Theo Ryan, nói rằng ChatGPT có thể “cướp” việc của nhà báo là hạ thấp hoạt động báo chí.

ChatGPT sẽ không thể ra ngoài thế giới để nói chuyện, phỏng vấn, không thể đọc được cảm xúc trên gương mặt Kylian Mbappe khi anh vô địch World Cup năm 2018 và cũng chắc chắn không thể nhảy lên một con tàu đến Nam Cực và viết về những trải nghiệm của mình. ChatGPT cũng sẽ không bị bất ngờ hay sửng sốt về một câu nói của ai đó.

Với sự quan tâm của mọi người với ChatGPT, nó hoàn toàn xứng đáng được khen ngợi. Những cải tiến mà OpenAI đã thực hiện đối với sản phẩm cũng đáng được ghi nhận. Nhưng lý do chính khiến nó thực sự thu hút sự chú ý là vì nó rất dễ tiếp cận.

ChatGPT là AI thứ hai gây xôn xao trong thời gian qua. Tháng 11 năm ngoái, Meta (công ty mẹ của Facebook) đã thử nghiệm AI ngôn ngữ của riêng mình – Galactica. Giống như ChatGPT, đây là mô hình ngôn ngữ lớn và được thổi phồng về khả năng "tổ chức khoa học".

Về cơ bản, nó có thể tạo ra câu trả lời cho những câu hỏi như, "Lực hấp dẫn lượng tử là gì?" hoặc giải thích các phương trình toán học. Giống như ChatGPT, người dùng đặt câu hỏi và Galactica cung cấp câu trả lời.

Galactica được đào tạo dựa trên hơn 48 triệu bài báo khoa học và tóm tắt. Câu trả lời mà AI này đưa ra nghe có vẻ thuyết phục. Nhóm phát triển đã thổi phồng chatbot này như một cách để sắp xếp kiến thức, lưu ý rằng nó có thể tạo ra các bài báo khoa học và bài cung cấp thông tin trên Wikipedia.

Tuy nhiên vấn đề là nó cũng tạo ra văn bản vô nghĩa hay thêm thông tin sai lệch dù đã trích dẫn cả các tài liệu tham khảo về khoa học. Khối lượng lớn thôn tin sai lệch mà Galactica tạo ra đã khiến hàng loạt chuyên gia lên tiếng chỉ trích. Phản ứng dữ dội đã khiến dự án này bị Meta đóng cửa chỉ sau 2 ngày.

ChatGPT dường như không muốn đi vào vết xe đổ trước. Nó giống phiên bản thông minh hơn của Galactica, với bộ lọc mạnh hơn nhiều. Ví dụ, trong khi Galactica đưa ra cả câu trả lời về cách chế tạo bom, ChatGPT sẽ loại bỏ các yêu cầu mang tính phân biệt đối xử, xúc phạm hoặc không phù hợp. Nó cũng được đào tạo để có thể trò chuyện và thừa nhận những sai lầm của mình.

Đến nay, ChatGPT vẫn bị giới hạn giống tất cả các mô hình ngôn ngữ lớn khác. Mục đích của nó là xây dựng các câu, bài hát, đoạn văn hay bài tiểu luận bằng cách nghiên cứu hàng tỷ từ tồn tại trên Internet. Sau đó, nó đặt các từ đó lại với nhau, dự đoán cách tốt nhất để sắp xếp chúng.

Nhưng khi làm như vậy, ChatGPT cũng có thể viết ra những thứ vô nghĩa hay thêm thông tin không xác thực như Galactica.

Làm thế nào người dùng có thể học hỏi từ một AI có thể không cung cấp câu trả lời trung thực? Nó có thể thay thế những loại công việc nào? Và làm thế nào để biết AI không trung thực, đặc biệt khi nó đưa ra câu trả lời nghe có vẻ thuyết phục? Nhóm phát triển của OpenAI đã thừa nhận những thiếu sót của chatbot này và đây là những câu hỏi chưa được giải quyết, làm hạn chế khả năng của ChatGPT.

Do đó, ChatGPT rất thú vị và ngày càng thông minh nhưng ít nhất là trong ngắn hạn, nó mới dừng lại ở việc hỗ trợ chứ chưa thể khiến các giáo sư, nhà báo hay lập trình viên mất việc.

Nguồn: CNET