Trung Quốc lần đầu siết AI "có cảm xúc": Cấm bạn trai, bạn gái ảo cho trẻ em, ByteDance và Alibaba lập tức gỡ tính năng

Chỉ trong vài năm, AI đã đi từ một công cụ trả lời câu hỏi sang những "người bạn" biết lắng nghe, an ủi, trò chuyện và thậm chí xây dựng các mối quan hệ tình cảm với con người. Nhưng chính khả năng mô phỏng cảm xúc ngày càng chân thực đó đang khiến các nhà quản lý lo ngại. Tại Trung Quốc, nỗi lo này đã dẫn tới một động thái chưa từng có tiền lệ.

Từ ngày 15/7, Trung Quốc chính thức đưa vào thực thi bộ quy định đầu tiên trên thế giới dành riêng cho các dịch vụ AI tương tác nhân cách hóa (anthropomorphic AI). Thay vì quản lý AI như một công nghệ chung, quy định mới nhắm trực tiếp đến những chatbot được thiết kế để đóng vai người yêu, bạn thân, thành viên gia đình hoặc các nhân vật có tính cách riêng nhằm tạo kết nối cảm xúc với người dùng.

Đáng chú ý nhất là lệnh cấm các nền tảng cung cấp dịch vụ "bạn đồng hành ảo" cho người chưa thành niên. Theo quy định mới, trẻ em và thanh thiếu niên sẽ không được phép sử dụng các AI được xây dựng như bạn trai, bạn gái hay những mối quan hệ thân mật có khả năng tạo ra sự gắn bó về mặt cảm xúc.

Đây được xem là bước đi tiếp theo trong chiến lược bảo vệ thanh thiếu niên trên môi trường số của Bắc Kinh, sau các quy định trước đây về giới hạn thời gian chơi game, livestream hay sử dụng mạng xã hội.

Kiểm soát AI nhân cách hóa

Không chỉ dừng ở việc cấm AI đồng hành cho trẻ vị thành niên, bộ quy định còn yêu cầu các nền tảng phải thiết lập hàng loạt cơ chế kiểm soát mới đối với AI nhân cách hóa. Các chatbot phải thông báo rõ ràng cho người dùng rằng họ đang tương tác với trí tuệ nhân tạo thay vì con người thật. Doanh nghiệp cũng phải xây dựng hệ thống phát hiện người dùng có dấu hiệu phụ thuộc quá mức vào AI, hạn chế thiết kế các kịch bản khiến AI trở thành sự thay thế cho các mối quan hệ ngoài đời thực và có cơ chế can thiệp nếu phát hiện nội dung liên quan đến tự làm hại bản thân hoặc khủng hoảng tâm lý.

Những yêu cầu này phản ánh một thay đổi đáng chú ý trong cách Trung Quốc nhìn nhận AI. Nếu các quy định trước đây chủ yếu tập trung vào nội dung do AI tạo ra, dữ liệu hay thuật toán, thì lần này trọng tâm đã chuyển sang tác động tâm lý và hành vi của người dùng khi tương tác với AI.

Sự thay đổi diễn ra rất nhanh. Ngay trong ngày quy định có hiệu lực, hai trong số những nền tảng AI lớn nhất Trung Quốc là Doubao của ByteDance và Qianwen (Qwen) của Alibaba đã đồng loạt gỡ hoặc vô hiệu hóa các tính năng AI đồng hành và AI nhân vật để đáp ứng yêu cầu mới. Các chatbot phục vụ mục đích hỗ trợ công việc, học tập hay tìm kiếm thông tin vẫn hoạt động bình thường, nhưng những tính năng được thiết kế để xây dựng mối quan hệ tình cảm hoặc nhập vai với người dùng đã bị hạn chế đáng kể.

Động thái này cho thấy các doanh nghiệp AI Trung Quốc gần như không có khoảng thời gian chuyển tiếp. Thay vì chờ hướng dẫn bổ sung, các nền tảng đã lựa chọn điều chỉnh sản phẩm ngay lập tức nhằm tránh rủi ro pháp lý.

Việc Trung Quốc phải xây dựng một bộ quy định riêng cho AI nhân cách hóa cũng phản ánh tốc độ phát triển của thị trường AI đồng hành. Trong hai năm qua, hàng loạt ứng dụng tại Trung Quốc đã thu hút hàng triệu người dùng bằng những chatbot có thể trò chuyện như người thật, ghi nhớ sở thích, duy trì tính cách ổn định qua nhiều cuộc hội thoại và tạo cảm giác về một mối quan hệ lâu dài. Một số nền tảng thậm chí còn cho phép người dùng tự thiết kế bạn trai hoặc bạn gái AI với ngoại hình, giọng nói và cá tính theo ý muốn.

Sự bùng nổ này không chỉ diễn ra tại Trung Quốc mà còn là xu hướng toàn cầu. Các ứng dụng như Character.AI, Replika hay nhiều chatbot AI khác đã chứng minh rằng người dùng ngày càng dành nhiều thời gian để trò chuyện với AI không phải vì năng suất, mà vì nhu cầu kết nối cảm xúc. Điều này cũng làm dấy lên những tranh luận về nguy cơ cô lập xã hội, phụ thuộc tâm lý và khả năng AI tác động đến hành vi của người dùng, đặc biệt là trẻ em và thanh thiếu niên.

Trong bối cảnh nhiều quốc gia vẫn đang tập trung xây dựng các quy định chung về AI, Trung Quốc đã chọn một hướng tiếp cận cụ thể hơn: quản lý trực tiếp mối quan hệ giữa con người và AI. Đây có thể là dấu hiệu cho thấy cuộc tranh luận về AI trong những năm tới sẽ không còn xoay quanh việc chatbot trả lời đúng hay sai, mà là liệu những "người bạn" kỹ thuật số ngày càng giống con người có nên được phép bước quá sâu vào đời sống tình cảm của người sử dụng hay không./