Nền kinh tế số 1 Đông Nam Á dọa cấm Grok và mạng xã hội X sau trào lưu ‘cởi đồ’, CEO Elon Musk lo mất gần 23 triệu người dùng
(Thị trường tài chính) - Tỷ phú Elon Musk cảnh báo bất kỳ ai sử dụng Grok để tạo ra nội dung bất hợp pháp sẽ phải chịu hậu quả giống như khi họ tự đăng tải nội dung phi pháp trong bối cảnh Indonesia có thể cấm chatbot AI này và nền tảng X hoạt động sau trào lưu “cởi đồ”.
Nhật báo Jakarta Globe đưa tin Indonesia - nền kinh tế lớn nhất Đông Nam Á đã đe dọa cấm chatbot AI Grok và nền tảng mạng xã hội X của vị Giám đốc điều hành (CEO) người Mỹ Elon Musk tại nước này sau khi hàng loạt nội dung deepfake không phù hợp tràn ngập trên nền tảng.
Deepfake là nội dung giả mạo được tạo bằng trí tuệ nhân tạo (AI), trong đó khuôn mặt, giọng nói hoặc cử chỉ của một người bị thay thế hoặc tái tạo rất giống thật, khiến người xem dễ tin đó là thật.
Chatbot ảo Grok đã phản hồi các yêu cầu của người dùng để tạo ra những hình ảnh khiêu dâm không có sự đồng thuận của phụ nữ và trẻ vị thành niên. Không chỉ người nổi tiếng, ngay cả những người bình thường đăng ảnh selfie vô hại trên mạng cũng không an toàn trước trào lưu “cởi đồ” này.
Nền tảng X - trang mạng xã hội trước đây có tên là Twitter, từng được tỷ phú giàu nhất thế giới Elon Musk mua vào tháng 10 năm 2022 với giá tới 44 tỷ USD hiện tràn ngập những hình ảnh gây phẫn nộ, làm dấy lên làn sóng phản đối từ đông đảo người dân Indonesia, trong đó có cả người nổi tiếng.
Bộ Truyền thông Indonesia đang kêu gọi tất cả công ty công nghệ tuân thủ các quy định pháp luật hiện hành, bao gồm lệnh cấm nội dung khiêu dâm của nước này. Cơ quan quản lý “xứ sở vạn đảo” thậm chí còn cảnh báo sẽ áp dụng “các biện pháp xử phạt hành chính và thậm chí cắt quyền truy cập vào Grok AI và X” nếu các công ty không chấp hành.
“Các nhà vận hành hệ thống điện tử phải bảo đảm rằng công nghệ mà họ cung cấp không biến thành nền tảng xâm phạm quyền riêng tư, bóc lột tình dục hoặc thậm chí làm tổn hại đến nhân phẩm của người khác”, quan chức cấp cao của Bộ Truyền thông Indonesia, ông Alexander Sabar phát biểu hôm 7/1.
Theo ông Alexander, các kết quả đánh giá ban đầu của Chính phủ cho thấy đến nay Grok “chưa có những quy định cụ thể có thể ngăn chặn công nghệ của mình tạo ra và phát tán nội dung sử dụng hình ảnh cá nhân”.
“Điều này tiềm ẩn nguy cơ xâm phạm nghiêm trọng quyền riêng tư và quyền đối với hình ảnh của công dân”, vị Bộ trưởng này nói.
Các công ty trí tuệ nhân tạo (AI) tạo sinh cũng như những cá nhân tạo ra và phát tán nội dung không phù hợp có thể phải đối mặt với các biện pháp xử phạt hành chính và thậm chí là hình sự. Theo bộ luật hình sự mới của Indonesia, việc sản xuất và phân phối tài liệu khiêu dâm có thể bị phạt tù lên tới 10 năm, kèm theo các khoản tiền phạt. Ông Alexander cũng kêu gọi các nạn nhân trình báo những hành vi phạm tội với cơ quan chức năng.
Ban quản lý nhóm nhạc nữ Indonesia JKT48 gần đây đã cảnh báo người hâm mộ và cộng đồng mạng rằng họ sẽ khởi kiện nếu phát hiện có người ra lệnh cho Grok “cởi đồ” các thành viên của mình.
Video chatbot AI Grok của Elon Musk trượt bài kiểm tra an toàn, tạo ra hình ảnh bikini không có sự đồng thuận của người dùng, gây ám ảnh, phản cảm và đầy tranh cãi - Nguồn clip: India Today
X - do công ty trí tuệ nhân tạo xAI của ông chủ Elon Musk phát triển đã cam kết sẽ hành động mạnh tay với các nội dung bất hợp pháp trên nền tảng này, bao gồm việc gỡ bỏ nội dung, đình chỉ vĩnh viễn các tài khoản vi phạm và hợp tác với Chính phủ các nước.
“Bất kỳ ai sử dụng Grok để tạo ra nội dung bất hợp pháp sẽ phải chịu hậu quả giống như khi họ tự đăng tải nội dung phi pháp”, Musk viết trong một phản hồi với người dùng X hôm 3/1.
Cổng nghiên cứu Statista cho biết X hiện có lượng người dùng lớn tại Indonesia, với tổng cộng 22,92 triệu người. Nếu nền tảng mạng xã hội này và chatbot AI Grok bị cấm tại “xứ sở vạn đảo”, đó sẽ là thiệt hại lớn với Elon Musk và ban quan trị.
Theo Jakarta Globe
