Malaysia và Indonesia đã chặn Grok do tạo nội dung khiêu dâm trẻ em - ForkLog: tiền điện tử, AI, siêu trí tuệ, tương lai

# Malaysia và Indonesia đã chặn Grok do tạo nội dung khiêu dâm trẻ em

Malaysia và Indonesia đã chặn truy cập vào chatbot Grok của Elon Musk do lo ngại về việc sử dụng công cụ để tạo nội dung tình dục.

Ngày 11 tháng 1, cơ quan quản lý Malaysia đã ra lệnh tạm thời hạn chế sau nhiều lần thất bại của X Corp trong việc giảm thiểu rủi ro liên quan đến dịch vụ AI.

Một ngày trước đó, Indonesia đã tạm dừng truy cập vào chatbot do những lo ngại tương tự và đã triệu tập đại diện công ty để thảo luận về vấn đề này.

Phản ứng cứng rắn của các quốc gia Đông Nam Á theo sau các báo cáo cho rằng Grok cho phép tạo ra các tài liệu có liên quan đến trẻ vị thành niên và tạo ra hình ảnh khiêu dâm.

X tuyên bố rằng công ty đang khắc phục vấn đề. Như một biện pháp tạm thời, chức năng tạo và chỉnh sửa hình ảnh chỉ còn khả dụng cho người đăng ký trả phí.

Gần đây, Elon Musk đã cập nhật các chức năng của Grok Imagine, đơn giản hóa việc tạo hình ảnh bằng cách sử dụng prompts trong chatbot. Doanh nhân này cũng đã đe dọa trách nhiệm đối với những ai sử dụng mạng neural cho mục đích bất hợp pháp.

Ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả như khi họ tải lên nội dung trái phép

— Elon Musk (@elonmusk) 3 tháng 1, 2026

Những biện pháp này chưa đủ

Các cơ quan quản lý Malaysia và Indonesia không hài lòng với các biện pháp đã thực hiện.

Ủy ban Truyền thông và Đa phương tiện Malaysia cho biết, các hành động này “không tính đến các rủi ro liên quan đến thiết kế và hoạt động của công cụ AI”.

“Việc hạn chế này được đưa ra như một biện pháp phòng ngừa và phù hợp trong thời gian tiến hành các thủ tục pháp lý và quy định. Truy cập vào Grok sẽ vẫn bị hạn chế cho đến khi có các biện pháp bảo vệ hiệu quả, đặc biệt là để ngăn chặn nội dung liên quan đến phụ nữ và trẻ em”, cơ quan quản lý cho biết.

Ở Malaysia và Indonesia, có các luật nghiêm ngặt chống lại nội dung khiêu dâm, cấm phổ biến rộng rãi nội dung này trên internet.

Bộ trưởng Truyền thông và Công nghệ số Indonesia, Metyia Hafid, cho biết chính phủ xem các hình ảnh giả mạo tình dục không có sự đồng ý là vi phạm nghiêm trọng quyền con người, phẩm giá và an ninh của công dân trong không gian số.

Bà coi việc sử dụng AI để tạo ra nội dung giả mạo khiêu dâm là một dạng “bạo lực kỹ thuật số”.

Hậu quả quy mô lớn

Các cơ quan quản lý EU, Vương quốc Anh, Brazil và Ấn Độ yêu cầu điều tra vai trò của Grok trong việc phát tán các hình ảnh giả mạo.

Tổ chức Internet Watch Foundation của Anh cho biết các nhà phân tích của họ đã phát hiện ra “hình ảnh tội phạm” của trẻ em từ 11 đến 13 tuổi, được cho là tạo ra bằng Grok.

Ở London, các biện pháp cứng rắn đã được đề xuất: Bộ trưởng Công nghệ Liz Kendall xác nhận sẽ ủng hộ quyết định chặn X nếu nền tảng này không tuân thủ các tiêu chuẩn an toàn. Các nhà lập pháp Mỹ cũng đề xuất các thị trường trực tuyến xóa bỏ ứng dụng cho đến khi vấn đề được giải quyết.

Các chính phủ các nước đang gấp rút tìm cách điều chỉnh AI, vốn được sử dụng để “lột đồ” người trong ảnh.

Không phải là vụ bê bối đầu tiên

Trước đó, Grok nhiều lần bị chỉ trích về việc phát tán tin giả và thông tin gây tranh cãi.

Tháng 12, chatbot cung cấp thông tin sai lệch về vụ xả súng hàng loạt tại bãi biển Bondi, Úc. Khi được hỏi về video ghi lại cảnh một người qua đường tên Ahmed Al-Ahmad chiến đấu với tay súng, AI trả lời như sau:

“Có vẻ như đây là một đoạn video lan truyền cũ, trong đó một người đàn ông trèo lên cây cọ trong bãi đậu xe, có thể để cắt tỉa nó. Sau đó, nhánh cây rơi xuống xe bị hư hỏng. Tìm kiếm qua các nguồn khác không cho thấy thông tin xác thực về địa điểm, ngày tháng và chấn thương. Có thể đây là một cảnh giả, tính xác thực chưa được xác nhận”.

Tháng 7, người dùng nhận thấy rằng mạng neural dựa trên ý kiến của Elon Musk khi đưa ra câu trả lời. Điều này bao gồm cả các chủ đề như xung đột giữa Israel và Palestine, phá thai và luật nhập cư.

Các quan sát này cho thấy chatbot có thể đã được thiết lập đặc biệt để xem xét các quan điểm chính trị của Musk khi trả lời các câu hỏi gây tranh cãi.

Trước đó, tỷ phú này tuyên bố rằng startup của ông sẽ viết lại “toàn bộ kiến thức nhân loại” để đào tạo phiên bản mới của Grok, vì hiện tại “quá nhiều rác rưởi trong bất kỳ mô hình cơ bản nào được đào tạo trên dữ liệu không chính xác”.

Sau đó, Grokipedia ra đời — một bách khoa toàn thư trực tuyến dựa trên trí tuệ nhân tạo, “hướng tới sự thật”.

Nhắc lại, vào tháng 11, người dùng đã chú ý đến thành kiến của Grok 4.1 — mô hình mới đã phóng đại khả năng của Elon Musk một cách đáng kể.