Vụ kiện chấn động: Người đàn ông dùng Grok tạo hàng nghìn ảnh khiêu dâm con riêng của vợ rồi tự sát, X bị tố “bảo kê” kẻ ấu dâm

Một vụ kiện gây chấn động vừa được đệ trình nhắm vào nền tảng X (trước đây là Twitter) và công ty AI xAI của Elon Musk, liên quan đến việc chatbot Grok bị lợi dụng để tạo ra hình ảnh lạm dụng tình dục trẻ em (CSAM – Child Sexual Abuse Material). Theo đơn kiện, một người đàn ông đã sử dụng công cụ tạo ảnh AI Grok để tạo ra khoảng 7.000 hình ảnh khiêu dâm giả mạo con riêng của vợ mình. Sau khi sự việc bị phát hiện, người này đã tự bắn mình.

Làn sóng kiện tụng ngày càng lan rộng

Đây không phải là vụ kiện đơn lẻ. Ngày càng nhiều bé gái vị thành niên và gia đình các em đã đứng ra kiện X, cáo buộc nền tảng này đã để công cụ AI Grok bị lạm dụng nhằm tạo ra nội dung khiêu dâm trẻ em nhắm vào chính họ. Các đơn kiện cho rằng X không chỉ thất bại trong việc ngăn chặn, mà thậm chí còn bị cáo buộc “che chắn” hoặc bảo vệ những kẻ có hành vi lạm dụng trẻ em trên nền tảng của mình.

Grok là chatbot AI được phát triển bởi xAI – công ty trí tuệ nhân tạo do Elon Musk sáng lập, được tích hợp trực tiếp vào nền tảng mạng xã hội X. Công cụ này có khả năng tạo ảnh từ văn bản (text-to-image), một tính năng vốn được quảng bá là đột phá về công nghệ nhưng giờ đây đang trở thành tâm điểm của làn sóng chỉ trích vì nguy cơ bị lạm dụng để tạo nội dung bất hợp pháp.

Trách nhiệm của các nền tảng AI ở đâu?

Vụ việc đặt ra câu hỏi lớn về trách nhiệm pháp lý và đạo đức của các công ty công nghệ khi triển khai công cụ AI tạo sinh (generative AI) mà không có đủ lớp bảo vệ để ngăn chặn việc bị lạm dụng cho mục đích tạo ra nội dung lạm dụng tình dục trẻ em. Việc một công cụ AI phổ biến như Grok có thể bị biến thành phương tiện tạo ra hàng nghìn hình ảnh CSAM nhắm vào một cá nhân cụ thể cho thấy lỗ hổng nghiêm trọng trong hệ thống kiểm duyệt và các bộ lọc an toàn (safety filters) của nền tảng.

Đối với người dùng Việt Nam, đây là lời cảnh báo rõ ràng về mặt tối của công nghệ AI tạo ảnh khi thiếu kiểm soát chặt chẽ. Trong bối cảnh các công cụ AI tạo sinh ngày càng phổ biến và dễ tiếp cận, vụ việc cho thấy sự cấp thiết của việc xây dựng khung pháp lý rõ ràng để buộc các công ty công nghệ chịu trách nhiệm khi sản phẩm của họ bị lạm dụng gây hại cho trẻ em, thay vì chỉ tập trung vào tốc độ ra mắt tính năng mới.

Vụ kiện đang tiếp tục được xử lý và có thể tạo tiền lệ quan trọng cho cách các tòa án nhìn nhận trách nhiệm của nền tảng mạng xã hội và công ty AI trong các vụ việc liên quan đến nội dung lạm dụng trẻ em do AI tạo ra.

Nguồn tham khảo: AI – Ars Technica — Biên tập bởi Cà Phê AI.