Theo Báo Tin Tức & Dân Tộc, ngày 26/1, Ủy ban châu Âu (EC) đã mở cuộc điều tra mới nhằm rà soát việc mạng xã hội X của tỷ phú Elon Musk thực hiện các nghĩa vụ theo Đạo luật Dịch vụ Kỹ thuật số (DSA), đặc biệt liên quan đến hệ thống đề xuất nội dung và công cụ trí tuệ nhân tạo (AI) Grok. Đây là bước tiếp theo và mở rộng của đợt kiểm tra bắt đầu từ tháng 12/2023 nhằm vào nền tảng này.
Cuộc điều tra tập trung làm rõ việc X đã nhận diện, đánh giá và giảm thiểu các rủi ro phát sinh từ Grok tại thị trường Liên minh châu Âu (EU) hay chưa, nhất là các nguy cơ phát tán nội dung bất hợp pháp, hình ảnh khiêu dâm dàn dựng (deepfake), trong đó có cả những trường hợp lạm dụng tình dục trẻ em. Những rủi ro này đã gây tổn hại đáng kể cho người dùng, khiến việc kiểm soát chặt chẽ trở thành yêu cầu cấp bách.
EC yêu cầu X thực hiện nghiêm các nghĩa vụ, bao gồm đánh giá và giảm thiểu rủi ro hệ thống, ngăn chặn nội dung bất hợp pháp, hạn chế tác động tiêu cực về bạo lực giới, cũng như các hệ lụy đối với sức khỏe thể chất và tâm thần của người dùng. Nền tảng cũng phải thực hiện báo cáo đánh giá rủi ro đột xuất trước khi triển khai bất kỳ tính năng nào của Grok có khả năng ảnh hưởng nghiêm trọng đến người dùng.
Bên cạnh đó, EC xem xét việc liệu X có kiểm soát các rủi ro liên quan đến thuật toán đề xuất nội dung, nhất là sau khi nền tảng này chuyển sang hệ thống dựa trên Grok. Nếu xác minh được sai phạm, X sẽ bị coi là vi phạm các Điều 34, 35 và 42 của DSA.
EU điều tra X của tỷ phú Elon Musk. Ảnh minh họa
Theo đánh giá của bà Henna Virkkunen, Phó Chủ tịch điều hành EC phụ trách chủ quyền công nghệ, an ninh và dân chủ, các hình ảnh giả mạo nhắm vào phụ nữ và trẻ em là hành vi hạ thấp nhân phẩm và có tính chất bạo lực. Qua cuộc điều tra này, EC sẽ làm rõ X đã thực hiện đúng nghĩa vụ pháp lý hay chưa, đồng thời xác định xem quyền lợi của người dùng, đặc biệt là phụ nữ và trẻ em, có được coi là ưu tiên hay không.
Trong những tuần gần đây, vụ bê bối liên quan tới Grok đã gây ra sự phẫn nộ trên toàn cầu.
Theo phân tích từ trang tin Bloomberg và các đơn vị nghiên cứu bên thứ ba, Grok - chatbot AI được tích hợp trực tiếp trên nền tảng X, đã trở thành một trung tâm sản xuất nội dung khiêu dâm AI với quy mô khổng lồ.
Nhà nghiên cứu công nghệ Genevieve Wu chỉ ra một con số gây sốc: Grok tạo ra trung bình khoảng 6.700 hình ảnh gợi dục hoặc khỏa thân mỗi giờ.
Để so sánh, các trang web chuyên về dịch vụ "cởi đồ" bằng AI lớn khác cũng chỉ tạo ra khoảng 79 hình ảnh trong cùng khoảng thời gian. Sự chênh lệch này cho thấy Grok đang hoạt động một cách không kiểm soát.
Bà Carrie Goldberg, một luật sư chuyên về tội phạm tình dục trực tuyến, cho biết sự lan tràn của nội dung deepfake trên nền tảng X là chưa từng có tiền lệ.
"Chúng tôi chưa từng thấy công nghệ nào tạo ra những hình ảnh kiểu này dễ dàng đến vậy, bởi vì Grok là phần mềm miễn phí và được liên kết trực tiếp với nền tảng”, bà chia sẻ.
Việc Grok tạo ra các hình ảnh nhạy cảm khiến nhiều người phẫn nộ. Ảnh minh họa
Các hãng truyền thông tại Ấn Độ đưa tin rằng các quan chức chính phủ nước này đang yêu cầu X nhanh chóng cung cấp chi tiết về các biện pháp mà công ty đang thực hiện để gỡ bỏ "nội dung khiêu dâm, khỏa thân, phản cảm và mang tính gợi dục" do Grok tạo ra mà không có sự đồng ý của những người xuất hiện trong ảnh.
Trong khi đó, văn phòng công tố viên tại Paris mở rộng cuộc điều tra đối với X, để bao gồm các cáo buộc mới rằng Grok đang bị sử dụng để tạo ra và phát tán nội dung khiêu dâm trẻ em.
Vào tháng 12, EU đã phạt X 120 triệu euro liên quan đến cuộc điều tra trước đó của DSA về các điều khoản minh bạch. Các cuộc điều tra khác vẫn đang tiếp diễn.
