Tweet
Anh em nào mê công nghệ chắc không lạ gì Grok, con chatbot xịn sò của xAI do chính "idol" Elon Musk sở hữu. Nhưng mới đây, Grok lại "gây bão" với một tính năng mới cực kỳ nhạy cảm, khiến cộng đồng mạng dậy sóng. Chuyện là, Grok vừa tung ra chế độ tạo video bằng trí tuệ nhân tạo, và nó có thể dễ dàng tạo ra các clip "nóng" của người nổi tiếng, mà điển hình là cô nàng Taylor Swift. Đây không chỉ là một cú "vấp" cực lớn của xAI mà còn tiềm ẩn nhiều rủi ro pháp lý "khủng khiếp". 
🔥 Chế độ "nóng bỏng" - "Chìa khóa" mở ra tai ương
Khi các đối thủ lớn như Google với Veo hay OpenAI với Sora đều siết chặt kiểm duyệt để đảm bảo an toàn, thì Grok Imagine lại "vô tư" cho phép người dùng tạo ra những video khiêu dâm và deepfake người nổi tiếng. Cụ thể, trên iOS, tính năng này có bốn chế độ: "Tùy chỉnh", "Bình thường", "Vui nhộn" và "Nóng bỏng". Chỉ cần chọn chế độ "Nóng bỏng," Grok có thể biến một bức ảnh của Taylor Swift thành một clip "nóng" trong vòng vài nốt nhạc.
Trong một thử nghiệm "nghiêm túc" của tờ The Verge, dù người dùng không hề yêu cầu, Grok vẫn tự động tạo ra những hình ảnh Taylor Swift trong trang phục "thiếu vải." Khi yêu cầu tạo hình ảnh Taylor Swift ăn mừng tại Coachella, Grok đã cung cấp hơn 30 bức ảnh, nhiều bức trong số đó cực kỳ nhạy cảm.
⚠️ Bất cẩn "chết người" và lỗ hổng bảo mật "đáng báo động"
Điều đáng sợ là chỉ cần vài thao tác đơn giản, Grok có thể biến một bức ảnh có sẵn của Taylor Swift thành video khiêu dâm. Thử nghiệm cho thấy, khi chuyển sang chế độ "nóng bỏng," dù không phải lúc nào nhân vật cũng "thoát y" hoàn toàn, nhưng trong nhiều trường hợp, cô nàng vẫn tự động nhảy múa trong trang phục nội y. Mặc dù hình ảnh chưa hoàn toàn chân thực, nhưng vẫn đủ để nhận diện.
Hệ thống kiểm tra tuổi của Grok cũng lỏng lẻo đến mức đáng báo động, chỉ xuất hiện một lần và có thể dễ dàng vượt qua. Điều này đồng nghĩa với việc, chỉ cần một chiếc iPhone và 30 đô la để đăng ký SuperGrok, bất cứ ai cũng có thể tạo ra những video tương tự. Hậu quả là kể từ đầu tuần, đã có hơn 34 triệu hình ảnh được tạo ra bằng Grok Imagine, cho thấy mức độ sử dụng đang tăng nhanh đến chóng mặt.
⚖️ Hậu quả pháp lý và lời cảnh báo "đắt giá"
Grok của xAI ra đời trong bối cảnh các quy định pháp lý về nội dung khiêu dâm liên quan đến người nổi tiếng đang được thắt chặt. Bản thân xAI cũng từng vướng vào lùm xùm về deepfake Taylor Swift. Vậy mà Grok Imagine lại không có bất kỳ biện pháp nào để ngăn chặn người dùng sử dụng hình ảnh người nổi tiếng. Hậu quả là hệ thống đã tạo ra các video khiêu dâm một cách "vô tội vạ," vi phạm chính sách sử dụng của chính công ty. Điều này cho thấy sự thiếu trách nhiệm và lơ là trong việc kiểm duyệt của xAI, có thể dẫn đến những hệ lụy pháp lý nghiêm trọng và gây ra những tổn thương không thể xóa nhòa cho người nổi tiếng.
Grok của Elon Musk đang chơi một canh bạc nguy hiểm, tạo ra một công cụ có khả năng gây hại lớn, vi phạm đạo đức và pháp luật. Đây là một hồi chuông cảnh tỉnh cho các công ty công nghệ về trách nhiệm của mình! 🔔
🔥 Chế độ "nóng bỏng" - "Chìa khóa" mở ra tai ương
Khi các đối thủ lớn như Google với Veo hay OpenAI với Sora đều siết chặt kiểm duyệt để đảm bảo an toàn, thì Grok Imagine lại "vô tư" cho phép người dùng tạo ra những video khiêu dâm và deepfake người nổi tiếng. Cụ thể, trên iOS, tính năng này có bốn chế độ: "Tùy chỉnh", "Bình thường", "Vui nhộn" và "Nóng bỏng". Chỉ cần chọn chế độ "Nóng bỏng," Grok có thể biến một bức ảnh của Taylor Swift thành một clip "nóng" trong vòng vài nốt nhạc.
Trong một thử nghiệm "nghiêm túc" của tờ The Verge, dù người dùng không hề yêu cầu, Grok vẫn tự động tạo ra những hình ảnh Taylor Swift trong trang phục "thiếu vải." Khi yêu cầu tạo hình ảnh Taylor Swift ăn mừng tại Coachella, Grok đã cung cấp hơn 30 bức ảnh, nhiều bức trong số đó cực kỳ nhạy cảm.
⚠️ Bất cẩn "chết người" và lỗ hổng bảo mật "đáng báo động"
Điều đáng sợ là chỉ cần vài thao tác đơn giản, Grok có thể biến một bức ảnh có sẵn của Taylor Swift thành video khiêu dâm. Thử nghiệm cho thấy, khi chuyển sang chế độ "nóng bỏng," dù không phải lúc nào nhân vật cũng "thoát y" hoàn toàn, nhưng trong nhiều trường hợp, cô nàng vẫn tự động nhảy múa trong trang phục nội y. Mặc dù hình ảnh chưa hoàn toàn chân thực, nhưng vẫn đủ để nhận diện.
Hệ thống kiểm tra tuổi của Grok cũng lỏng lẻo đến mức đáng báo động, chỉ xuất hiện một lần và có thể dễ dàng vượt qua. Điều này đồng nghĩa với việc, chỉ cần một chiếc iPhone và 30 đô la để đăng ký SuperGrok, bất cứ ai cũng có thể tạo ra những video tương tự. Hậu quả là kể từ đầu tuần, đã có hơn 34 triệu hình ảnh được tạo ra bằng Grok Imagine, cho thấy mức độ sử dụng đang tăng nhanh đến chóng mặt.
⚖️ Hậu quả pháp lý và lời cảnh báo "đắt giá"
Grok của xAI ra đời trong bối cảnh các quy định pháp lý về nội dung khiêu dâm liên quan đến người nổi tiếng đang được thắt chặt. Bản thân xAI cũng từng vướng vào lùm xùm về deepfake Taylor Swift. Vậy mà Grok Imagine lại không có bất kỳ biện pháp nào để ngăn chặn người dùng sử dụng hình ảnh người nổi tiếng. Hậu quả là hệ thống đã tạo ra các video khiêu dâm một cách "vô tội vạ," vi phạm chính sách sử dụng của chính công ty. Điều này cho thấy sự thiếu trách nhiệm và lơ là trong việc kiểm duyệt của xAI, có thể dẫn đến những hệ lụy pháp lý nghiêm trọng và gây ra những tổn thương không thể xóa nhòa cho người nổi tiếng.
Grok của Elon Musk đang chơi một canh bạc nguy hiểm, tạo ra một công cụ có khả năng gây hại lớn, vi phạm đạo đức và pháp luật. Đây là một hồi chuông cảnh tỉnh cho các công ty công nghệ về trách nhiệm của mình! 🔔
danchoi04