Làn sóng nội dung rác do AI tạo ra đang len lỏi vào video cho trẻ em, gây lo ngại về chất lượng và tác động tiêu cực lên trẻ dưới hai tuổi.

Trong khi internet ngày càng bị bao phủ bởi nội dung rác do trí tuệ nhân tạo tạo ra, một xu hướng đáng lo ngại hơn đang xuất hiện.

Trong đó, trẻ nhỏ, thậm chí trẻ dưới hai tuổi, đang trở thành đối tượng tiếp xúc trực tiếp với những nội dung do AI sản xuất hàng loạt, thiếu tính giáo dục và có thể gây hại.

Theo Bloomberg, một làn sóng video “AI slop” (thuật ngữ chỉ nội dung số chất lượng thấp) bị sản xuất đại trà và gần như không có giá trị, đang ngày một lan rộng trên YouTube và thu hút lượng xem lớn từ nhóm trẻ mới biết đi dưới hai tuổi.

AI slop không chỉ dừng lại ở các video hoạt hình sơ sài, lặp đi lặp lại mà còn bao gồm hình ảnh, video được tạo hoặc chỉnh sửa bằng công cụ AI, kèm giọng đọc máy tính nghe có vẻ “giáo dục” nhưng thực chất không mang giá trị thực tế.

Điều này đặc biệt đáng báo động khi nhiều phụ huynh vẫn để trẻ nhỏ tiếp cận YouTube dù nền tảng YouTube Kids được thiết kế cho trẻ từ 2 đến 12 tuổi.

YouTube Kids bị lạm dụng bởi không ít video AI chất lượng thấp, khiến trẻ em tiếp xúc nội dung không phù hợp. Đồ họa: Cát Tiên

Một nghiên cứu của Trung tâm Pew cho thấy hơn 60% phụ huynh có con dưới hai tuổi thừa nhận con họ xem YouTube thường xuyên.

Dù chưa có thống kê rõ ràng về mức độ video AI chiếm ưu thế trên YouTube Kids, các nhà sáng tạo nội dung dường như đã nhanh chóng tận dụng lỗ hổng này để đăng tải video rác do AI tạo ra.

Một số kênh có tới hàng triệu lượt theo dõi công khai hướng dẫn cách tạo video AI chất lượng thấp nhưng vẫn thu hút người xem và vô tình trở thành nội dung mà trẻ nhỏ tiếp xúc hằng ngày.

Tâm lý học phát triển cũng cảnh báo nguy cơ khi Michael Robb, chuyên gia được Bloomberg trích dẫn, cho rằng AI đang trao cho những nhà sáng tạo công cụ sản xuất vô hạn video kém chất lượng, được ngụy trang thành nội dung giáo dục cho trẻ em.

Mặc dù YouTube đã triển khai một số biện pháp để hạn chế video AI bị lạm dụng, nhiều nội dung vẫn lọt qua hệ thống giám sát, tồn tại công khai và thu hút hàng trăm nghìn lượt xem từ trẻ nhỏ.

Trong bối cảnh AI phát triển quá nhanh và quy định chưa theo kịp, các chuyên gia nhận định phụ huynh cần giám sát chặt chẽ nội dung trẻ xem, đặc biệt khi các công cụ AI đang bị sử dụng như một “nhà máy” sản xuất nội dung rác không giới hạn.

https://laodong.vn/cong-nghe/video-rac-do-ai-tao-tran-vao-noi-dung-tre-em-tren-youtube-1621546.ldo

_____

Nếu phát hiện hoặc chứng kiến ​​hành động bạo lực, xâm hại trẻ em hoặc lao động trẻ em, xin đừng thờ ơ. Bạn hãy:

- Gọi điện đến Tổng đài điện thoại Bảo vệ Trẻ em 111
- Báo cáo qua ứng dụng của Tổng đài 111

- Liên hệ các tài khoản chính thức của Tổng đài 111:
+ Facebook: Tổng Đài điện thoại Quốc gia Bảo vệ Trẻ em
+ Zalo: Tổng đài 111
+ Website Tổng đài 111: Tongdai111.vn
+ Tiktok: Tổng đài 111 
+ Youtube: Tổng đài 111

Tổng đài hoạt động 24/7 và hoàn toàn miễn phí.