Chuyên gia kêu gọi YouTube cấm triệt để video rác AI với trẻ nhỏ

Hơn 200 chuyên gia và tổ chức giáo dục yêu cầu Google cấm hiển thị hoặc đề xuất các video tạo bằng AI trên YouTube và YouTube Kids với khán giả nhỏ tuổi.

Ngày 1/4, hơn 200 chuyên gia về trẻ em, các nhóm vận động và trường học đã gửi thư tới CEO Google Sundar Pichai và CEO YouTube Neal Mohan, bày tỏ lo ngại về việc thiếu nội dung thực chất trong nhiều video YouTube do AI tạo ra nhưng lại được gắn mác giáo dục.

Trong thư, các nhà vận động cũng chỉ trích chất lượng kém của các nội dung dành cho trẻ em đang được sản xuất hàng loạt bằng các công cụ AI. Họ lên án sự gia tăng của các nhà sáng tạo trên nền tảng sử dụng AI để làm video nhằm trục lợi từ những khán giả nhỏ tuổi và dễ bị ảnh hưởng nhất thế giới.

Các chuyên gia về trẻ em lo ngại nội dung kém chất lượng do AI tạo ra gây ảnh hưởng xấu đến khán giả nhí. Ảnh: Bloomberg

Các nhà vận động an toàn trẻ em lo ngại nội dung do AI tạo ra (một số được gọi là “rác AI”) làm suy giảm khoảng thời gian tập trung của trẻ và khả năng phân biệt giữa thực tế với hư cấu. Họ cũng lập luận thời gian dán mắt vào màn hình đang thay thế các hoạt động trong thế giới thực, vốn là chìa khóa cho sự phát triển cảm xúc và xã hội của trẻ nhỏ.

“Có rất nhiều điều chúng ta chưa biết về hậu quả của nội dung AI đối với trẻ em”, nhóm chuyên gia viết.

Bức thư được ký bởi nhà tâm lý học xã hội Jonathan Haidt, tác giả cuốn sách “Thế hệ lo âu”, người khởi xướng phong trào toàn cầu chống lại tác hại của mạng xã hội và điện thoại thông minh đối với giới trẻ.

Các nhóm vận động vì trẻ em như Fairplay và Liên minh Quốc gia Thúc đẩy Sức khỏe Thanh thiếu niên, cùng Liên đoàn Giáo viên Mỹ và một số trường học cũng tham gia ký tên.

Phản hồi hãng tin Bloomberg qua email, người phát ngôn của YouTube Boot Bullwinkle khẳng định nền tảng “có tiêu chuẩn cao cho nội dung trên YouTube Kids, bao gồm việc giới hạn nội dung do AI tạo ra trong ứng dụng ở một nhóm nhỏ các kênh chất lượng cao".

Ông cho biết thêm phụ huynh cũng có tùy chọn chặn các kênh. "Trên toàn bộ YouTube, chúng tôi ưu tiên tính minh bạch đối với nội dung AI, dán nhãn nội dung từ các công cụ AI của chính mình và yêu cầu nhà sáng tạo tiết lộ các nội dung AI siêu thực. Chúng tôi luôn cải tiến phương pháp tiếp cận để cập nhật kịp thời khi hệ sinh thái thay đổi".

Các video do AI tạo ra ngày càng trở nên phổ biến trên YouTube, đặc biệt là những video nhắm đến trẻ mới biết đi và trẻ nhỏ. Một số nhà sáng tạo nhận thấy việc giao phó công việc đó cho hệ thống AI giúp tiết kiệm chi phí và công sức hơn nhiều. Họ thậm chí còn bắt đầu chia sẻ video hướng dẫn cách làm ăn dựa trên sản xuất video cho trẻ sơ sinh.

Về vấn đề này, Bullwinkle nói việc sản xuất hàng loạt nội dung chất lượng thấp không phải là một chiến lược kinh doanh khả thi trên YouTube vì hệ thống và chính sách kiếm tiền của hãng được thiết kế để trừng phạt loại này.

Vào tháng 1, ông Mohan từng tuyên bố việc quản lý “rác AI” và đảm bảo YouTube vẫn là nơi mọi người cảm thấy thoải mái khi dành thời gian là ưu tiên hàng đầu trong năm 2026. Tuy nhiên, YouTube cũng lập luận không phải mọi nội dung làm bằng AI đều là “rác” và nếu được thực hiện đúng cách, việc sáng tạo bằng AI thậm chí có thể mang lại những điều tích cực.

YouTube yêu cầu các nhà sáng tạo dán nhãn nội dung bị thay đổi hoặc tạo ra bằng AI. Tuy nhiên, các nhà vận động nêu trong thư rằng rất khó để những đứa trẻ chưa biết đọc hiểu những nhãn dán như vậy.

Bức thư hôm 1/4 xuất hiện vào thời điểm YouTube chịu sức ép lớn về cách thức hoạt động. Cuối tháng 3, một phiên tòa tại Mỹ phán Google và Meta phải chịu trách nhiệm vì gây tổn hại cho một người dùng trẻ tuổi bằng các sản phẩm được thiết kế “gây nghiện”.

Cả hai công ty cho biết sẽ kháng cáo, song các nguyên đơn, những người ủng hộ người tiêu dùng và các nhà lập pháp hiện đang thúc ép các hãng thay đổi một số tính năng, bao gồm các thuật toán nội dung.

Theo vietnamnet.vn