Tỉnh táo trước những sản phẩm AI lan truyền trên mạng xã hội

Sự phát triển mạnh mẽ của trí tuệ nhân tạo (AI) mang đến nhiều tiện ích trong học tập, lao động và sáng tạo nội dung. Tuy nhiên, cùng với đó là hàng loạt hình ảnh, video, giọng nói và các sản phẩm giả mạo do AI tạo ra đang lan truyền mạnh trên mạng xã hội. Nếu không được nhận diện và sử dụng đúng cách, những sản phẩm này có thể gây hiểu nhầm, phát tán thông tin sai sự thật, bị lợi dụng để mạo danh, lừa đảo, ảnh hưởng đến quyền, lợi ích hợp pháp của tổ chức, cá nhân và gây mất an ninh trật tự trên không gian mạng.

Thời gian gần đây, trào lưu tạo hình ảnh mang dòng chữ “Tôi là Trưởng thôn”, “Ứng cử Trưởng thôn” xuất hiện trên nhiều nền tảng mạng xã hội, thu hút đông đảo người dùng tham gia. Chỉ với vài thao tác trên các ứng dụng AI, người dùng có thể tạo ra những hình ảnh có hình thức giống các thông báo chính thức. Mặc dù phần lớn được tạo ra nhằm mục đích giải trí, nhưng nếu chia sẻ thiếu kiểm chứng hoặc sử dụng sai mục đích, những nội dung này dễ gây hiểu nhầm, tác động đến nhận thức của cộng đồng.

Công an xã Sơn Đông xác minh thông tin và xây dựng kế hoạch tuyên truyền, cảnh báo đến Nhân dân về trào lưu sử dụng AI trên mạng xã hội.

Trước sự xuất hiện của các sản phẩm AI lan truyền trên mạng xã hội, trong đó có trào lưu “Tôi là Trưởng thôn”, Công an xã Sơn Đông đã chủ động đăng tải thông tin cảnh báo trên trang thông tin chính thức của đơn vị, giúp người dân nhận diện đây là những hình ảnh được tạo bằng AI. Đồng thời, khuyến cáo không chia sẻ, phát tán những nội dung chưa được kiểm chứng hoặc có khả năng gây hiểu nhầm về hoạt động của chính quyền địa phương.

Trung tá Nguyễn Vĩnh Phú Hưng - Phó Trưởng Công an xã Sơn Đông cho biết, qua công tác nắm tình hình, đa số người dân tham gia trào lưu với mục đích giải trí. Tuy nhiên, nếu sử dụng AI để tạo dựng hình ảnh, thông tin liên quan đến người khác khi chưa được sự đồng ý hoặc giả mạo thông tin thì có thể bị xử lý theo quy định của pháp luật.

Tổ An ninh, Công an xã Sơn Đông hướng dẫn người dân tham gia mạng xã hội văn minh, an toàn.

Cùng với công tác tuyên truyền trên không gian mạng, Công an xã Sơn Đông phân công cán bộ bám sát địa bàn, trực tiếp tuyên truyền, nhắc nhở người dân, đặc biệt là thanh thiếu niên - nhóm thường xuyên sử dụng mạng xã hội nâng cao ý thức khi tiếp cận, đăng tải và chia sẻ thông tin trên môi trường số.

Chị Phạm Thị Hạnh, người dân xã Sơn Đông chia sẻ: Khi mới thấy nhiều người đăng tải hình ảnh “Tôi là Trưởng thôn” trên Facebook, tôi từng nghĩ đó là thông tin thật. Sau khi được lực lượng Công an tuyên truyền, tôi hiểu rằng mọi thông tin trên mạng xã hội đều cần được kiểm chứng trước khi chia sẻ để tránh gây hiểu nhầm cho cộng đồng.

Thực tế, AI không chỉ tạo ra những hình ảnh mang tính giải trí mà còn có thể tạo video giả người dẫn chương trình, nhân bản giọng nói, ghép khuôn mặt, tạo các văn bản, thông báo có hình thức giống cơ quan Nhà nước hoặc xây dựng các video “deepfake” (video được tạo hoặc chỉnh sửa bằng trí tuệ nhân tạo) với độ chân thực cao. Nếu bị các đối tượng xấu lợi dụng, những sản phẩm này có thể trở thành công cụ phục vụ hành vi lừa đảo, mạo danh, bôi nhọ danh dự, phát tán thông tin sai sự thật, gây hoang mang dư luận và ảnh hưởng đến an ninh trật tự trên không gian mạng.

Nhằm chủ động phòng ngừa các nguy cơ từ AI, Công an xã Tam Dương đã tăng cường nắm tình hình trên không gian mạng; thường xuyên theo dõi các hội, nhóm và tài khoản mạng xã hội để kịp thời phát hiện, xác minh, xử lý các trường hợp đăng tải, phát tán thông tin sai sự thật hoặc lợi dụng AI tạo dựng nội dung gây hoang mang trong dư luận.

Đại úy Nguyễn Văn Khương - Phó Trưởng Công an xã Tam Dương cho biết, đơn vị đã phân công cán bộ thường xuyên theo dõi các nền tảng mạng xã hội nhằm phát hiện sớm các dấu hiệu vi phạm, tổ chức xác minh, răn đe và xử lý nghiêm theo quy định của pháp luật.

Công an xã Tam Dương chỉ đạo cán bộ an ninh thường xuyên theo dõi, nắm bắt tình hình trên các trang mạng xã hội để kịp thời phát hiện, xử lý các trường hợp vi phạm.

Theo Thượng tá Nguyễn Quang Hòa - Phó Trưởng Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao, AI là công cụ hỗ trợ hiệu quả trong học tập, lao động và sáng tạo. Tuy nhiên, người dân cần trang bị kiến thức pháp luật khi sử dụng công nghệ này. Mọi hình ảnh, video hoặc nội dung do AI tạo ra phải bảo đảm chính xác, đúng sự thật, không xâm phạm quyền, lợi ích hợp pháp của tổ chức, cá nhân và không vi phạm các quy định của pháp luật. Đồng thời, người dân cần kiểm chứng thông tin từ các nguồn chính thống trước khi đăng tải hoặc chia sẻ, không tiếp tay lan truyền các sản phẩm AI giả mạo hoặc gây hiểu nhầm trong cộng đồng.

Từ ngày 1/7/2026, Nghị định số 174/2026/NĐ-CP của Chính phủ chính thức có hiệu lực, tăng mức xử phạt đối với nhiều hành vi vi phạm trên không gian mạng. Theo đó, hành vi cung cấp, chia sẻ thông tin giả mạo, sai sự thật trên mạng xã hội có thể bị phạt từ 20 - 30 triệu đồng; trường hợp gây hoang mang trong Nhân dân hoặc ảnh hưởng đến hoạt động của cơ quan, tổ chức có thể bị phạt đến 50 triệu đồng. Ngoài ra, người vi phạm còn buộc gỡ bỏ thông tin vi phạm theo quy định của pháp luật.

Kim Liên