Các mạng xã hội và nền tảng trực tuyến đang tích cực triển khai các biện pháp nhằm kiểm soát và ngăn chặn sự lan truyền của nội dung giả mạo do trí tuệ nhân tạo (AI) tạo ra. Mục tiêu chính của các nỗ lực này là bảo vệ người dùng khỏi bị lừa đảo và đảm bảo tính chính xác của thông tin trên môi trường mạng.
Đại diện của các nhà mạng và hãng công nghệ hàng đầu đã lên tiếng về sự cần thiết phải phân biệt rõ giữa giá trị thông tin xác thực do con người tạo ra và nội dung giả lập do AI sản xuất. Sự phát triển nhanh chóng và mạnh mẽ của AI trong thời gian gần đây đã đặt ra những thách thức mới, đặc biệt là trong việc phân biệt giữa thông tin thật và giả, cũng như vấn đề vi phạm bản quyền sáng tạo và tạo môi trường nguy hiểm cho người dùng.
Lực lượng an ninh mạng châu Âu đã chỉ ra rằng nội dung thông tin do AI tạo ra đang lan truyền rộng rãi trên mạng, gây ra sự nhầm lẫn, đặc biệt là trong giới trẻ. Các dạng thông tin như làm bài tập, soạn dữ liệu số, tổng hợp thông tin theo cú pháp và lệnh tìm kiếm đang được sử dụng rộng rãi, biến công cụ AI trở nên thông minh hơn. Tuy nhiên, hệ lụy của việc này là người dùng có thể tin tưởng tuyệt đối vào tính chân thật của dữ liệu và sử dụng một cách máy móc, gây ra nhầm lẫn và sai lệch.
Một số nhà nghiên cứu đã tiến hành thử nghiệm sử dụng AI trong việc chẩn đoán bệnh tật, sử dụng phác đồ y tế, và chọn mua thuốc, và thu được kết quả tổng hợp thông tin đáng tin cậy. Tuy nhiên, nếu không có sự tham vấn và kiểm chứng lại từ người có chuyên môn, sẽ có nhiều người nhầm lẫn và gặp nguy hiểm.
Ngoài ra, các trường hợp khác đã thử nghiệm so sánh dữ liệu thông tin chính trị, lịch sử xã hội với công cụ AI và phát hiện ra sai sót nghiêm trọng khi dữ liệu được lắp ghép lại tùy tiện. Nhiều thông tin do AI đưa ra khi có yêu cầu đã sai lệch so với thực tế nhưng trình bày khéo léo và trôi chảy, dễ đánh lừa người dùng. Điều này dễ dẫn đến nghi ngờ của người dùng AI khi tiếp cận vấn đề thời sự, xã hội và kiểm chứng lịch sử.
Tất cả những điều này cho thấy rằng dữ liệu tổng hợp là nguồn khai thác chính của AI, nhưng không phải dữ liệu nào cũng chính xác. Nếu có công cụ AI được nhiều nhóm người dùng cố tình đưa dữ liệu sai lệch, tương tác nhiều lần, sẽ tích hợp thông tin không chính xác và gây hệ lụy.
Các tổ chức nghiên cứu và ứng dụng đã kiến nghị mạng xã hội, môi trường chia sẻ thông tin, và công nghệ phải kiểm tra sản phẩm từ AI. Trường học, viện nghiên cứu, thư viện số, và nhà xuất bản đã vào cuộc ngăn chặn nhầm lẫn học thuật, đánh lừa thông tin tác quyền, giả mạo tác phẩm và sáng chế.
Trên không gian mạng, chiêu trò giả lập thông tin, câu view của người dùng có chủ đích, sử dụng AI tạo dữ liệu giả lập không chính xác đang là đối tượng phải thanh lọc. Cảnh báo của cơ quan an ninh mạng về nguy cơ người dùng bị lừa đảo, tấn công mạng, gây nhầm lẫn thông tin và hiểu sai sự việc khi sử dụng dữ liệu, sản phẩm do AI tạo ra.
Cơ quan chức năng đã cảnh báo người dùng mạng xã hội thận trọng và tỉnh táo trước dữ liệu mơ hồ, nhất là có dấu hiệu do công cụ AI soạn. Hầu hết dữ liệu từ AI đều có tính chất hài hước, hình ảnh gần gũi, đẹp mắt, dễ thu hút người dùng quan tâm và tác động thông tin, cảm xúc người dùng.
Theo cơ quan chức năng, thanh lọc thông tin tạo ra từ AI, bảo đảm giúp người dùng tránh bị nguy hại, nhầm lẫn, lừa đảo trực tuyến là cần thiết và cần sự hợp tác của đa số người dùng. Điều này sẽ giúp tạo ra một môi trường mạng an toàn và đáng tin cậy cho tất cả người dùng.