Các nhà nghiên cứu đã bày tỏ lo ngại rằng nội dung do AI tạo ra có thể được sử dụng để can thiệp vào cuộc bầu cử Hoa Kỳ vào cuối năm nay và TikTok đã nằm trong nhóm 20 công ty công nghệ đã ký một thỏa thuận cam kết chống lại nội dung đó.

Công nghệ Thông tin xác thực nội dung được dẫn đầu bởi Liên minh chứng minh và xác thực nội dung - một nhóm do Adobe và Microsoft đồng sáng lập.

Việc gắn nhãn đã được chấp nhận bởi OpenAI - “cha đẻ của ChatGPT”. YouTube, thuộc sở hữu của Alphabet và Meta Platforms, sở hữu Instagram và Facebook, cũng cho biết họ có kế hoạch sử dụng Thông tin xác thực nội dung.

Để hệ thống hoạt động, ví dụ khi một người sử dụng công cụ Dall-E của OpenAI để tạo hình ảnh, OpenAI sẽ đính kèm hình mờ vào hình ảnh thu được và thêm dữ liệu vào tệp để sau này có thể cho biết liệu nó có bị giả mạo hay không. Nếu hình ảnh được đánh dấu đó được tải lên TikTok, hình ảnh đó sẽ tự động được gắn nhãn là do AI tạo.

TikTok thuộc sở hữu của ByteDance của Trung Quốc, có 170 triệu người dùng ở Mỹ. Chính phủ Mỹ này gần đây đã thông qua luật yêu cầu ByteDance thoái vốn khỏi TikTok nếu không sẽ phải đối mặt với lệnh cấm. TikTok và ByteDance đã kiện để ngăn chặn luật này, cho rằng nó vi phạm Tu chính án thứ nhất.