California cấm quảng cáo chính trị dùng AI

Trong đó, theo một đạo luật có hiệu lực vào thời điểm được ký, việc tạo dựng và xuất bản nội dung deepfake liên quan đến bầu cử trong vòng 120 ngày trước ngày bầu cử và sau đó 60 ngày là hành vi phạm pháp. Luật cũng trao quyền cho tòa án ngăn chặn hoạt động phát tán những nội dung này và ấn định các mức phạt dân sự đối với bên vi phạm.

"Việc bảo vệ tính toàn vẹn của bầu cử đóng vai trò quan trọng cho nền dân chủ, và chúng ta cần bảo đảm AI không bị lợi dụng nhằm gây xói mòn lòng tin của công chúng thông qua hoạt động phát tán tin vịt, đặc biệt trong bối cảnh môi trường chính trị căng thẳng như hiện tại", tờ San Francisco Chronicle dẫn lời Thống đốc Newsom nói và nhấn mạnh: "Những biện pháp mới sẽ giúp ứng phó tình trạng lợi dụng deepfake độc hại trong các quảng cáo chính trị và những nội dung khác, một trong vài lĩnh vực được bang California tích cực hành động nhằm hướng đến công nghệ AI minh bạch và đáng tin cậy".

Theo một đạo luật khác, các mạng xã hội lớn khi hoạt động ở bang Californiatừ năm sau được yêu cầu phải nhanh chóng gỡ bỏ bất kỳ nội dung chính trị nào sử dụng deepfake được người dùng chia sẻ trên nền tảng của họ. Đây cũng là luật đầu tiên được thi hành ở Mỹ liên quan đến vấn đề này. Bên cạnh đó, những chiến dịch vận động chính trị ở California phải công khai nếu sử dụng nội dung bị can thiệp bằng AI trong các quảng cáo của mình. Mục đích của đạo luật là nhằm đảm bảo cử tri có thể tin vào tính xác thực của các thông điệp chính trị, nhất là trong một kỷ nguyên mà công nghệ AI có thể sản xuất những nội dung giả tạo với độ thuyết phục cao.

Thống đốc Newsom đã nhanh chóng hành động sau khi tỉ phú Elon Musk, hiện sở hữu mạng xã hội X (tên cũ Twitter), vào cuối tháng 7 chia sẻ lên tài khoản X một đoạn clip làm giả giọng nói của bàKamala Harris, Phó tổng thống Mỹ và ứng viên tổng thống của đảng Dân chủ, theo tờ POLITICO. Đoạn clip với hơn 150 triệu lượt xem thể hiện nội dung sai sự thật liên quan đến đa dạng sắc tộc ở Mỹ, về Tổng thống Joe Biden và các chính sách biên giới của chính quyền Biden-Harris. Một đại diện của chiến dịch Harris xác nhận với NBC News rằng giọng nói trong clip không phải của phó tổng thống, và đoạn video cũng không đến từ chiến dịch quảng cáo thực sự.

Trong một vụ khác, cựu Tổng thống Donald Trump vào giữa tháng 8 đã chia sẻ hình ảnh bị chỉnh sửa bằng AI về bà Harris và siêu sao ca nhạc Taylor Swift. Ông Trump còn sử dụng đoạn clip bị can thiệp bằng deepfake mô tả bản thân đang nhảy nhót với tỉ phú Musk, người đã tuyên bố ủng hộ cựu Tổng thống Trump tranh cử.