Google DeepMind Ra Mắt Công Cụ Watermark Mã Nguồn Mở để Giúp Phát Hiện Văn Bản Được Tạo Bởi Trí Tuệ Nhân Tạo

Google DeepMind đã ra mắt một công cụ đánh dấu mờ mã nguồn mở có tên là SynthID-Text vào thứ Tư này để giúp phát hiện văn bản được tạo ra bởi AI. Công cụ này được cung cấp miễn phí cho các doanh nghiệp và nhà phát triển, và hoạt động bằng cách nhúng dấu mờ – không thể nhìn thấy bằng mắt thường – vào văn bản trong quá trình tạo ra, bằng cách thay đổi xác suất của các từ.

“Ở đây chúng tôi mô tả SynthID-Text, một hệ thống đánh dấu mờ văn bản sẵn sàng cho sản xuất mà giữ được chất lượng văn bản và cho phép độ chính xác phát hiện cao, với độ trễ tối thiểu,” tóm tắt của nghiên cứu được công bố trên Nature. “Để cho phép đánh dấu mờ ở quy mô lớn, chúng tôi phát triển một thuật toán kết hợp đánh dấu mờ với lấy mẫu đoán chừng, một kỹ thuật hiệu quả thường được sử dụng trong các hệ thống sản xuất.”

Theo MIT Technology Review, phòng thí nghiệm nghiên cứu AI của gã khổng lồ công nghệ đã phát triển công nghệ SynthID để tạo ra nhiều công cụ đóng dấu bằng AI mà giờ đây có thể nhận biết được văn bản, âm nhạc, video và hình ảnh do AI tạo ra. Google DeepMind đã chia sẻ một video giải thích cách công nghệ này hoạt động trên nhiều loại phương tiện truyền thông khác nhau.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 tháng 10, 2024

SynthID được cung cấp thông qua Bộ công cụ AI Tạo sinh có trách nhiệm của Google, và các nhà nghiên cứu đang cùng làm việc với Hugging Face – một nền tảng hợp tác cho các nhà phát triển, nơi còn chứa các dự án mã nguồn mở khác như hướng dẫn của LeRobot để xây dựng robot sử dụng AI tại nhà – để chia sẻ nó trên trang web của họ.

“Bây giờ, các nhà phát triển [tạo sinh] AI khác sẽ có thể sử dụng công nghệ này để giúp họ xác định liệu đầu ra văn bản có đến từ các [mô hình ngôn ngữ lớn] của riêng họ hay không, làm cho việc xây dựng AI một cách có trách nhiệm trở nên dễ dàng hơn,” Pushmeet Kohli, phó chủ tịch nghiên cứu tại Google DeepMind, đã nói với MIT Technology Review.

SynthID đã được thử nghiệm trong sản phẩm Gemini của Google, và hàng triệu người dùng không thể phân biệt được nội dung có dấu mờ và không có dấu mờ. Tuy nhiên, các nhà nghiên cứu thừa nhận rằng nó có những hạn chế khi văn bản đã được chỉnh sửa hoặc dịch, nhưng họ vẫn lạc quan và tin rằng công cụ này có thể giúp chống lại thông tin sai lệch và cải thiện an toàn AI.

Nhiều công ty công nghệ đã công bố các chiến lược gắn nhãn AI trong vài tháng qua. Meta đã công bố vào tháng Hai một hệ thống để xác định nội dung AI trên Instagram, Facebook, và Threads, Google yêu cầu người dùng gắn nhãn nội dung AI vào tháng Ba, và Tiktok đã thêm nhãn vào nội dung được tạo bởi AI vào tháng Năm.