AI Sáng tạo Gây Báo động trong Giới Khoa học khi Dữ liệu Giả Đe dọa Tín dụng

Những hình ảnh do AI tạo ra đang gây ra những lo ngại lớn trong cộng đồng các nhà nghiên cứu và nhà xuất bản, khi những công cụ AI sinh ra mới làm cho việc tạo ra dữ liệu khoa học và hình ảnh giả mạo trở nên dễ dàng đến mức đáng báo động, như được ghi nhận trong một thông cáo báo chí của Nature.

Sự tiến bộ này đe dọa đến sự tín nhiệm của văn bản học thuật, với các chuyên gia lo ngại về một cơn bão nghiên cứu giả mạo do AI thúc đẩy mà có thể khó để xác định.

Jana Christopher, một chuyên viên phân tích tính toàn vẹn hình ảnh tại FEBS Press ở Đức, nhấn mạnh rằng sự phát triển nhanh chóng của AI sinh sản đang gây ra ngày càng nhiều lo ngại về khả năng bị lạm dụng trong lĩnh vực khoa học.

“Những người làm việc trong lĩnh vực của tôi – tính toàn vẹn hình ảnh và đạo đức công bố – ngày càng lo lắng về những khả năng mà nó mang lại,” Jane nói như được báo cáo bởi Nature.
Cô ấy lưu ý rằng, mặc dù một số tạp chí có thể chấp nhận văn bản được tạo ra bởi AI theo các nguyên tắc nhất định, nhưng hình ảnh và dữ liệu do AI tạo ra được xem là việc vượt qua một ranh giới có thể ảnh hưởng sâu sắc đến độ tin cậy của nghiên cứu, như Nature đã ghi nhận.

Việc phát hiện những hình ảnh này do AI tạo ra đã trở thành một thách thức chính, theo Nature. Khác với các thao tác số hóa trước đây, hình ảnh do AI tạo ra thường thiếu những dấu hiệu thông thường của việc giả mạo, làm cho việc chứng minh bất kỳ sự lừa dối nào trở nên khó khăn.

Chuyên gia phân tích hình ảnh Elisabeth Bik cùng các nhà nghiên cứu khác đề xuất rằng các hình ảnh do AI tạo ra, đặc biệt là trong lĩnh vực phân tử và sinh học tế bào, có thể đã xuất hiện trong các tài liệu đã xuất bản, theo như Nature đã báo cáo.

Các công cụ như ChatGPT hiện đang được sử dụng thường xuyên để soạn thảo các bài báo, có thể nhận biết qua các cụm từ điển hình của chatbot để lại không chỉnh sửa, nhưng hình ảnh do AI tạo ra thì khó phát hiện hơn nhiều. Đáp lại những thách thức này, các công ty công nghệ và các tổ chức nghiên cứu đang phát triển các công cụ phát hiện, Nature đã ghi chú.Các công cụ hỗ trợ AI như Imagetwin và Proofig đang dẫn đầu cuộc chơi bằng cách đào tạo thuật toán của mình để xác định nội dung AI tạo ra. Đồng sáng lập Proofig, Dror Kolodkin-Gal, báo cáo rằng công cụ của họ phát hiện thành công hình ảnh AI 98% thời gian, nhưng ông lưu ý rằng việc xác minh bởi con người vẫn rất quan trọng để xác nhận kết quả, theo Nature.

Trong thế giới xuất bản, các tạp chí như Science sử dụng Proofig để quét sơ bộ các bài gửi, và ông lớn xuất bản Springer Nature đang phát triển các công cụ riêng, Geppetto và SnapShot, để xác định các bất thường trong văn bản và hình ảnh, theo Nature.

Các tổ chức khác, như Hiệp hội Quốc tế của các Nhà xuất bản Khoa học, Kỹ thuật và Y tế, cũng đang khởi xướng các sáng kiến để chống lại các nhà máy sản xuất bài viết và đảm bảo tính toàn vẹn của nghiên cứu, theo như đã được Nature thông báo.

Tuy nhiên, các chuyên gia cảnh báo rằng các nhà xuất bản phải hành động nhanh chóng. Kevin Patrick, một chuyên gia phân tích hình ảnh trong lĩnh vực khoa học, lo ngại rằng, nếu việc hành động chậm trễ, nội dung do AI tạo ra có thể trở thành một vấn đề chưa được giải quyết khác trong văn bản học thuật, theo như đã được Nature thông báo.

Mặc dù có những lo ngại này, nhiều người vẫn hy vọng công nghệ tương lai sẽ tiến hóa để phát hiện những sự lừa dối do AI tạo ra ngày nay, mang lại một giải pháp dài hạn để bảo vệ tính toàn vẹn của nghiên cứu học thuật.