Một cuộc kiểm tra quy mô lớn do các nhà nghiên cứu tại Trường Điều dưỡng thuộc Đại học Columbia thực hiện đã phát hiện gần 3.000 bài nghiên cứu y khoa có chứa các trích dẫn giả, làm dấy lên lo ngại lớn về độ tin cậy của các công trình khoa học trong thời đại trí tuệ nhân tạo (AI).

Nghiên cứu trên, được công bố trên tạp chí The Lancet, cho biết hệ thống kiểm tra bằng AI đã rà soát khoảng 2,5 triệu bài nghiên cứu trong cơ sở dữ liệu PubMed Central từ ngày 1-1-2023 - 18-2-2026. Qua việc đối chiếu khoảng 97,1 triệu trích dẫn, hệ thống phát hiện 4.046 tài liệu tham khảo không tồn tại xuất hiện trong 2.810 bài nghiên cứu.

Theo nghiên cứu, số lượng trích dẫn giả tăng hơn 12 lần so với năm 2023 và tăng mạnh từ giữa năm 2024, thời điểm các công cụ AI tạo văn bản bắt đầu được sử dụng rộng rãi trong giới học thuật. 

Các nhà nghiên cứu cảnh báo hiện tượng này đe dọa nghiêm trọng tính toàn vẹn của khoa học y sinh, nơi các quyết định lâm sàng thường dựa trên độ tin cậy của các nghiên cứu được trích dẫn.

Tiến sĩ Maxim Topaz, trưởng nhóm nghiên cứu tại Đại học Columbia, cho biết nhóm đã phát hiện những trường hợp nghiêm trọng, gồm một bài nghiên cứu có tới 18 trong tổng số 30 trích dẫn là giả. 

Đáng lo ngại hơn, một số trích dẫn giả đã được lặp lại trong các nghiên cứu khác và trong các tổng hợp dữ liệu phục vụ xây dựng hướng dẫn điều trị y khoa.

Hệ thống kiểm tra được xây dựng bằng các mô hình học máy nhằm phát hiện bất thường trong dữ liệu thư mục và đối chiếu với cơ sở dữ liệu khoa học đã được xác minh. Theo nhóm nghiên cứu, quy trình phản biện truyền thống hiện gần như không có cơ chế xác minh nghiêm ngặt đối với phần tài liệu tham khảo.

Các tác giả kêu gọi các nhà xuất bản tích hợp hệ thống kiểm tra trích dẫn vào quy trình nộp bài, đồng thời yêu cầu các cơ sở dữ liệu khoa học bổ sung thông tin xác minh đối với từng tài liệu tham khảo.

Nghiên cứu cũng cho biết 98,4% các bài có chứa trích dẫn giả chưa bị nhà xuất bản thực hiện bất kỳ hành động sửa đổi hoặc cảnh báo nào vào thời điểm kiểm tra. Các tác giả kêu gọi các tạp chí tiến hành rà soát lại kho lưu trữ cũ và thực hiện cải chính hoặc thu hồi các nghiên cứu bị ảnh hưởng.

Một bài bình luận đi kèm từ các chuyên gia thuộc Đại học Boston và Đại học Washington cảnh báo niềm tin công chúng đối với khoa học đang bị đe dọa và yêu cầu các tác giả phải chịu trách nhiệm đối với toàn bộ nội dung nghiên cứu, gồm cả tính chính xác của trích dẫn.

Nghiên cứu nhấn mạnh AI có thể giúp tăng tốc nghiên cứu khoa học, nhưng đồng thời cũng tạo ra nguy cơ mới khi các hệ thống AI có khả năng tạo ra các trích dẫn giả giống như thật. Do vậy cần xây dựng các hệ thống xác minh tự động để bảo vệ chất lượng khoa học trong thời đại AI.

Hàng trăm ngàn bài báo khoa học bị phát hiện do AI viết

Một nghiên cứu mới công bố đã khiến giới học thuật chấn động khi tiết lộ rằng có thể đã có tới hàng trăm ngàn bài báo khoa học được viết toàn bộ hoặc một phần bằng AI.