AI khiến bác sĩ thiếu trách nhiệm hơn

Một nghiên cứu mới cho thấy, chỉ sau vài tháng sau khi sử dụng AI, các bác sĩ nội soi đại tràng đã chẩn đoán kém hiệu quả hơn nếu không có sự hỗ trợ từ công nghệ này.

Trong nhiều năm qua, các chuyên gia y tế và công ty đã ca ngợi những lợi ích tiềm năng của AI trong y học, từ việc cải thiện hình ảnh đến chẩn đoán vượt trội hơn các bác sĩ.

Tuy nhiên, một nghiên cứu mới đã cho thấy chỉ trong vài tháng, những bác sĩ thường xuyên sử dụng AI có hiệu suất chẩn đoán bệnh kém hơn đáng kể.

Đây là nghiên cứu mới nhất chứng minh những mối họa đối với người dùng bị phụ thuộc vào công nghệ này. Một nghiên cứu trước đó của Viện Công nghệ Massachusetts đã phát hiện ra ChatGPT làm xói mòn các kỹ năng tư duy phản biện.

Thiếu động lực, kém tập trung và không có trách nhiệm

Nghiên cứu được công bố trên tạp chí Lancet Gastroenterology and Hepatology cho thấy trong vòng 6 tháng, các bác sĩ lâm sàng trở nên quá phụ thuộc vào các khuyến nghị của AI.

Trả lời khảo sát, các bác sĩ này thừa nhân bản thân đã trở nên thiếu động lực, thiếu tập trung và thiếu trách nhiệm hơn khi đưa ra các quyết định nhận thức mà không có sự hỗ trợ của AI.

Để chứng minh điều này, các nhà nghiên cứu từ nhiều tổ chức ở châu Âu đã tiến hành một nghiên cứu quan sát tại 4 trung tâm nội soi ở Ba Lan, nơi tham gia vào thử nghiệm AI trong chương trình Nội soi đại tràng để phòng ngừa ung thư (ACCEPT).

Là một phần của thử nghiệm, từ cuối năm 2021, các trung tâm này đã ứng dụng công cụ AI để phát hiện polyp, các khối u có thể lành tính hoặc ung thư.

Phạm vi nghiên cứu bao gồm 1.443 ca nội soi đại tràng không có sự hỗ trợ của AI, trong tổng số 2.177 ca được thực hiện từ tháng 9/2021 đến tháng 3/2022. Các ca nội soi được thực hiện bởi 19 bác sĩ nội soi có kinh nghiệm.

Sau đó, các nhà nghiên cứu so sánh chất lượng nội soi đại tràng được thực hiện 3 tháng trước và sau khi AI được triển khai. Các ca nội soi được thực hiện ngẫu nhiên có hoặc không có sự hỗ trợ của AI.

Chỉ trong vòng 6 tháng, các bác sĩ lâm sàng trở nên quá phụ thuộc vào các khuyến nghị của AI. Ảnh minh họa: national_cancer_institute.

Kết quả, trong số những ca được thực hiện mà không có sự hỗ trợ từ AI, có 795 ca được thực hiện trước khi AI được sử dụng thường xuyên. Sau khi các công cụ AI được áp dụng, chỉ có 648 ca phẫu thuật được thực hiện.

3 tháng trước khi AI được áp dụng, tỷ lệ phát hiện u tuyến (ADR) là khoảng 28%. 3 tháng sau khi đưa AI vào, tỷ lệ này đã giảm xuống chỉ còn 22%. ADR là một chỉ số chất lượng phổ biến cho nội soi đại tràng. tỷ lệ ADR càng cao, đồng nghĩa nguy cơ ung thư đại trực tràng càng thấp.

Cuối cùng, nghiên cứu cho thấy AI đã giúp các bác sĩ nội soi phát hiện tốt hơn khi được sử dụng. Tuy nhiên, một khi sự hỗ trợ từ công nghệ này bị loại bỏ, kỹ năng chẩn đoán của các bác sĩ lâm sàng lập tức kém hơn.

Các nhà nghiên cứu cho rằng điều này là do “xu hướng tự nhiên của con người là quá phụ thuộc” vào các khuyến nghị của hệ thống hỗ trợ quyết định như AI.

Marcin Romańczyk, đồng tác giả của nghiên cứu, gọi đây là hiệu ứng Google Maps. “Chúng ta cố gắng đi đến đâu đó và không thể sử dụng bản đồ thông thường. Trường hợp này cũng tương tự như vậy”, Romańczyk nói.

Lời cảnh tỉnh

Omer Ahmad, một bác sĩ chuyên khoa tiêu hóa tại Bệnh viện Đại học College London, tin rằng việc tiếp xúc với AI có thể đã làm suy yếu thói quen tìm kiếm bằng mắt và các mẫu hình chú ý của bác sĩ, vốn là điều rất quan trọng để phát hiện polyp.

“Về bản chất, sự phụ thuộc vào việc phát hiện của AI có thể làm mờ đi khả năng nhận dạng mẫu hình của con người”, Ahmad nhận định. Ông cũng lo ngại rằng việc sử dụng AI thường xuyên có thể “làm giảm sự tự tin trong chẩn đoán” khi không có sự hỗ trợ của AI.

Một số chuyên gia khác lại thận trọng hơn khi đưa ra kết luận từ một nghiên cứu đơn lẻ. Venet Osmani, giáo sư về AI lâm sàng và học máy tại Đại học Queen Mary University of London, cho rằng tổng số ca nội soi đã tăng lên trong suốt quá trình nghiên cứu. Điều này có thể dẫn đến sự mệt mỏi cho các bác sĩ lâm sàng, khiến tỷ lệ phát hiện kém hơn.

Trong khi đó, Allan Tucker, giáo sư trí tuệ nhân tạo tại Đại học Brunel University of London, lưu ý rằng với sự hỗ trợ của AI, hiệu suất của bác sĩ lâm sàng nhìn chung đã cải thiện.

Ông Tucker cho rằng những lo ngại về việc suy giảm kỹ năng nghề nghiệp của bác sĩ do tự động hóa “không chỉ có ở các hệ thống AI và là một rủi ro khi giới thiệu bất kỳ công nghệ mới nào”.

Chỉ trong vài giây, AlphaFold có thể dự đoán cấu trúc của tất cả protein trong cơ thể người. Điều này đem lại lợi ích to lợn trong việc chữa trị. Ảnh: DeepMind.

Hiện nay, khoảng 52% bệnh viện trên toàn cầu đã triển khai công nghệ AI ở nhiều mức độ khác nhau. Tại Mỹ, khoảng 75% bệnh viện đang sử dụng các giải pháp dựa trên AI để cải thiện hiệu quả hoạt động và chăm sóc bệnh nhân.

Quy mô thị trường AI trong lĩnh vực chăm sóc sức khỏe toàn cầu được dự đoán sẽ tăng từ 28 tỷ USD năm 2024 lên 188 tỷ USD vào năm 2030.

Sự tăng trưởng này diễn ra ở thời điểm được coi là bước ngoặt đối với ngành y tế khi xu hướng già hóa dân số tác động mạnh mẽ đến nhu cầu chăm sóc sức khỏe của người dân.

Tổ chức Y tế thế giới (WHO) ước tính toàn thế giới sẽ thiếu khoảng 10 triệu bác sĩ, y tá và nhân viên y tế vào năm 2030. Đồng thời, nhu cầu về dịch vụ chăm sóc sức khỏe sẽ ngày càng tăng cao.

Khi đó, AI sẽ là giải pháp giúp các cơ sở y tế trên thế giới vượt qua những thách thức, cải thiện chất lượng, hiệu quả hoạt động khám, chữa bệnh.