Rủi ro phía sau đà tăng ứng dụng AI vào khám chữa bệnh

Các nhà khoa học châu Âu mới đây đã phát triển một mô hình trí tuệ nhân tạo mới, được huấn luyện trên các hồ sơ y tế quy mô lớn, có khả năng dự đoán nguy cơ mắc hơn 1.000 loại bệnh trong nhiều thập kỷ tới, thông tin từ Financial Times cho biết.

Hệ thống AI tạo sinh này có tên Delphi-2M, được xây dựng tại Phòng thí nghiệm Sinh học phân tử châu Âu (EMBL) ở Cambridge, sử dụng “kiến trúc tương tự như các mô hình ngôn ngữ lớn nhưng có những đổi mới quan trọng để làm việc với dữ liệu y tế”, theo ông Tomas Fitzgerald, nhà khoa học nghiên cứu tại EMBL.

Delphi được huấn luyện trên các hồ sơ y tế đã ẩn danh của 400.000 người tham gia trong Biobank của Vương quốc Anh. Sau đó, các nhà nghiên cứu đã thử nghiệm thành công mô hình này trên dữ liệu của 1,9 triệu bệnh nhân trong Cơ sở dữ liệu Bệnh nhân quốc gia Đan Mạch.

Độ chính xác từ khả năng dự đoán trên hơn 1.000 loại bệnh nhìn chung tương đương với mức độ của các công cụ tập trung vào phạm vi bệnh hẹp hơn đang tồn tại trên thị trường.

“Hệ thống có thể đưa ra dự đoán cho từng cá nhân, nhưng có thể hữu ích hơn ở cấp độ dân số trong việc dự đoán nhu cầu y tế cộng đồng, có bao nhiêu người sẽ mắc các bệnh cụ thể như nhồi máu cơ tim, ung thư hay tiểu đường và họ cần loại điều trị nào”, ông Moritz Gerstung, trưởng bộ phận AI tại Trung tâm Nghiên cứu ung thư Đức ở Heidelberg, một thành viên khác của nhóm Delphi, cho biết.

Mô hình này đưa ra dự đoán tốt nhất đối với các bệnh có tiến triển theo quy luật ổn định, bao gồm bệnh tim mạch, tiểu đường và nhiễm trùng máu. Nó hoạt động kém hiệu quả hơn với những bệnh có nguyên nhân bên ngoài khó lường và các bệnh bẩm sinh cực kỳ hiếm gặp.

Sự ra đời của Delphi cũng như nhiều ứng dụng AI khác đang giúp chuyển đổi ngành y tế, nhưng cũng bộc lộ một số vấn đề bất bình đẳng trong việc đưa ra lời khuyên y tế.

TRÍ TUỆ NHÂN TẠO ĐẨY NHANH NGÀNH CHĂM SÓC SỨC KHỎE

Một khảo sát của McKinsey với các nhà lãnh đạo ngành chăm sóc sức khỏe công bố tháng 3/2025 chỉ ra rằng, phần lớn người được hỏi cho biết công ty của mình đã triển khai ứng dụng AI thế hệ. Nhiều người cho biết doanh nghiệp đã trong giai đoạn triển khai hơn là thử nghiệm.

Trong số những tổ chức đang triển khai AI, chiến lược chủ đạo của họ là quan hệ đối tác với bên thứ ba để có các giải pháp được tùy chỉnh phù hợp hơn. Một số người thì cho biết dự định tự xây hoặc mua các giải pháp có sẵn.

Đầu tư tư nhân vào AI của ngành y tế và chăm sóc sức khỏe đã tăng vọt trong 5 năm qua, tăng trưởng nhanh gấp đôi so với toàn ngành công nghệ. Theo báo cáo cuối năm ngoái từ ​​Ngân hàng Silicon Valley (SVB), cứ 4 USD đầu tư vào lĩnh vực chăm sóc sức khỏe thì có một USD thuộc về các công ty ứng dụng AI.

Chỉ riêng tại Mỹ, các khoản đầu tư mạo hiểm vào AI y tế sẽ đạt khoảng 11 tỷ USD trong năm 2024, với nguồn tài trợ bổ sung từ các nhà đầu tư tổ chức trên thị trường chăm sóc sức khỏe có quy mô tới 4,5 nghìn tỷ USD.

Gia tăng ứng dụng AI trong lĩnh vực y tế và chăm sóc sức khỏe đã giúp tăng hiệu quả của quá trình khám, chữa bệnh.

Đơn cử, Công ty dược phẩm và sinh học AstraZeneca cuối năm ngoái thông báo ra mắt mô hình học máy AI mới có thể phát hiện sự hiện diện của một số bệnh nhất định trước khi bệnh nhân nhận thức được bất kỳ triệu chứng nào.

Ông Slavé Petrovski, người đứng đầu nghiên cứu, trong chia sẻ với Sky News, cho biết: "Khi bệnh biểu hiện lâm sàng, người bệnh đến gặp bác sĩ vì một căn bệnh hoặc các dấu hiệu, đó đã là thời điểm rất xa so với lúc bệnh bắt đầu. Chúng tôi có thể nhận ra những dấu hiệu ở một cá nhân, từ đó có khả năng dự đoán cao về việc phát triển các bệnh như Alzheimer, bệnh phổi tắc nghẽn mạn tính, bệnh thận và nhiều bệnh khác”, ông nói.

Một nghiên cứu khác của Anh đã phát hiện ra rằng, một công cụ AI có thể phát hiện thành công 64% các tổn thương não do động kinh mà trước đây các bác sĩ X-quang bỏ sót.

Được đào tạo dựa trên hình ảnh chụp MRI của hơn 1.100 người lớn và trẻ em trên toàn cầu, công cụ AI này có thể phát hiện các tổn thương nhanh hơn bác sĩ, nhưng cũng có thể phát hiện ra những tổn thương nhỏ hoặc bị che khuất mà mắt người không nhìn thấy.

Một phần mềm AI khác từ hai trường đại học của Anh ghi nhận mức độ chính xác gấp đôi so với các chuyên gia trong việc kiểm tra hình ảnh chụp não của bệnh nhân đột quỵ. Mô hình này còn có thể xác định khoảng thời gian xảy ra đột quỵ, từ đó giúp các bác sĩ có thể quyết định được phương pháp điều trị.

RỦI RO TĂNG BẤT CÔNG BẰNG

Một loạt nghiên cứu gần đây phát hiện ra rằng, việc áp dụng các mô hình AI trong lĩnh vực y tế có thể dẫn đến những quyết định y khoa mang tính thiên lệch, gia tăng tình trạng điều trị thiếu công bằng vốn đã tồn tại trong nhiều nhóm dân cư.

Các công cụ y tế sử dụng AI dựa trên các mô hình ngôn ngữ lớn (LLM) thường không phản ánh đúng mức độ nghiêm trọng của triệu chứng ở bệnh nhân nữ, đồng thời thể hiện ít “sự đồng cảm” hơn đối với người da đen và người châu Á, nghiên cứu từ các trường đại học hàng đầu của Mỹ và Anh cho biết vào giữa tháng này.

Những cảnh báo này xuất hiện trong bối cảnh các tập đoàn AI hàng đầu thế giới như Microsoft, Amazon, OpenAI và Google đang gấp rút phát triển các sản phẩm nhằm giảm tải công việc cho bác sĩ và tăng tốc điều trị, với mục tiêu hỗ trợ các hệ thống y tế đang chịu áp lực nặng nề trên toàn cầu.

Nhiều bệnh viện và bác sĩ trên thế giới hiện đang sử dụng LLM như Gemini và ChatGPT cũng như các ứng dụng ghi chú y tế AI của các startup như Nabla và Heidi để tự động tạo bản ghi các buổi khám bệnh, làm nổi bật các chi tiết y tế quan trọng và soạn tóm tắt lâm sàng.

Vào tháng 6 vừa qua, Microsoft tiết lộ rằng họ đã xây dựng một công cụ y tế sử dụng AI mà công ty khẳng định có khả năng chẩn đoán bệnh phức tạp với mức độ thành công gấp 4 lần so với bác sĩ.

Tuy nhiên, nghiên cứu của Tổ chức Jameel Clinic thuộc MIT cho thấy, các mô hình AI như GPT-4 của OpenAI, Llama 3 của Meta và Palmyra-Med – một LLM chuyên về y tế - đã đề xuất mức chăm sóc thấp hơn nhiều cho bệnh nhân nữ, và thậm chí, gợi ý một số bệnh nhân nên tự điều trị tại nhà thay vì tìm kiếm sự giúp đỡ.

Một nghiên cứu khác của nhóm MIT cho thấy, GPT-4 của OpenAI và các mô hình khác cũng đưa ra các câu trả lời kém cảm thông hơn đối với người da đen và người châu Á đang tìm kiếm sự hỗ trợ về sức khỏe tâm thần.

Điều này cho thấy “một số bệnh nhân có thể nhận được hướng dẫn ít hỗ trợ hơn chỉ dựa trên chủng tộc mà mô hình nhận định”, theo bà Marzyeh Ghassemi, phó giáo sư tại Jameel Clinic, MIT.

Tương tự, nghiên cứu của Trường Kinh tế London phát hiện, mô hình Gemma của Google – được hơn một nửa chính quyền địa phương tại Anh sử dụng để hỗ trợ nhân viên công tác xã hội – đã xem nhẹ các vấn đề thể chất và tinh thần của phụ nữ so với nam giới khi được dùng để tạo và tóm tắt hồ sơ.

Nhóm nghiên cứu của bà Ghassemi tại MIT còn phát hiện rằng, những bệnh nhân có tin nhắn chứa lỗi chính tả, ngôn ngữ không trang trọng hoặc cách diễn đạt thiếu chắc chắn có khả năng nhận được lời khuyên không nên tìm kiếm chăm sóc y tế từ AI cao hơn so với những người có cách diễn đạt hoàn chỉnh, ngay cả khi nội dung lâm sàng là như nhau.

Điều này có thể dẫn đến việc những người không nói tiếng Anh như ngôn ngữ mẹ đẻ hoặc không thành thạo trong việc sử dụng công nghệ bị đối xử bất công.

LẤP LỖ HỔNG

Theo tác giả Melissa Heikkilä trên tờ Financial Times, vấn đề thiên lệch gây hại một phần bắt nguồn từ dữ liệu được dùng để huấn luyện các LLM. Những mô hình đa dụng như GPT-4, Llama và Gemini được đào tạo bằng dữ liệu từ internet, và những định kiến từ các nguồn này do đó cũng được phản ánh trong câu trả lời.

Các nhà phát triển AI cũng có thể ảnh hưởng đến mức độ thiên lệch xâm nhập vào hệ thống bằng cách bổ sung các biện pháp bảo vệ sau khi mô hình đã được huấn luyện.

“Nếu bạn ở trong tình huống mà một diễn đàn con trên Reddit lại có thể ảnh hưởng đến quyết định y tế của bạn, thì tôi nghĩ đó không phải là một nơi an toàn”, ông Travis Zack, giáo sư thỉnh giảng tại Đại học California, San Francisco, đồng thời là giám đốc y khoa của start-up thông tin y tế AI Open Evidence, cho biết.

Trong một nghiên cứu năm ngoái, ông Zack cùng nhóm của mình đã phát hiện rằng, GPT-4 không tính đến sự đa dạng nhân khẩu học của các tình trạng y tế, và có xu hướng rập khuôn một số chủng tộc, dân tộc và giới tính.

Các nhà nghiên cứu cảnh báo rằng, các công cụ AI có thể củng cố những mô hình điều trị chưa đầy đủ vốn đã tồn tại trong ngành y tế, do dữ liệu trong nghiên cứu y học thường nghiêng nặng về nam giới, trong khi các vấn đề sức khỏe của phụ nữ thường bị thiếu kinh phí và nghiên cứu nghiêm trọng.

OpenAI cho biết, nhiều nghiên cứu đã đánh giá một phiên bản cũ hơn của GPT-4, và công ty đã cải thiện độ chính xác kể từ khi ra mắt. Công ty có các nhóm chuyên làm việc để giảm thiểu các kết quả gây hại hoặc sai lệch, đặc biệt tập trung vào lĩnh vực y tế. OpenAI cũng hợp tác với các bác sĩ và nhà nghiên cứu bên ngoài để đánh giá mô hình, kiểm thử hành vi và xác định rủi ro.

Tập đoàn này cũng đã phát triển một bộ tiêu chuẩn đánh giá cùng với các bác sĩ để đo lường năng lực của LLM trong lĩnh vực y tế, có tính đến các loại câu hỏi của người dùng với phong cách, mức độ liên quan và chi tiết khác nhau.

Google thì cho biết, tập đoàn này coi vấn đề thiên lệch trong mô hình là “cực kỳ nghiêm trọng” và đang phát triển các kỹ thuật bảo mật có thể làm sạch dữ liệu nhạy cảm cũng như xây dựng các biện pháp bảo vệ chống thiên lệch và phân biệt đối xử.

Theo đề xuất từ các nhà nghiên cứu, một cách để giảm thiên lệch y tế trong AI là xác định những bộ dữ liệu nào không nên dùng cho huấn luyện ngay từ đầu, sau đó huấn luyện trên các bộ dữ liệu y tế đa dạng và đại diện hơn.