Google nướng trên AI bot Med-PaLM 2 được sử dụng trong bệnh viện

Google nướng trên AI bot Med-PaLM 2 được sử dụng trong bệnh viện

Dấu thời gian: 8:2023 PM ngày 5 tháng 54 năm XNUMX
Google nghiên cứu bot AI Med-PaLM 2 được sử dụng trong bệnh viện PlatoBlockchain Data Intelligence. Tìm kiếm dọc. Ái.

Google đang chịu áp lực từ một nhà lập pháp Hoa Kỳ để giải thích cách họ đào tạo và triển khai chatbot y tế Med-PaLM 2 trong các bệnh viện.

Hôm nay, viết thư cho gã khổng lồ internet, Thượng nghị sĩ Mark Warner (D-VA) cũng kêu gọi gã khổng lồ web không khiến bệnh nhân gặp rủi ro khi vội vàng thương mại hóa công nghệ.

Med-PaLM 2 dựa trên mô hình ngôn ngữ lớn PaLM 2 của Google và được tinh chỉnh dựa trên thông tin y tế. Hệ thống có thể tạo câu trả lời bằng văn bản để đáp ứng các truy vấn y tế, tóm tắt tài liệu và truy xuất dữ liệu. Google đã giới thiệu mô hình này vào tháng XNUMX và nói một nhóm khách hàng chọn lọc của Google Cloud đang thử nghiệm phần mềm.

Theo Thượng nghị sĩ Warner, một trong những người thử nghiệm đó là VHC Health, một bệnh viện ở Virginia có liên kết với Mayo Clinic. Trong một bức thư gửi cho giám đốc Google Sundar Pichai, Warner cho biết ông lo ngại rằng AI tổng quát sẽ đặt ra “những câu hỏi và rủi ro mới phức tạp” đặc biệt khi được áp dụng trong ngành chăm sóc sức khỏe.

“Mặc dù AI chắc chắn có tiềm năng to lớn để cải thiện kết quả chăm sóc sức khỏe và chăm sóc bệnh nhân, nhưng tôi lo ngại rằng việc triển khai sớm công nghệ chưa được chứng minh có thể dẫn đến xói mòn niềm tin vào các chuyên gia và tổ chức y tế của chúng ta, làm trầm trọng thêm sự chênh lệch chủng tộc hiện có về kết quả sức khỏe và gia tăng nguy cơ sai sót trong chẩn đoán và chăm sóc,” ông viết [PDF].

“Cuộc đua giành thị phần này là điều dễ thấy và đặc biệt đáng lo ngại trong ngành chăm sóc sức khỏe, do những hậu quả sinh tử của những sai lầm trong môi trường lâm sàng, sự suy giảm niềm tin vào các tổ chức chăm sóc sức khỏe trong những năm gần đây và sự nhạy cảm của y tế. thông tin."

Trong bức thư của mình, thượng nghị sĩ đã đặt ra hàng tá câu hỏi để các giám đốc điều hành của Google trả lời. Những truy vấn này bao gồm:

Các mô hình ngôn ngữ lớn thường thể hiện xu hướng ghi nhớ nội dung dữ liệu đào tạo của họ, điều này có thể gây rủi ro cho quyền riêng tư của bệnh nhân trong bối cảnh các mô hình được đào tạo về thông tin sức khỏe nhạy cảm. Google đã đánh giá rủi ro này như thế nào đối với Med-PaLM 2 và Google đã thực hiện những bước nào để giảm thiểu rò rỉ thông tin sức khỏe nhạy cảm do vô ý về quyền riêng tư?

Tần suất Google đào tạo lại toàn bộ hoặc một phần Med-PaLM 2 là bao nhiêu? Google có đảm bảo rằng những người được cấp phép chỉ sử dụng phiên bản mô hình cập nhật nhất không?

Google có đảm bảo rằng bệnh nhân được thông báo khi Med-PaLM 2 hoặc các mô hình AI khác do người được cấp phép cung cấp hoặc cấp phép sử dụng trong việc chăm sóc họ bởi những người được cấp phép chăm sóc sức khỏe không? Nếu vậy, làm thế nào là tiết lộ trình bày? Nó là một phần của tiết lộ dài hơn hoặc trình bày rõ ràng hơn?

Google có giữ lại thông tin kịp thời từ những người được cấp phép chăm sóc sức khỏe, bao gồm cả thông tin sức khỏe được bảo vệ có trong đó không? Vui lòng liệt kê từng mục đích mà Google có để lưu giữ thông tin đó.

và cuối cùng…

Trong ấn phẩm nghiên cứu riêng của Google công bố Med-PaLM 2, các nhà nghiên cứu đã cảnh báo về sự cần thiết phải áp dụng “các biện pháp bảo vệ để giảm thiểu sự phụ thuộc quá mức vào kết quả của một trợ lý y tế”. Google đã áp dụng những biện pháp bảo vệ nào để giảm thiểu sự phụ thuộc quá mức vào đầu ra của Med-PaLM 2 cũng như khi nào nên và không nên sử dụng đặc biệt? Google đã kết hợp những biện pháp bảo vệ nào thông qua các điều khoản cấp phép sản phẩm để ngăn chặn sự phụ thuộc quá mức vào đầu ra?

Tất cả những điểm khá tốt nên được nêu ra hoặc làm nổi bật.

Các mô hình ngôn ngữ lớn có xu hướng tạo ra thông tin sai lệch nghe có vẻ thuyết phục, vì vậy người ta có thể lo sợ bot tự tin đưa ra lời khuyên y tế có hại hoặc ảnh hưởng sai đến các quyết định về sức khỏe của ai đó. Ví dụ, Hiệp hội Rối loạn Ăn uống Quốc gia đã lấy Chatbot Tessa ngoại tuyến sau khi đề xuất mọi người đếm lượng calo, cân nặng hàng tuần và theo dõi lượng mỡ trong cơ thể - những hành vi được coi là phản trực giác đối với quá trình hồi phục sức khỏe.

Bài báo nghiên cứu do Google-DeepMind viết chi tiết Med-PaLM 2 thừa nhận “câu trả lời của mô hình không thuận lợi bằng câu trả lời của bác sĩ” và đạt điểm kém về độ chính xác và mức độ liên quan.

Warner muốn Pichai chia sẻ thêm thông tin về cách triển khai mô hình trong môi trường lâm sàng và muốn biết liệu siêu tập đoàn có đang thu thập dữ liệu bệnh nhân từ những người đang thử nghiệm công nghệ của họ hay không và dữ liệu nào đã được sử dụng để huấn luyện nó. 

Ông nhấn mạnh rằng Google trước đây đã lưu trữ và phân tích dữ liệu bệnh nhân mà họ không hề biết hoặc không có sự đồng ý rõ ràng trong các giao dịch với các bệnh viện ở Hoa Kỳ và Vương quốc Anh theo Đạo luật Dự án Nightingale banner.

“Google đã không cung cấp công khai tài liệu về Med-PaLM 2, bao gồm cả việc không tiết lộ nội dung dữ liệu đào tạo của mô hình. Tập dữ liệu đào tạo của Med-PaLM 2 có bao gồm thông tin sức khỏe được bảo vệ không?” anh ấy hỏi. 

Người phát ngôn của Google phủ nhận rằng Med-PaLM 2 là một chatbot như mọi người biết đến chúng ngày nay và cho biết mô hình này đang được khách hàng thử nghiệm để khám phá xem nó có thể hữu ích như thế nào đối với ngành chăm sóc sức khỏe. 

Người đại diện cho biết: “Chúng tôi tin rằng AI có tiềm năng biến đổi ngành chăm sóc sức khỏe và y học và cam kết khám phá cốt lõi là sự an toàn, công bằng, bằng chứng và quyền riêng tư”. Đăng ký trong một tuyên bố. 

"Như quy định vào tháng 2, chúng tôi sẽ cung cấp Med-PaLM 2 cho một nhóm các tổ chức chăm sóc sức khỏe được chọn để thử nghiệm có giới hạn, nhằm khám phá các trường hợp sử dụng và chia sẻ phản hồi – một bước quan trọng trong việc xây dựng công nghệ an toàn và hữu ích. Những khách hàng này giữ quyền kiểm soát dữ liệu của họ. Med-PaLM XNUMX không phải là một chatbot; nó là một phiên bản tinh chỉnh của mô hình ngôn ngữ lớn của chúng tôi PALM 2, và được thiết kế để mã hóa kiến ​​thức y khoa.”

Người phát ngôn không xác nhận liệu Google có trả lời các câu hỏi của Thượng nghị sĩ Warner hay không. ®

Dấu thời gian:

Thêm từ Đăng ký