“Hộp đen” được hỗ trợ bởi AI này có thể giúp phẫu thuật an toàn hơn

Trong khi hầu hết các thuật toán hoạt động gần như hoàn hảo, Peter Grantcharov giải thích rằng hộp đen OR vẫn chưa tự chủ hoàn toàn. Ví dụ: rất khó để ghi lại âm thanh qua micro trần và do đó có được bản ghi đáng tin cậy để ghi lại xem mọi yếu tố trong danh sách kiểm tra an toàn phẫu thuật đã được hoàn thành hay chưa; ông ước tính rằng thuật toán này có tỷ lệ lỗi 15%. Vì vậy, trước khi hoàn thiện đầu ra của mỗi quy trình, một trong những nhà phân tích của Toronto sẽ xác minh việc tuân thủ bảng câu hỏi theo cách thủ công. Peter Grantcharov cho biết: “Việc này sẽ cần có con người tham gia, nhưng ông đánh giá rằng mô hình AI đã giúp quá trình xác nhận việc tuân thủ danh sách kiểm tra hiệu quả hơn từ 80% đến 90%. Ông cũng nhấn mạnh rằng các mẫu mã không ngừng được cải tiến.

Tổng cộng, hộp đen OR có thể tốn khoảng 100.000 USD để lắp đặt và chi phí phân tích lên tới 25.000 USD hàng năm, theo Janet Donovan, một y tá OR, người đã chia sẻ với Đánh giá công nghệ MIT một ước tính được đưa ra cho các nhân viên tại Bệnh viện Brigham and Girls’s Faulkner ở Massachusetts. (Peter Grantcharov từ chối bình luận về những con số này, viết trong e mail: “Chúng tôi không chia sẻ mức giá cụ thể; tuy nhiên, chúng tôi có thể nói rằng nó dựa trên sự kết hợp sản phẩm và tổng số phòng, với chính sách chiết khấu dựa trên số lượng vốn có được xây dựng. vào các mô hình định giá của chúng tôi.”)

“Anh lớn đang xem”

Trung tâm Y tế Do Thái Lengthy Island ở New York, một phần của hệ thống Y tế Northwell, là bệnh viện đầu tiên để thí điểm HOẶC hộp đen, vào tháng 2 năm 2019. Quá trình triển khai không hề liền mạch, mặc dù không nhất thiết là do công nghệ.

Louis Kavoussi, trưởng khoa tiết niệu của Northwell, nhớ lại: “Trong phòng đại trực tràng, các digicam đã bị phá hoại – chúng bị quay lại và cố tình rút phích cắm ra. Trong phòng mổ của anh, các nhân viên im lặng khi làm việc vì lo lắng họ sẽ nói sai. Kavoussi, người đã tham gia ban cố vấn khoa học về Công nghệ An toàn Phẫu thuật, cho biết: “Trừ khi bạn đang học chơi gôn hoặc tennis, bạn sẽ không muốn có ai đó nhìn chằm chằm vào đó theo dõi mọi việc bạn làm”.

Những lời hứa của Grantcharov về việc không sử dụng hệ thống để trừng phạt các cá nhân đã mang lại chút an ủi cho một số nhân viên HOẶC. Khi hai hộp đen được lắp đặt tại Bệnh viện Faulkner vào tháng 11 năm 2023, chúng đã khiến khoa phẫu thuật rơi vào tình trạng khủng hoảng. “Mọi người đều khá lo lắng về điều đó,” một kỹ thuật viên phẫu thuật yêu cầu giấu tên vì cô ấy không được phép phát biểu công khai, cho biết. “Chúng tôi đang bị theo dõi và chúng tôi cảm thấy như thể nếu mình làm sai điều gì đó, công việc của chúng tôi sẽ bị đe dọa.”

Không phải là cô ấy đang làm bất cứ điều gì bất hợp pháp hay đưa ra lời nói căm thù; cô chỉ muốn đùa giỡn với bạn bè, phàn nàn về ông chủ và được là chính mình mà không sợ bị quản trị viên soi mói. “Bạn ý thức rất rõ rằng mình đang bị theo dõi; nó không tinh tế chút nào,” cô nói. Những ngày đầu đặc biệt khó khăn khi các bác sĩ phẫu thuật từ chối làm việc trong phòng được trang bị hộp đen và nhân viên HOẶC tẩy chay những ca phẫu thuật đó: “Đó chắc chắn là một cuộc chiến mỗi sáng.”

Ở một mức độ nào đó, việc bảo vệ danh tính chỉ là một nửa biện pháp. Trước khi các bản ghi 30 ngày tự động bị xóa, Grantcharov thừa nhận, quản trị viên bệnh viện vẫn có thể xem số OR, thời gian phẫu thuật và số hồ sơ y tế của bệnh nhân, vì vậy ngay cả khi nhân viên HOẶC được xóa danh tính về mặt kỹ thuật, họ vẫn không thể nhận dạng được. thực sự vô danh. Kết quả là có cảm giác rằng “Huge Brother đang theo dõi”, Christopher Mantyh, phó chủ tịch điều hành lâm sàng tại Bệnh viện Đại học Duke, nơi có hộp đen trong bảy phòng mổ, cho biết. Anh ta sẽ dựa trên dữ liệu tổng hợp để nói một cách khái quát về việc cải thiện chất lượng tại các cuộc họp của bộ phận, nhưng khi các vấn đề cụ thể phát sinh, chẳng hạn như tình trạng vô trùng bị vô sinh hoặc một đợt nhiễm trùng, anh ta sẽ xem các bản ghi âm và “trực tiếp đến gặp bác sĩ phẫu thuật”.

Theo nhiều cách, đó là điều khiến Donovan, y tá của Bệnh viện Faulkner lo lắng. Cô không tin rằng bệnh viện sẽ bảo vệ danh tính của các nhân viên và lo lắng rằng những đoạn ghi âm này sẽ được sử dụng để chống lại họ — cho dù là thông qua các biện pháp kỷ luật nội bộ hay trong vụ kiện sơ suất của bệnh nhân. Vào tháng 2 năm 2023, cô và gần 60 người khác đã gửi thư cho trưởng khoa phẫu thuật của bệnh viện phản đối hộp đen. Kể từ đó, cô đã nộp đơn khiếu nại lên tiểu bang và thủ tục tố tụng trọng tài dự kiến ​​diễn ra vào tháng 10.