[ad_1]
Các tổ chức ngày càng sử dụng các mô hình học máy để phân bổ các nguồn lực hoặc cơ hội khan hiếm. Ví dụ, các mô hình như vậy có thể giúp các công ty sàng lọc sơ yếu lý lịch để chọn ứng viên phỏng vấn xin việc hoặc hỗ trợ các bệnh viện xếp hạng bệnh nhân ghép thận dựa trên khả năng sống sót của họ.
Khi triển khai một mô hình, người dùng thường cố gắng đảm bảo dự đoán của mô hình là công bằng bằng cách giảm độ lệch. Điều này thường liên quan đến các kỹ thuật như điều chỉnh các tính năng mà mô hình sử dụng để đưa ra quyết định hoặc hiệu chỉnh điểm số mà mô hình tạo ra.
Tuy nhiên, các nhà nghiên cứu từ MIT và Đại học Northeastern cho rằng các phương pháp công bằng này không đủ để giải quyết bất công về mặt cấu trúc và sự không chắc chắn vốn có. Trong một giấy mớichúng cho thấy cách ngẫu nhiên hóa các quyết định của mô hình theo cách có cấu trúc có thể cải thiện tính công bằng trong những tình huống nhất định.
Ví dụ, nếu nhiều công ty sử dụng cùng một mô hình học máy để xếp hạng các ứng viên phỏng vấn xin việc một cách xác định — không có bất kỳ sự ngẫu nhiên nào — thì một cá nhân xứng đáng có thể là ứng viên được xếp hạng thấp nhất cho mọi công việc, có lẽ là do cách mô hình cân nhắc các câu trả lời được cung cấp trong biểu mẫu trực tuyến. Việc đưa sự ngẫu nhiên vào các quyết định của mô hình có thể ngăn chặn một người hoặc một nhóm xứng đáng luôn bị từ chối một nguồn lực khan hiếm, như một cuộc phỏng vấn xin việc.
Thông qua phân tích của mình, các nhà nghiên cứu nhận thấy rằng tính ngẫu nhiên có thể đặc biệt có lợi khi các quyết định của mô hình liên quan đến sự không chắc chắn hoặc khi cùng một nhóm liên tục nhận được các quyết định tiêu cực.
Họ trình bày một khuôn khổ mà người ta có thể sử dụng để đưa một lượng ngẫu nhiên cụ thể vào các quyết định của mô hình bằng cách phân bổ nguồn lực thông qua xổ số có trọng số. Phương pháp này, mà một cá nhân có thể điều chỉnh để phù hợp với tình huống của họ, có thể cải thiện tính công bằng mà không làm tổn hại đến hiệu quả hoặc độ chính xác của mô hình.
“Ngay cả khi bạn có thể đưa ra những dự đoán công bằng, bạn có nên quyết định những phân bổ xã hội này về các nguồn lực khan hiếm hoặc các cơ hội chỉ dựa trên điểm số hoặc thứ hạng không? Khi mọi thứ mở rộng quy mô và chúng ta thấy ngày càng nhiều cơ hội được quyết định bởi các thuật toán này, thì những bất ổn vốn có trong các điểm số này có thể được khuếch đại. Chúng tôi chỉ ra rằng tính công bằng có thể đòi hỏi một số loại ngẫu nhiên hóa”, Shomik Jain, một nghiên cứu sinh tại Viện Dữ liệu, Hệ thống và Xã hội (IDSS) và là tác giả chính của bài báo cho biết.
Jain tham gia vào bài báo này cùng Kathleen Creel, phó giáo sư triết học và khoa học máy tính tại Đại học Northeastern; và tác giả chính Ashia Wilson, Giáo sư phát triển sự nghiệp Lister Brothers tại Khoa Kỹ thuật điện và Khoa học máy tính và là nhà nghiên cứu chính tại Phòng thí nghiệm Hệ thống thông tin và quyết định (LIDS). Nghiên cứu sẽ được trình bày tại Hội nghị quốc tế về học máy.
Xem xét các khiếu nại
Công việc này được xây dựng dựa trên bài báo trước trong đó các nhà nghiên cứu đã khám phá những tác hại có thể xảy ra khi một người sử dụng các hệ thống xác định ở quy mô lớn. Họ phát hiện ra rằng việc sử dụng mô hình học máy để phân bổ tài nguyên một cách xác định có thể khuếch đại sự bất bình đẳng tồn tại trong dữ liệu đào tạo, điều này có thể củng cố sự thiên vị và bất bình đẳng có hệ thống.
Wilson cho biết: “Ngẫu nhiên hóa là một khái niệm rất hữu ích trong thống kê và chúng tôi rất vui khi nó đáp ứng được các yêu cầu về tính công bằng xuất phát từ cả quan điểm hệ thống và cá nhân”.
TRONG tờ giấy nàyhọ đã khám phá câu hỏi về thời điểm ngẫu nhiên có thể cải thiện tính công bằng. Họ đóng khung phân tích của mình xung quanh các ý tưởng của triết gia John Broome, người đã viết về giá trị của việc sử dụng xổ số để trao tặng các nguồn lực khan hiếm theo cách tôn trọng mọi yêu cầu của cá nhân.
Yêu cầu của một người đối với một nguồn tài nguyên khan hiếm, như ghép thận, có thể xuất phát từ công lao, sự xứng đáng hoặc nhu cầu. Ví dụ, mọi người đều có quyền được sống và yêu cầu ghép thận của họ có thể xuất phát từ quyền đó, Wilson giải thích.
“Khi bạn thừa nhận rằng mọi người có những yêu cầu khác nhau đối với các nguồn tài nguyên khan hiếm này, thì tính công bằng sẽ đòi hỏi chúng ta phải tôn trọng mọi yêu cầu của cá nhân. Nếu chúng ta luôn trao cho người có yêu cầu mạnh hơn về nguồn tài nguyên, thì điều đó có công bằng không?” Jain nói.
Kiểu phân bổ xác định đó có thể gây ra sự loại trừ có hệ thống hoặc làm trầm trọng thêm sự bất bình đẳng có khuôn mẫu, xảy ra khi nhận được một phân bổ làm tăng khả năng nhận được các phân bổ trong tương lai của một cá nhân. Ngoài ra, các mô hình học máy có thể mắc lỗi và cách tiếp cận xác định có thể khiến cùng một lỗi lặp lại.
Việc ngẫu nhiên hóa có thể khắc phục những vấn đề này, nhưng điều đó không có nghĩa là mọi quyết định mà mô hình đưa ra đều phải được ngẫu nhiên hóa như nhau.
Phân bố ngẫu nhiên có cấu trúc
Các nhà nghiên cứu sử dụng xổ số có trọng số để điều chỉnh mức độ ngẫu nhiên dựa trên mức độ không chắc chắn liên quan đến việc ra quyết định của mô hình. Một quyết định ít chắc chắn hơn nên kết hợp nhiều ngẫu nhiên hơn.
“Trong việc phân bổ thận, thông thường việc lập kế hoạch sẽ xoay quanh tuổi thọ dự kiến, và điều đó rất không chắc chắn. Nếu hai bệnh nhân chỉ cách nhau năm năm, việc đo lường sẽ trở nên khó khăn hơn nhiều. Chúng tôi muốn tận dụng mức độ không chắc chắn đó để điều chỉnh việc phân bổ ngẫu nhiên”, Wilson nói.
Các nhà nghiên cứu đã sử dụng các phương pháp định lượng bất định thống kê để xác định mức độ ngẫu nhiên cần thiết trong các tình huống khác nhau. Họ chỉ ra rằng ngẫu nhiên hiệu chuẩn có thể dẫn đến kết quả công bằng hơn cho các cá nhân mà không ảnh hưởng đáng kể đến tiện ích hoặc hiệu quả của mô hình.
Wilson cho biết: “Cần phải có sự cân bằng giữa tiện ích chung và việc tôn trọng quyền của những cá nhân đang nhận được nguồn tài nguyên khan hiếm, nhưng thường thì sự đánh đổi là tương đối nhỏ”.
Tuy nhiên, các nhà nghiên cứu nhấn mạnh rằng có những tình huống mà việc đưa ra quyết định ngẫu nhiên sẽ không cải thiện tính công bằng và có thể gây hại cho cá nhân, chẳng hạn như trong bối cảnh tư pháp hình sự.
Nhưng có thể có những lĩnh vực khác mà ngẫu nhiên hóa có thể cải thiện tính công bằng, chẳng hạn như tuyển sinh đại học, và các nhà nghiên cứu có kế hoạch nghiên cứu các trường hợp sử dụng khác trong công việc trong tương lai. Họ cũng muốn khám phá cách ngẫu nhiên hóa có thể ảnh hưởng đến các yếu tố khác, chẳng hạn như cạnh tranh hoặc giá cả, và cách nó có thể được sử dụng để cải thiện tính mạnh mẽ của các mô hình học máy.
“Chúng tôi hy vọng bài báo của chúng tôi là bước đi đầu tiên hướng đến việc minh họa rằng có thể có lợi ích khi phân bổ ngẫu nhiên. Chúng tôi cung cấp phân bổ ngẫu nhiên như một công cụ. Mức độ bạn muốn thực hiện sẽ tùy thuộc vào tất cả các bên liên quan trong quá trình phân bổ để quyết định. Và tất nhiên, cách họ quyết định là một câu hỏi nghiên cứu khác”, Wilson nói.
[ad_2]
Source link