[ad_1]
Ý kiến
Gần đây tôi đã đến thăm một hội nghị và một câu trên một trong các slide đã thực sự gây ấn tượng với tôi. Trang trình chiếu đề cập rằng họ đang phát triển một mô hình AI để thay thế quyết định của con người và trích dẫn rằng mô hình này “khách quan” trái ngược với quyết định của con người. Sau khi suy nghĩ một lúc, tôi kịch liệt không đồng ý với tuyên bố đó vì tôi cảm thấy nó có xu hướng cô lập chúng ta khỏi những người mà chúng ta tạo ra những mô hình này. Điều này lại hạn chế tác động mà chúng ta có thể có.
Trong bài viết này, tôi muốn giải thích lý do tôi không đồng tình với AI và tính khách quan, và tại sao việc tập trung vào “khách quan” lại gây ra vấn đề cho các nhà nghiên cứu AI muốn tạo ra tác động trong thế giới thực. Bài viết phản ánh những hiểu biết mà tôi thu thập được từ nghiên cứu gần đây về lý do tại sao nhiều mô hình AI không đạt được hiệu quả triển khai.
Để hiểu rõ quan điểm của tôi, chúng ta cần thống nhất về những gì chúng ta muốn nói chính xác với tính khách quan. Trong bài luận này, tôi sử dụng những điều sau đây định nghĩa của Tính khách quan:
bày tỏ hoặc xử lý các sự kiện hoặc điều kiện được nhận thức mà không bị bóp méo bởi cảm xúc, thành kiến hoặc cách giải thích cá nhân
Đối với tôi, định nghĩa này nói lên điều mà tôi thực sự yêu thích về toán học: trong phạm vi của một hệ thống toán học, chúng ta có thể lý giải một cách khách quan về sự thật là gì và mọi thứ hoạt động như thế nào. Điều này hấp dẫn tôi rất nhiều, vì tôi thấy các tương tác xã hội và cảm xúc rất khó khăn. Tôi cảm thấy rằng nếu tôi làm việc đủ chăm chỉ, tôi có thể hiểu được bài toán, trong khi thế giới thực đáng sợ hơn nhiều.
Vì học máy và AI được xây dựng bằng toán học (chủ yếu là đại số), nên việc mở rộng tính khách quan tương tự này vào bối cảnh này là điều hấp dẫn. Tôi nghĩ với tư cách là một hệ thống toán học, học máy có thể được coi là khách quan. Nếu tôi giảm tốc độ học tập xuống, về mặt toán học, chúng ta sẽ có thể dự đoán được tác động sẽ như thế nào đối với kết quả AI. Tuy nhiên, với việc các mô hình ML của chúng tôi ngày càng lớn hơn và có nhiều hộp đen hơn, việc định cấu hình chúng ngày càng trở thành một nghệ thuật thay vì khoa học. Trực giác về cách cải thiện hiệu suất của mô hình có thể là một công cụ mạnh mẽ cho nhà nghiên cứu AI. Điều này nghe có vẻ rất gần với “cảm xúc, thành kiến hoặc cách giải thích cá nhân”.
Nhưng nơi mà tính chủ quan thực sự phát huy tác dụng là nơi mô hình AI tương tác với thế giới thực. Một mô hình có thể dự đoán khả năng một bệnh nhân mắc ung thư, nhưng cách tương tác với các quyết định y tế và phương pháp điều trị thực tế lại chứa đựng rất nhiều cảm xúc và diễn giải. Tác động của phương pháp điều trị đối với bệnh nhân sẽ như thế nào và liệu phương pháp điều trị đó có đáng không? Trạng thái tinh thần của bệnh nhân như thế nào và họ có thể chịu đựng được phương pháp điều trị không?
Nhưng tính chủ quan không kết thúc ở việc áp dụng kết quả của mô hình AI vào thế giới thực. Trong cách chúng ta xây dựng và cấu hình một mô hình, rất nhiều lựa chọn phải được thực hiện để tương tác với thực tế:
- Chúng ta có đưa dữ liệu nào vào mô hình hay không. Những bệnh nhân nào chúng ta quyết định là ngoại lệ?
- Chúng ta sử dụng số liệu nào để đánh giá mô hình của mình? Điều này ảnh hưởng như thế nào đến mô hình mà chúng ta tạo ra? Số liệu nào hướng chúng ta đến giải pháp thực tế? Có số liệu nào thực hiện được điều này không?
- Chúng ta xác định vấn đề thực tế mà mô hình của chúng ta sẽ giải quyết là gì? Điều này sẽ ảnh hưởng đến quyết định mà chúng tôi đưa ra liên quan đến cấu hình của mô hình AI.
Vì vậy, khi thế giới thực tương tác với các mô hình AI, tính chủ quan sẽ được đưa ra khá nhiều. Điều này áp dụng cho cả những lựa chọn kỹ thuật mà chúng ta thực hiện cũng như cách kết quả của mô hình tương tác với thế giới thực.
Theo kinh nghiệm của tôi, một trong những yếu tố hạn chế chính trong việc triển khai các mô hình AI trong thế giới thực là sự hợp tác chặt chẽ với các bên liên quan. Có thể là bác sĩ, nhân viên, nhà đạo đức học, chuyên gia pháp lý hoặc người tiêu dùng. Sự thiếu hợp tác này một phần là do xu hướng cô lập mà tôi thấy ở nhiều nhà nghiên cứu AI. Họ làm việc trên các mô hình của mình, tiếp thu kiến thức từ web và các bài báo, và cố gắng tạo ra mô hình AI theo khả năng tốt nhất của họ. Nhưng họ tập trung vào khía cạnh kỹ thuật của mô hình AI và tồn tại trong bong bóng toán học của họ.
Tôi cảm thấy rằng niềm tin rằng các mô hình AI là khách quan tái đảm bảo cho các nhà nghiên cứu AI rằng chủ nghĩa biệt lập này là tốt, tính khách quan của mô hình có nghĩa là nó có thể được áp dụng trong thế giới thực. Nhưng thế giới thực đầy rẫy “cảm xúc, định kiến và diễn giải”, tạo ra một mô hình AI tác động đến thế giới thực này cũng tương tác với những “cảm xúc, định kiến và diễn giải” này. Nếu chúng ta muốn tạo ra một mô hình có tác động trong thế giới thực, chúng ta cần kết hợp tính chủ quan của thế giới thực. Và điều này đòi hỏi phải xây dựng một cộng đồng các bên liên quan mạnh mẽ xung quanh nghiên cứu AI của bạn, nơi khám phá, trao đổi và tranh luận về tất cả những “cảm xúc, định kiến và diễn giải” này. Điều này đòi hỏi chúng ta, những nhà nghiên cứu AI, phải thoát khỏi lớp vỏ toán học tự áp đặt của mình.
Ghi chú: Nếu bạn muốn đọc thêm về cách thực hiện nghiên cứu theo cách toàn diện và hợp tác hơn, tôi thực sự khuyên bạn nên đọc tác phẩm của Tineke Abma chẳng hạn tờ giấy này.
Nếu bạn thích bài viết này, bạn cũng có thể thích một số bài viết khác của tôi:
[ad_2]
Source link