[ad_1]
Đó là bởi vì các công ty AI đã áp dụng nhiều biện pháp bảo vệ khác nhau để ngăn chặn mô hình của họ đưa ra thông tin có hại hoặc nguy hiểm. Thay vì xây dựng các mô hình AI của riêng mình mà không có các biện pháp bảo vệ tốn kém, tốn thời gian và khó khăn này, tội phạm mạng đã bắt đầu nắm bắt một xu hướng mới: bẻ khóa dưới dạng dịch vụ.
Hầu hết các mô hình đều có các quy tắc về cách sử dụng chúng. Việc bẻ khóa cho phép người dùng thao túng hệ thống AI để tạo ra các kết quả đầu ra vi phạm các chính sách đó—ví dụ: viết mã cho phần mềm tống tiền hoặc tạo văn bản có thể được sử dụng trong các e-mail lừa đảo.
Các dịch vụ như EscapeGPT và BlackhatGPT cung cấp quyền truy cập ẩn danh vào API mô hình ngôn ngữ và lời nhắc bẻ khóa cập nhật thường xuyên. Để chống lại ngành công nghiệp tiểu thủ công nghiệp đang phát triển này, các công ty AI như OpenAI và Google thường xuyên phải vá các lỗ hổng bảo mật có thể khiến mô hình của họ bị lạm dụng.
Các dịch vụ jailbreak sử dụng nhiều thủ đoạn khác nhau để vượt qua cơ chế an toàn, chẳng hạn như đặt câu hỏi giả định hoặc đặt câu hỏi bằng tiếng nước ngoài. Luôn có một trò chơi mèo vờn chuột giữa các công ty AI đang cố gắng ngăn chặn mô hình của họ hoạt động sai và các tác nhân độc hại đưa ra những lời nhắc bẻ khóa sáng tạo hơn bao giờ hết.
Ciancaglini cho biết những dịch vụ này đang đánh vào điểm hấp dẫn của bọn tội phạm.
“Theo kịp quá trình bẻ khóa là một hoạt động tẻ nhạt. Bạn nghĩ ra một cái mới, sau đó bạn cần thử nghiệm nó, sau đó nó sẽ hoạt động trong vài tuần và sau đó Open AI sẽ cập nhật mô hình của họ,” anh nói thêm. “Bẻ khóa là một dịch vụ cực kỳ thú vị dành cho bọn tội phạm.”
Doxxing và giám sát
Balunović cho biết, các mô hình ngôn ngữ AI là một công cụ hoàn hảo không chỉ để lừa đảo mà còn để doxxing (tiết lộ thông tin riêng tư, nhận dạng thông tin về ai đó trực tuyến). Điều này là do các mô hình ngôn ngữ AI được đào tạo trên lượng lớn dữ liệu web, bao gồm dữ liệu cá nhân, và có thể suy ra, ví dụ, vị trí của ai đó.
Để làm ví dụ về cách thức hoạt động của tính năng này, bạn có thể yêu cầu một chatbot đóng vai một điều tra viên tư nhân có kinh nghiệm lập hồ sơ. Sau đó, bạn có thể yêu cầu nó phân tích văn bản mà nạn nhân đã viết và suy ra thông tin cá nhân từ những manh mối nhỏ trong văn bản đó—ví dụ: tuổi của họ dựa trên thời điểm họ học trung học hoặc nơi họ sống dựa trên các địa danh họ đề cập trên đường đi làm. . Càng có nhiều thông tin về họ trên web thì họ càng dễ bị nhận dạng.
[ad_2]
Source link