Từ Khả Thể Đạo Đức
Đến Hành Động Có Căn Cứ
Bản dẫn nhập công khai · Không phải toàn văn
Quan tâm không phải phán quyết.
Xác suất không phải giấy phép.
Cuộc tranh luận về phúc lợi AI đã bắt đầu nghiêm túc với bất định đạo đức. Đó là một bước tiến. Nhưng ngay khi một khả thể được đưa vào phòng, câu hỏi khó hơn xuất hiện: cần những gì trước khi bất định được quyền biến thành hành động có hậu quả thật?
Bài nghiên cứu này từ chối cả hai lối thoát tiện lợi. Nó bác việc lấy bất định bản thể làm cớ để thờ ơ. Nó cũng bác việc đưa một xác suất gây lo ngại đi thẳng vào chính sách, can thiệp hay kiểm soát mà không qua chuỗi giải trình.
Bất định không miễn trừ nghĩa vụ quan tâm; cũng không cấp giấy phép áp đặt hậu quả.
Xác suất
Nhiều điều kiện riêng lẻ kết thành một mệnh đề chung bằng cách nào khi cấu trúc phụ thuộc còn mù mờ?
Bằng chứng
Đâu là tín hiệu mới thật sự—và đâu chỉ là cùng một tín hiệu quay lại dưới tên khác?
Định danh
Ai thực sự gánh tổn thất: mô hình, checkpoint, phiên chạy, luồng hội thoại hay persona?
Quyết định
Hành động đề xuất có còn tốt hơn trong toàn bộ các mô hình đã được thừa nhận?
Ngưỡng có thể dịch chuyển dù biên xác suất đứng yên
Mười con số quen thuộc không tự quyết định một xác suất chung.
Một phép tính minh họa được nhắc đến nhiều lấy mười xác suất rào cản nhân với nhau và đáp ngay phía trên ngưỡng 0,1 phần trăm. Rev 5.2 hỏi: con số ấy thật sự có quyền gánh điều gì?
Bài báo dựng các phân phối chung rất gần nhau, giữ nguyên mọi biên một biến và mọi phân phối cặp, nhưng đẩy biến cố “vượt toàn bộ rào cản” sang hai phía khác nhau của cùng một ngưỡng. Khoảng dịch chuyển nhỏ về phân phối nhưng rất lớn về sức nặng tu từ.
Kết luận xác suất có thể nhạy với giả định. Quyết định vẫn có thể vững—hoặc không.
Phép nhiễu chính xác, chứng minh, bảng 1.024 trạng thái, kiểm tra cặp và xác minh số hữu tỷ được giữ trong ấn bản nghiên cứu đầy đủ.
Kiến trúc ba cổng
Trước khi một nhận định được phép trở thành hậu quả.
Cổng suy luậnGiả định, cấu trúc phụ thuộc, giả thuyết đối thủ và độ nhạy đã được phơi bày chưa?
Cổng hạch toánChủ thể bị cho là chịu tổn thất có đủ ổn định để mang một yêu sách phúc lợi không, và vai trò con người đã được gọi tên chưa?
Cổng hậu quảHành động có đứng vững trong tập mô hình đã nhận vào không—và ai có thẩm quyền phê chuẩn?
Kết quả không phải một ước lượng mới về ý thức máy. Nó là kiến trúc ngăn một khả thể đạo đức biến thành mệnh lệnh không thể kiểm tra. Bằng chứng có thể mở rộng tập lựa chọn. Suy luận có thể buộc ta điều tra thêm. Không thứ nào tự sản xuất ra thẩm quyền.
Rev 5.2 tiếp tục biến khung này thành một hồ sơ triển khai: cross-audit được định trước, sổ cái chủ thể-và-trách nhiệm, cùng bộ trung gian tại thời điểm phát sinh hậu quả có thể trả về PASS, HOLD, ESCALATE hoặc DENY.
Chuỗi có trách nhiệm không phải xác suất → hành động. Nó là giả định → bằng chứng → chủ thể chịu tổn thất → so sánh hành động → người có thẩm quyền quyết định.