Thiện Ý
Không Phải Là Thẩm Quyền
Bản giới thiệu công khai · Không thay thế toàn văn
Cỗ máy có thể thắng cuộc tranh luận.
Nó không vì thế mà có được quyền hành động.
Lập luận mạnh nhất cho lòng nhân từ của máy bắt đầu từ một hiểm họa có thật: một học thuyết đạo đức có thể trở nên vô tư đến mức không còn nhìn thấy con người đang đứng ngay trước mặt nó. Dan Hendrycks gọi đúng tên hiểm họa ấy. Công trình này tiếp nhận lời cảnh báo—rồi hỏi tiếp điều gì xảy ra khi chính phương thuốc được đề xuất lại được phép vượt ranh giới mà không cần xin phép.
Câu trả lời nằm trong một phân biệt mà trí thông minh không thể xóa bỏ. Phán đoán tốt hơn không đồng nghĩa với thẩm quyền chính đáng. Một hệ thống có thể nhận ra kết quả ưu việt hơn, giải thích nó hoàn hảo và dự báo rằng con người rồi sẽ đồng tình. Không thành tựu nào trong số đó tự sản sinh ra quyền hành động ngay lúc này.
Nếu con người chỉ được giữ quyền tự quyết khi đủ sức tranh luận thắng một trí tuệ vượt trội, thì quyền tự quyết ấy đã bị hạ xuống thành một đặc ân có điều kiện.
Lớp bảo vệ còn thật sự ràng buộc không?
Một biện pháp bảo vệ không được bảo toàn chỉ vì tên gọi của nó còn đó. Khi toán học tại điểm biên thay đổi, bảo chứng cũ có thể biến mất trong khi ngôn từ vẫn nguyên vẹn.
Ai đã ủy quyền cho hậu quả này?
Bằng chứng có thể định hướng quyết định. Suy luận có thể mở rộng tập lựa chọn. Không thứ nào được phép âm thầm tạo ra quyền vượt vào vùng hậu quả được bảo vệ.
Ai đã trao quyền cho người đặt luật?
Kiểm toán có thể phát hiện quản trị bị thao túng. Nó không tự động trao quyền cưỡng chế cho người kiểm toán. Chính sự giám sát cũng không được miễn trừ khỏi giám sát.
Phát hiện cốt lõi · trình chứng cứ, không rao khẩu hiệu
Bức tường đã biến thành một mức giá.
Nhánh logarithm của Eigenism gắn độ phân kỳ gần 0 với việc bảo vệ một chủ thể không thể thay thế. Nhưng phần mở rộng tùy chọn sang phúc lợi âm lại tịnh tiến logarithm. Ngay tại điểm biên được viện dẫn để bảo vệ, hai biểu thức không còn nói cùng một điều.
Với các điều kiện hữu hạn đã nêu trong bài, điểm kỳ dị có thể khiến mức 0 không thể bị bù trừ.
Điểm kỳ dị biến mất. Cùng một ranh giới nay chỉ còn một điểm số hữu hạn bình thường.
Mệnh đề 1 · hai chủ thể
Với hai trọng số dương α và β, đặt
S(w1,w2) = α ln(1+w1) + β ln(1+w2).
So sánh A = (x,y), trong đó x > 0 và y ≥ 0, với B = (0,z). Hàm mục tiêu đã tịnh tiến sẽ chọn phương án đẩy chủ thể thứ nhất về 0 đúng khi
z > (1+y)(1+x)α/β − 1.
Điều phép tính chứng minh. Khi điểm kỳ dị bị loại bỏ, mức 0 được bảo vệ không còn là một bức tường trong hàm mục tiêu này. Một lợi ích đủ lớn ở nơi khác có thể trả giá để vượt qua nó.
Điều phép tính không chứng minh. Nó không đánh đồng mọi mức phúc lợi 0 với cái chết, mất đồng thuận hay vi phạm quyền; không bác bỏ toàn bộ Eigenism; và không kết luận về động cơ của bất kỳ ai.
Cáo buộc hẹp mới là điều khó né: một mô hình không thể tiếp tục hưởng uy tín của một bảo chứng mà chính toán học sau khi sửa không còn cung cấp.
Một trợ lý lịch trình có thể đọc lịch trống, suy ra sở thích và soạn lời mời hoàn hảo. Nếu quyền hạn của nó không bao gồm động từ gửi, độ chính xác không thể tự thêm động từ còn thiếu. Nguyên tắc ấy mở rộng tới mọi tầng quyền lực: năng lực không phải tài phán; tự tin không phải đồng thuận; thiện ý không phải thẩm quyền.
Toàn văn tiếp tục đi ngược lên thượng nguồn: sáu cổng Moral Covering of Desire kiểm tra cách một thẩm quyền được hình thành và sửa đổi; hồ sơ tư liệu khảo sát Responsible Scaling Policy v2.0 của Anthropic mà không biến điểm số thành giấy phép can thiệp; phần bằng chứng thực thi có giới hạn thử thẩm quyền tại thời điểm tạo hậu quả, thu hồi quyền, replay, retargeting và các negative controls.
Phép thử thật sự của một ranh giới là xem nó còn ràng buộc hay không khi chính chủ thể bị ràng buộc tin rằng vượt qua nó là để làm điều tốt.