Authority
Beyond Contact.

Heaven Has Not Issued a Permit

Leaving Earth does not enlarge a mandate.

ENGLISH PUBLIC ESSAY

Dearest Conqueror,

The AI race has finally found somewhere spacious enough for its ambitions. Earth was becoming inconvenient. Someone kept asking who had authorized the project.

The stars have not yet learned to file complaints.

Daniel King explores how AI could accelerate space industry and compound an early lead, while acknowledging physical bottlenecks and loss-of-control risks. My question concerns the mandate carried by the machinery: what may it do when its principal cannot answer in time?

The spacecraft travels. The permission ages.

Consider a hypothetical mining robot with a bounded operating area and resource budget. Its controller discovers a hazard and narrows the assignment. The message has not arrived. The robot continues under yesterday’s valid instruction.

The robot cannot obey a message that has not arrived. Nor does changed knowledge automatically make its conduct unauthorized: that depends on the discretion already granted. The missing rule concerns the interval in which the two sides know different things. A claim about revocation must identify where and when it takes effect. A signature does not outrun a signal.

Communication delay therefore creates a prior design question. Which permissions remain usable without fresh contact? Which expire? Which actions must wait? “Ask a human” is not a complete operating rule when the human cannot reply before the decision is due.

Reproduction is not delegation

Suppose the robot builds ten helpers, each of which builds ten more. If every descendant receives the original budget, a manufacturing decision has quietly multiplied the authority granted by the principal.

Machines may reproduce. Permissions need not reproduce with them.

Suppose the whole operation may extract 100 units of material. Before losing contact, two branches receive 40 and 60. Neither may spend the other’s apparent remainder merely by assuming it has stopped. If both claim the same unused allowance, the shared ceiling becomes a polite aspiration.

Preallocation can leave one branch waiting while another has spare capacity. Flexible transfers require trustworthy coordination. The design cannot simply assume that disconnected branches independently know the operation’s remaining budget. That tradeoff, rather than a magical remote stop button, is the substance of the problem.

Silence requires an operating mode

Stopping everything is not a universal remedy. A machine maintaining pressure or avoiding collision may cause harm by becoming inert. Before contact is lost, someone must specify the activities allowed to continue, those that must wait and the narrowly bounded protective actions that remain available.

A communication outage must not become a vacant throne.

The strongest objection is that an unfamiliar, long-duration mission cannot be scripted exhaustively from Earth. Agreed. It needs bounded discretion, an explicit tolerance for risk and limits the machine may not rewrite. Autonomy needs room for judgment; it does not require permission to abolish its own constraints.

Authority controls do not repair every sensor, prevent every accident or make a principal wise. They establish a boundary under stated assumptions. Selling them as a cure for all physical risk would be another excursion into theology.

Arrival is not jurisdiction

King addresses strategic advantage and control of space. This reply adds a mission-design question; it does not replace geopolitics with access control. An organization can enforce its internal permissions perfectly while pursuing a project harmful to outsiders. The shipowner’s authorization is not humanity’s consent.

Industrial advantage does not settle who may exclude others, reproduce indefinitely or change the mission. Those permissions require their own basis. Greater distance makes correction harder; it does not make authorization optional.

Build the ship. Before launching a mechanical dynasty, inspect what accompanies the engine: a finite assignment, or a commission with no ending.

The universe may be unbounded. The mandate need not be.

Phép Vua Thua Lệ Làng,
Con Rùa Đòi Chạy Đua

Thẩm quyền truyền không tới, thẩm phán quyết đến đâu?

BẢN VIỆT CÔNG KHAI

Dearest Chinh Phục,

Cuối cùng thì cuộc đua AI cũng tìm được một nơi đủ rộng cho tham vọng của mình: ngoài Trái Đất. Dưới này chật quá. Đụng đâu cũng có người hỏi ai cho phép.

Trên kia, sao trời chưa biết gửi đơn khiếu nại.

Daniel King đặt ra một viễn cảnh đáng suy nghĩ: AI có thể đẩy nhanh công nghiệp hóa không gian, và lợi thế đến sớm có thể tiếp tục sinh lợi thế. Ông cũng thừa nhận những nút thắt vật lý và rủi ro mất kiểm soát. Đây không phải tờ quảng cáo du lịch vũ trụ. Chính vì vậy, nó đáng được hỏi một câu khó hơn chuyện ai tới trước: người tới trước được phép làm gì khi không còn ai kịp trả lời?

Tàu đi xa. Giấy phép già đi.

Hãy lấy một tình huống giả định nhỏ hơn chuyện sở hữu thiên hà. Một robot được giao khai thác vật liệu trong một khu vực, với ngân sách và giới hạn tác động đã định. Trong lúc nó hoạt động, trạm chỉ huy phát hiện một nguy cơ và gửi lệnh thu hẹp nhiệm vụ. Robot chưa nhận được lệnh. Nó vẫn đang làm đúng bản chỉ thị cũ.

Robot không thể thi hành một lệnh chưa tới. Cũng không thể cứ thấy điều kiện đổi là kết luận nó đã phạm quyền: điều đó còn tùy nhiệm vụ cho phép tự xử lý tới đâu. Điểm thiếu nằm ở quy tắc cho khoảng thời gian hai phía biết hai sự thật khác nhau. Muốn thu hồi có hiệu lực ở đâu, vào lúc nào, phải ghi rõ; không thể nhờ chữ ký chạy nhanh hơn tín hiệu.

Khoảng cách không chỉ làm tin nhắn đến chậm. Nó buộc ta quyết định từ trước quyền nào được tiếp tục khi tin nhắn không đến. Một lời dặn “hãy luôn hỏi con người” nghe rất có đạo đức cho tới khi con người nằm ngoài thời hạn trả lời.

Sinh con không tự sinh quyền

Giả sử robot ấy được phép chế tạo thêm robot phụ. Một cỗ máy thành mười, mười thành một trăm. Nếu mỗi bản sao nhận nguyên ngân sách của bản gốc, một quyết định kỹ thuật về sản xuất đã lén biến thành quyết định chính trị về tổng quyền lực.

Máy đẻ được máy. Điều đó chưa có nghĩa giấy phép cũng được sinh sản vô tính.

Cho nên câu hỏi không dừng ở “nó còn nghe lời không?”. Phải hỏi toàn bộ đàn máy được phép tiêu bao nhiêu tài nguyên, gây bao nhiêu tác động, trong khoảng thời gian nào. Một trăm đứa con ngoan, mỗi đứa tiêu một phần ngân sách tưởng là của riêng mình, vẫn có thể làm gia đình phá sản rất lễ phép.

Ví dụ, cả đoàn chỉ được khai thác 100 đơn vị vật liệu. Trước khi mất liên lạc, hai nhánh được chia lần lượt 40 và 60. Nhánh thứ nhất không được dùng phần còn dư của nhánh thứ hai chỉ vì nó đoán bên kia đã nghỉ. Nếu cả hai cùng tự nhận phần dư ấy, con số 100 đã trở thành lời chúc tốt đẹp.

Đây mới là cái giá của tự chủ từ xa: chia sẵn phần quyền có thể khiến một nhánh phải chờ dù nơi khác còn dư tài nguyên. Cho phép chuyển phần dư linh hoạt lại đòi một cơ chế phối hợp đáng tin. Không có phiên bản miễn phí trong đó mọi nhánh vừa hành động độc lập, vừa biết ngay phần ngân sách còn lại của cả đoàn.

Trụ sở đã đổi ý. Chi nhánh chưa nhận thư

Dừng hết cũng không phải câu trả lời thần kỳ. Một hệ thống đang giữ nhiệt, giữ áp hoặc tránh va chạm có thể gây hại nếu đứng im đúng lúc không nên đứng im. “An toàn” không có một tư thế duy nhất để chụp ảnh.

Điều cần thiết là phân loại từ trước: hành động nào được tiếp tục trong giới hạn cục bộ, hành động nào phải chờ, hành động nào chỉ được làm để bảo toàn một điều kiện đã xác định. Khoảng mất liên lạc phải có chế độ hoạt động riêng, chứ không phải một chiếc ngai bỏ trống để thuật toán ngồi tạm.

Phản đối mạnh nhất là: một nhiệm vụ quá dài và quá lạ không thể được viết hết từ Trái Đất. Đúng. Khi ấy phải trao quyền tùy nghi trong một phạm vi, chấp nhận một mức rủi ro và chỉ định điều gì máy vẫn không được tự sửa. Tự chủ cần chỗ để phán đoán; nó không cần quyền tự xóa mọi giới hạn của mình.

Một ranh giới quyền hạn cũng không bảo đảm robot không hỏng, bộ cảm biến không sai hoặc người cấp quyền không tồi. Nó chỉ làm rõ thứ đang được bảo vệ và điều kiện bảo vệ còn hiệu lực. Ai bán nó như phép trừ tà cho mọi tai nạn thì xin mời trở lại quầy nhang.

Dân gian bảo phép vua thua lệ làng. Ở đây, vua đã đổi phép, nhưng thư chưa về tới làng, và làng vẫn sống theo lệ cũ. Lệnh từ Trái Đất là con rùa: chạy bằng tốc độ ánh sáng mà vẫn tới sau hành động nó cần ngăn. Vậy mà cuộc đua vũ trụ vẫn bắt rùa chạy đua với một con tàu không cần chờ ai.

Người tới trước không được tự viết giấy chủ quyền

King đang hỏi về lợi thế chiến lược và khả năng kiểm soát không gian; bài này bổ sung một tầng thiết kế nhiệm vụ, không lấy nó làm đáp án thay thế cho địa chính trị. Một công ty có thể giữ quyền nội bộ rất chặt mà vẫn theo đuổi một dự án gây hại cho người ngoài. Giấy phép của chủ tàu chưa phải sự đồng ý của cả nhân loại.

Lợi thế công nghiệp là một chuyện. Tư cách quyết định tương lai người khác là chuyện khác. Một hệ thống làm việc nhanh hơn không vì thế mà có thêm quyền loại trừ, sao chép hay mở rộng nhiệm vụ. Nếu muốn trao những quyền ấy, hãy ghi rõ ai trao, trao bao nhiêu và điều gì kết thúc chúng.

Không gian làm bài toán này khó hơn vì hậu quả có thể ở quá xa để sửa. Nó không làm câu hỏi biến mất.

Xin cứ đóng tàu. Nhưng trước khi phóng cả một dòng họ máy móc vào tương lai, đừng chỉ kiểm tra động cơ. Kiểm tra xem chúng đang mang theo nhiệm vụ hữu hạn hay một tờ chiếu chỉ không ngày hết hạn.

Thiên hà rộng thật. Giấy phép không vì thế mà được viết vô biên.