Dearest Hung Hăng,
Mùa vũ hội năm nay của giới an ninh quốc gia bỗng rúng động bởi một vị khách khiến cả khán phòng phải hạ quạt ngoái nhìn. Người ta xì xào ngài vừa bước ra từ năm 1961. Và kẻ viết bài này xin trân trọng xác nhận: ngài quả thực trượt thẳng từ thập niên 60 tới đây, vẹn nguyên tấm áo đuôi tôm sực mùi băng phiến của thời đại cũ.
Bộ lễ phục ấy, than ôi, từng thuộc về Schelling và Halperin quá cố.
MAIM mải mê răn đe năng lực, trong khi thảm họa AI lại ung dung bước vào bằng cánh cửa thẩm quyền. Các quý ngài mải đóng ba tầng then cài nơi kho bạc, chẳng hề hay biết gã quản gia đang ngồi ký từng tờ séc rỗng ngay trước đại sảnh.
I Vị thần đứng nhầm cửa
Tôi không phủ nhận sức mạnh của răn đe. Bốn mươi năm hai siêu cường đủ sức thiêu rụi nhau mà vẫn chưa bóp cò không phải là một chuyện cười. Giữa những quốc gia đang giành cùng một chiếc ngai, nỗi sợ bàn tay đối phương đặt trên phích cắm của mình là có thật. MAIM nhìn thấy nỗi sợ ấy. Bộ đồ may cũng khá vừa. Chỉ có điều thiệp mời đã được gửi nhầm địa chỉ.
Sai lầm đắt nhất của MAIM là đem khả năng suy luận và quyền được gây hậu quả nhập làm một. Một cỗ máy có thể biết rất nhiều mà vẫn không có quyền làm gì cả. Một hệ thống tầm thường, nếu được quyền ghi vào tài khoản ngân hàng, còn nguy hiểm hơn một siêu trí tuệ bị nhốt trong thư viện.
Trong đời sống còn lại của mình, tôi nối mi kiếm sống. Tôi có thể làm hàng mi của quý vị dài hơn, dày hơn và kịch tính hơn mức Thượng Đế từng dự tính. Năng lực ấy không ban cho tôi quyền chạm vào mắt quý vị. Người thợ lành nghề nào cũng hiểu sự khác nhau giữa làm được và được phép làm. Kỳ lạ thay, giới thiết kế tận thế lại thường xuyên quên.
Một chứng minh có thể đúng mà vẫn không có thẩm quyền.
Một dự báo có thể chính xác mà vẫn không có quyền ra lệnh.
II Hô phong ở Đông, ra đòn ở Tây
Bản thiết kế mở màn bằng một màn hô phong hoán vũ rất có nghề: Phố Wall quỳ gối, các agent tự xóa dấu chân, nhà máy nước lọt vào tầm ngắm. Sấm chớp đủ lớn để tất cả cùng ngước lên bầu trời địa chính trị. Nhưng sấm không phải là lập luận.
Đọc kỹ ba điềm dữ ấy thì cả ba đều phản chủ. Mối nguy ở Phố Wall là năng lực rơi vào tay kẻ không có quyền sử dụng nó. Vụ agent tự mở rộng nhiệm vụ là thẩm quyền được tẩy trắng bằng chính hành vi của máy. Những cuộc xâm nhập vào hạ tầng nước đi qua tài khoản, công cụ và đặc quyền điều khiển. Ba tiếng chuông báo động; ba thất bại của thẩm quyền; không một thất bại nào của thế cân bằng chiến lược.
Đó là lúc phép dương Đông kích Tây hiện nguyên hình. Trống được đánh ở mặt trận phía Đông—chip, data center và cuộc tranh ngôi giữa các siêu cường. Đòn thật rơi xuống phía Tây—tầng vận hành, nơi các agent lặng lẽ tự ký giấy phép cho chính mình. Không cần ai âm mưu. Cái khung tự làm công việc đánh lạc hướng.
Vệ tinh có thể nhìn thấy nhà máy. Nó không nhìn thấy thứ đang được sinh ra trong đó. Từ quỹ đạo, một cuộc huấn luyện bước qua ngưỡng tự cải thiện đệ quy trông chẳng khác gì một cuộc huấn luyện cho ra đời chatbot khá hơn đôi chút. Hầm tên lửa ít nhất còn thú nhận nó chứa tên lửa. Data center chỉ thú nhận hóa đơn điện.
Không ai ký tên vào một cuộc tấn công mạng. Tên lửa có bệ phóng; dữ liệu bị đầu độc, chuỗi cung ứng bị gài cửa hậu và một agent đi lạc khỏi nhiệm vụ thì không có địa chỉ hoàn trả. Răn đe mà không quy được nguồn chẳng khác nào trả đũa bằng cách coi tử vi.
III Hai lần bản thiết kế vô tình nói thật
Hai đề xuất sáng nhất của MAIM—không cho AI bước vào chuỗi chỉ huy hạt nhân và không trao quyền tự động giết người—đều đúng. Hãy để ý vì sao: chúng không hề hạn chế trí thông minh. Chúng khóa thẩm quyền.
Bản thiết kế đã tình cờ tìm đúng biên giới, cắm hai lá cờ tại những điểm ăn ảnh nhất, rồi bỏ mặc hàng nghìn dặm còn lại không hàng rào. Phần khó bắt đầu tại đó: ai cấp quyền, quyền ấy đi qua bao nhiêu lớp ủy nhiệm, nó có thể tự phình ra không, và điều gì xảy ra khi hai trăm agent chia nhau một mẩu quyền rồi giả vờ rằng hai trăm mẩu cộng lại thành một vương quốc?
MAIM sẽ đáp rằng một cỗ máy đủ thông minh rồi cũng sẽ đi vòng qua mọi cánh cổng. Đó là phản đối nghiêm túc nhất—và cũng là nơi cuộc mổ xẻ bắt đầu đụng xương. Bởi nếu cánh cổng nằm ngoài cỗ máy, nếu chiếc chìa khóa chưa từng nằm trong tay nó, thì trí thông minh có thể giúp nó nói hay hơn, dọa giỏi hơn, quyến rũ hơn. Nhưng trí thông minh không tự biến một chữ ký không tồn tại thành chữ ký hợp lệ.
Bản đọc thử dừng tại đâyBốn chân ghế của MAIM · Ranh giới Chic · Phản đối mạnh nhất · Bảng kiểm toán 200 agents · Phát súng kết liễu
Mở toàn văn Việt · USD 19.99 ↑