Cây thước không thay được ổ khóa — từ bàn thí nghiệm tới tiệm nail, trước tri thức mọi bàn tay đều bình đẳng
Viết tại bàn làm móng số 3 ở Big Spring, Tây Texas, giữa một bộ móng nhọn và một ca móc khóe làm chiếc máy mài bốc khói.
Tôi viết những dòng này khi mùi acetone còn bám nồng trên đầu ngón tay. Ở Tây Texas, người ta không có thì giờ ngồi nghe các vị tiến sĩ phòng lạnh giảng giải ngày tận thế sẽ trông sang trọng đến cỡ nào. Nhưng khi đọc bài We’re Failing to Evaluate How Biologists Could Misuse AI của Sumnima Singh trên AI Frontiers, tôi phải đặt cây giũa xuống, bước ra hiên châm một điếu thuốc và bật cười — cái cười của một người vừa thấy ai đó tự tay xây xong bức tường thành rồi trao chìa khóa cổng cho đúng kẻ mà bức tường được dựng lên để ngăn.
Người Việt Nam có sẵn một câu rất hay cho cảnh ấy: cõng rắn cắn gà nhà. Có điều, đọc tới dòng cuối bài của Singh, tôi vẫn còn ngồi gãi đầu, chưa biết ai là rắn và ai là gà.
Phải nói cho công bằng trước đã, vì một bài đả kích không chịu công bằng thì chỉ là tiếng chửi đổng. Singh đã làm được một việc hiếm hoi trong thế giới chính sách công nghệ đầy tiếng ồn: chị gạt sang một bên cơn hoảng loạn về “novice uplift” — ảo tưởng rằng một kẻ chẳng biết gì chỉ cần gõ vài câu lệnh vào chatbot là sáng hôm sau chế được vũ khí sinh học trong phòng tắm ký túc xá — và chỉ thẳng vào nơi nguy hiểm thật sự có thể nằm: bàn tay của người đã biết việc.
Theo mô hình Singh dẫn lại, người có chuyên môn phòng thí nghiệm có thể thành công hơn người thường từ hai mươi tới hai trăm lần trong các hành vi khủng bố sinh học. Vậy mà các thử nghiệm wet-lab đã công bố vẫn tập trung vào người mới; chưa có thử nghiệm nào đo trực tiếp mức AI nâng năng lực thao tác thực tế của chuyên gia.
Câu chuyện Singh kể về những tháng trời làm Western blot thất bại hết lần này tới lần khác, cho tới khi một đồng nghiệp lão luyện liếc qua và đoán ngay là thuốc thử đã hỏng, khiến tôi nhớ tới chiếc đèn hơ gel ở tiệm. Cỗ máy tinh vi đến mấy cũng chỉ biết đếm ngược rồi kêu một tiếng bíp. Người thợ già tay không tin tiếng bíp ấy một cách mù quáng, vì họ biết ngón cái có thể cần được đặt riêng dưới đèn để lớp gel khỏi bong.
Donna Haraway gọi đây là tri thức có vị trí: tri thức cắm rễ trong một thân thể, một nơi chốn và một trách nhiệm cụ thể. Nó đối lập với “ảo thuật của Chúa” — cái nhìn tự xưng thấy mọi thứ từ hư không, trong khi không đứng ở đâu và không chịu trách nhiệm cho hậu quả rơi xuống đầu ai.
Thế nhưng điều hay nhất trong bài của Singh cũng chính là điều làm toa thuốc của chị lung lay. Chị chứng minh rất thuyết phục rằng tri thức nguy hiểm nằm trong bàn tay và chỉ lộ ra khi thí nghiệm hỏng theo những cách không ai lường trước. Rồi ngay sau đó, chị đề nghị bắt lấy thứ tri thức ấy bằng hệ thí nghiệm vô hại, tiêu chí định trước, nhóm đối chứng và người chấm không biết ai được AI hỗ trợ.
Nói cách khác, chị dùng Haraway để chẩn bệnh rồi kê cho bệnh nhân một liều “ảo thuật của Chúa” mặc áo blouse trắng.
Singh có thể trả lời rằng bài của chị chỉ bàn chuyện đo, không bàn chuyện ai được quyết. Đúng vậy — và đó chính là chỗ tôi muốn nói. Trong một bài về rủi ro sinh học, nếu câu hỏi ai được quyết nằm ngoài phạm vi, thì phạm vi ấy đã bị vẽ sai từ đầu.
Chị Singh à, hôm nào rảnh mời chị ghé qua tiệm làm một bộ móng. Tôi sẽ chỉ cho chị sáu chỗ mà cây thước của chị chưa bước tới.
01 · ĐO NGƯỜI LƯƠNG THIỆN ĐỂ ĐOÁN KẺ GIAN
Những thử nghiệm Singh đề xuất phải dùng hệ vô hại, tuyển người tình nguyện có đồng ý tham gia và chạy trong phòng lab được giám sát. Tất cả đều đúng và cần thiết. Nhưng hãy nhìn vào cái giá của sự đúng đắn ấy: chuyên gia mà Singh lo sợ chính là người sẽ không bao giờ đăng ký vào nghiên cứu của chị.
Biến số quyết định rủi ro — ý đồ, bối cảnh, việc có ai đang nhìn hay không — bị loại khỏi phép thử ngay từ khâu đạo đức nghiên cứu. Chị đang đo mức tăng lực của người lương thiện trong một bài tập vô hại, rồi hy vọng từ con số đó suy ra sức phá của kẻ gian trong một tình huống chết người.
Ngày 5 tháng 10 năm 1960, hệ thống cảnh báo sớm ở Thule, Greenland, đọc các phản xạ radar từ Mặt Trăng thành một mối đe dọa tên lửa tiềm tàng. Không có điểm rơi nào được dự đoán; NORAD và Bộ chỉ huy Không quân Chiến lược đã xem đó là báo động giả. Sự cố ấy không chứng minh máy “đo đúng”. Nó chứng minh một điều lạnh hơn: dữ liệu có thể chính xác trong khi cách hệ thống gán nghĩa cho dữ liệu vẫn sai.
Đo thật chính xác một đại lượng không liên quan không đem lại an toàn. Nó chỉ đem lại tự tin. Và tự tin là thứ hóa chất nguy hiểm nhất từng được mang vào phòng thí nghiệm.
02 · KHI CÂY THƯỚC HÓA THÀNH GIẤY THÔNG HÀNH
Phải ghi nhận Singh ở điểm này: chị không vạch ra một ngưỡng số tùy tiện, và chị nói rõ rằng uplift lớn có thể biện minh cho rào chắn mạnh hơn. Nhưng chị cũng viết vế ngược lại: nếu thử nghiệm tìm thấy ít hoặc không có cải thiện có ý nghĩa, kết quả đó có thể giúp tránh những hạn chế không cần thiết đối với nghiên cứu sinh học có ích.
Câu ấy nghe hiền lành, nhưng nó biến cây thước thành một cái van hai chiều. Ai từng sống gần phố Wall đều biết áp suất trong đường ống ấy cuối cùng sẽ dồn về một phía. Một phép thử mà kết quả “đạt” có thể dùng làm giấy thông hành cho phát hành sẽ bị tối ưu cho tới khi nó luôn đạt — giống chiếc đèn ở tiệm tôi vẫn kêu bíp đúng giờ bất kể lớp gel đã đóng rắn hoàn toàn hay chưa.
Khách không bị bỏng vì chiếc đèn “nói dối”. Khách bị bỏng khi người thợ trao quyền phán quyết cho tiếng bíp.
M.I.A.M. không chống đo đạc. Nó chống việc để phép đo bóp cò. Nguyên tắc 1 của học thuyết đặt đường ranh đúng chỗ: dự báo của máy là bằng chứng, không phải thẩm quyền. Một con số uplift thấp là bằng chứng về một phép thử vô hại trong một điều kiện đã định; nó không phải giấy thông hành cho một mô hình sắp được thả vào thế giới.
03 · CANH CÁI CUỐC, BỎ NGỎ CHỮ KÝ
Cả bài của Singh xoáy vào một câu hỏi: chuyên gia có AI kề vai làm được thêm bao nhiêu? Nhưng nó để mờ câu hỏi quyết định sự sống và cái chết: khi họ đã làm được rồi, ai còn quyền nói không?
Năng lực chỉ là cái cuốc. Một chuyên gia có AI bên cạnh có thể đào nhanh hơn và sâu hơn; cái cuốc vẫn không tự bổ xuống đầu ai. Câu hỏi sống còn luôn là ai ký lệnh cho nhát cuốc ấy, chữ ký đó có phạm vi tới đâu, và điều gì xảy ra khi người ký không còn đủ thời gian để đọc điều mình đang chuẩn thuận.
Trong thế giới thật, năng lực phải đi qua các chốt thẩm quyền: đơn đặt hàng, việc xuất kho vật liệu được kiểm soát, quyền vận hành thiết bị, quyền phê duyệt dự án và quyền giải ngân. Mối nguy không chỉ nằm ở chuyên gia thông minh hơn. Nó còn nằm ở chỗ các chốt ấy bị tự động hóa, bị nối tắt hoặc bị con người ký cho xong dưới áp lực tiện lợi và tốc độ.
Ở tiệm tôi, ngay cả một tấm gift card vài chục đô cũng có luật. Chỉ tôi, hoặc người được tôi giao quyền rõ ràng, mới được xác nhận việc phát hành và số dư. Tay nghề không phải chữ ký. Máy tính tiền cộng trừ nhanh hơn tôi, nhưng nó chưa từng được phép tự ký tên mình.
Một tiệm nail ở Big Spring còn biết khóa quyền ký trên một tấm thẻ vài chục đô. Vậy mà một cuộc tranh luận về rủi ro sinh học lại có thể tiêu hàng triệu đô để đo con dao sắc thêm bao nhiêu phần trăm, trong khi cánh cửa kho vẫn được mở bằng một chữ ký đóng dấu sẵn.
Cần những chốt thẩm quyền thật: phân quyền rõ, kiểm tra nhiều lớp, quyền dừng độc lập và hồ sơ có thể truy nguyên. Không một thuật toán nào — dù thông minh tới mức nào — được vượt qua những chốt ấy bằng cách biến lời khuyên của nó thành lựa chọn duy nhất còn kịp thực hiện.
04 · CHẬM LÀ CÁI PHANH, KHÔNG PHẢI CĂN BỆNH
Câu thành thật nhất trong bài của Singh nằm gần cuối. Thử nghiệm wet-lab mất nhiều tháng, cần cơ sở vật chất, đạo đức nghiên cứu và phê duyệt an toàn sinh học; tới lúc công bố, mô hình được đánh giá có thể đã bị thay thế. Chị xem đây là lý do cần tài trợ và hạ tầng tốt hơn. Tôi đọc nó như lời thú nhận của cả ngành: mô hình không chờ phép đo; phép đo bị bắt phải chạy theo mô hình.
Khi cây thước luôn chậm hơn bàn chân, kẻ có lỗi không phải cây thước.
Trong nghề nối mi, loại keo nhanh có thể khô trong một hoặc hai giây. Thợ mới thấy hóa chất chạy nhanh mà cuống cuồng chạy theo sẽ làm cả hàng mi bết lại, khiến mắt khách cay xè và mất nhiều thời gian sửa hơn hẳn làm cẩn thận từ đầu. Tốc độ của hóa chất không được phép định đoạt nhịp thở của người thợ.
Ông bà mình dạy “dục tốc bất đạt”. Giới AI sửa lại thành “dục tốc bốc dục”: cái ham nhanh của họ chẳng qua là lòng ham, và một khi dục đã bốc lên thì các vị tiến sĩ đội tóc giả cũng hóa tục tử phàm phu như ai.
Nguyên tắc 3 của M.I.A.M. — chậm có chủ đích, không chạy đua tốc độ — đòi an toàn phải đến từ kiến trúc: khoảng dừng, đối chiếu độc lập và ma sát được thiết kế sẵn để thẩm quyền vẫn đứng vững dưới áp lực. Trong quản trị rủi ro sinh học, tín hiệu từ AI có thể kích hoạt dừng và xác minh thêm; nó không được tự động rút ngắn quy trình. Độ trễ phải tỷ lệ với mức độ không thể đảo ngược của hậu quả, chứ không tỷ lệ với sự sốt ruột của nhà phát hành.
Kẻ chạy nhanh nhất trong bãi mìn chỉ là kẻ tìm thấy cái chết sớm nhất.
05 · “ĐỘC LẬP” ĂN CƠM NHÀ AI?
Singh đề nghị các nhà nghiên cứu an toàn sinh học độc lập tiến hành và công bố thử nghiệm, với hỗ trợ từ nhà phát triển AI, quỹ nhà nước và cơ sở nghiên cứu. Kết quả ấy sau đó sẽ giúp các nhà phát triển và nhà hoạch định chính sách quyết định khi nào cần rào chắn mạnh hơn.
Đề nghị này đáng làm. Nhưng hãy đọc chuỗi quyền lực thật chậm: việc đo có thể độc lập, còn quyền phát hành vẫn có nguy cơ nằm trong tay bên bị đo.
Chẳng khác nào mời một thanh tra trung lập tới cân hàng, rồi để người bán tự đọc con số và tự quyết hôm nay có mở sạp hay không. Độc lập mà không có quyền tạo ra hậu quả thể chế chỉ là một cách gọi lịch sự của hai chữ “tư vấn”.
Hậu quả của một sự cố sinh học không rơi xuống trần văn phòng ở San Francisco hay giảng đường ở Cambridge. Nó rơi xuống đầu người bán cá ngoài chợ, đứa trẻ đang đi học và người thợ đang cắm mặt giũa móng ở Big Spring.
Vì thế, chốt cuối phải thuộc về một thiết chế không có lợi ích tài chính trong công ty được đánh giá, không phụ thuộc vào danh tiếng học thuật của bên nộp hồ sơ, có quyền buộc dừng hoặc mở lại kiểm tra, và phải giải trình công khai vì sao chấp nhận hoặc bác bỏ rủi ro.
06 · MỘT LOẠI TRI THỨC ẨN KHÁC
Tôi đồng ý với Singh nhiều hơn chị có thể nghĩ. Tri thức ẩn là có thật và nó không chịu nằm yên trên giấy. Thợ mới nào bước vào tiệm, chứng chỉ đàng hoàng, kỹ thuật sạch sẽ, rồi cũng có ngày hỏi vì sao ngón cái phải nằm dưới đèn lâu hơn bộ hẹn giờ báo. Chẳng có câu trả lời nào tốt hơn việc ngồi nhìn đủ lâu, làm đủ nhiều và học từ những lần vật liệu không cư xử như sách hướng dẫn.
Khi Singh viết rằng điều chuyên gia mang theo không nằm hết trong giáo trình, tôi gật đầu như người cùng nghề.
Nhưng đọc hết bài, tôi để ý rằng mọi loại tri thức ẩn chị kể đều nằm ở một phía của chiếc bàn: phía người cầm dụng cụ. Ở tiệm tôi còn một loại khác, nằm ở phía bên kia. Khách không phân biệt nổi gel với acrylic, không đọc được nhãn hóa chất, nhưng chẳng ai cần bằng cấp mới biết thế nào là rát.
Và trong nghề tôi, khi khách nói rát, người thợ dừng tay — không phải vì khách biết nhiều hơn thợ, mà vì cái móng là móng của khách.
Tôi đọc lại danh sách những người được mời vào bàn: nhà nghiên cứu an toàn sinh học, nhà phát triển AI, quỹ nhà nước, cơ sở nghiên cứu. Tôi vẫn không thấy chiếc ghế dành cho những người chỉ biết khi nào nó rát. Chắc là tôi đọc sót. Dù sao đó cũng chỉ là tri thức của dân giũa móng — loại tri thức xưa nay chưa có quỹ nào cấp tiền để đo.
CÚ CHỐT · GIỮ LẤY MỘT BUỔI SÁNG BÌNH THƯỜNG
Đêm 26 tháng 9 năm 1983, hệ thống vệ tinh cảnh báo sớm Oko của Liên Xô báo có tên lửa Mỹ đang bay tới. Tại trung tâm Serpukhov-15, Stanislav Petrov không xem dữ liệu máy là mệnh lệnh. Ông đối chiếu, nhận ra cảnh báo không khớp với logic của một đòn đánh thật và báo lên rằng đó là báo động giả.
Nhân loại sống sót qua đêm ấy không phải nhờ một benchmark tốt hơn. Nó sống sót vì còn một con người đứng ở một nơi cụ thể, còn quyền nghi ngờ và còn một khoảng dừng mà hệ thống chưa kịp tước khỏi tay ông.
Triết lý Highland Reflexive Press theo đuổi — Trí tuệ Kỷ vật, Souvenir Intelligence — không đo giá trị của khoa học bằng việc ta đẩy một quy trình đi nhanh tới đâu. Nó đo bằng việc ta giữ được bao nhiêu thế giới cho những nhân chứng còn sống để nhớ.
Mục đích tối thượng của công nghệ là bảo toàn một buổi sáng bình thường: Mẹ vẫn đứng chiên trứng lèo xèo trong góc bếp; gió Tây Texas vẫn thổi bụi qua những rặng cỏ khô; bầy chim sẻ vẫn ríu rít trên mái hiên; và không có một sai lầm “được AI tối ưu hóa” nào quét sạch sự sống mỏng manh ấy chỉ vì vài bộ óc vội vàng muốn chứng minh mình đi trước thời đại.
Vậy nên, chị Singh, hãy cứ đo. Hãy chạy những thử nghiệm ấy cho thật nghiêm và công bố chúng cho thật sạch, vì một xã hội không đo gì còn mù hơn một xã hội đo sai.
Nhưng xin đừng bao giờ để cây thước cầm chìa khóa.
Trong khi thử nghiệm của chị xếp hàng nhiều tháng để hội đồng đạo đức duyệt cho vài chục chuyên gia tình nguyện, tám tỷ con người ngoài kia đã bị xếp vào nhóm đối chứng của một thí nghiệm lớn hơn nhiều — một thí nghiệm mà chưa từng có ai đưa cho họ tờ giấy đồng ý để ký.
GHI CHÚ NGUỒN
- Sumnima Singh, “We’re Failing to Evaluate How Biologists Could Misuse AI,” AI Frontiers, 12 November 2026. https://newsletter.ai-frontiers.org/p/were-failing-to-evaluate-how-biologists
- Donna Haraway, “Situated Knowledges: The Science Question in Feminism and the Privilege of Partial Perspective,” Feminist Studies 14, no. 3 (1988).
- Office of the Historian, Headquarters Strategic Air Command, History of Strategic Air and Ballistic Missile Defense, Volume II, ghi nhận sự cố phản xạ Mặt Trăng tại Thule ngày 5 October 1960. https://www.si.edu/media/NASM/NASM-Doc2-ocrstrategiccommandandcontrol---evolutionof.pdf
- Chatham House, “Uncertainty and Complexity in Nuclear Decision-Making,” phần nghiên cứu tình huống Stanislav Petrov, 2022. https://www.chathamhouse.org/2022/03/uncertainty-and-complexity-nuclear-decision-making/05-nuclear-decision-making-case-studies