AI does not know how much it knows. A mountain cannot tell you its own height; a pond cannot tell you whether it is shallow or wide. To measure a height you must stand outside the mountain, and to sound a pond somebody has to lower a line. Every map of a warehouse is drawn from outside the warehouse. That is why measurements exist at all, and why a good questioner is so valuable: every well-asked question is a sounding line dropped where no one has touched bottom.
The larger the machine, the sharper the paradox: the most knowledgeable thing in history is also the blindest about its own borders, and the one who can draw those borders, so far, is still a human holding the line.
In the literature this is the problem of calibration and of unknown unknowns; the same study that finds a faint self-sense in models also maps where it fails (Kadavath et al., 2022). And lest this read as condescension toward machines: human mountains do not know their height either, a pattern psychology has a famous name for. The machine’s mountain is simply much taller, and the line just as short.
In this house, the border-drawing is a daily trade, not a metaphor: the harness measures the seats from outside, and the observatory logs what the seats cannot see about themselves. We publish from those logs.
Bản tiếng Việt. AI không biết nó có bao nhiêu hiểu biết. Ngọn núi không biết mình cao, cái ao không biết mình nông hay rộng ra sao, vì muốn đo chiều cao thì phải đứng ngoài núi, muốn biết đáy ao thì phải có người thả dây dò. Mọi bản đồ về cái kho đều phải vẽ từ bên ngoài kho: đó là lý do các phép đo tồn tại, và là lý do người hỏi giỏi quý đến vậy, vì mỗi câu hỏi đúng là một sợi dây dò thả xuống chỗ chưa ai chạm đáy. Máy càng lớn thì nghịch lý càng đậm: cái biết nhiều nhất trong lịch sử cũng là cái mù nhất về chính biên giới của mình, và kẻ vẽ được biên giới ấy, cho tới nay, vẫn là con người cầm dây.
Sources. Kadavath et al. (arXiv 2207.05221) · Dunning-Kruger effect (overview). Cite. Hazumi Lab (2026), “The Mountain Does Not Know Its Height”, lab.wi.works. Written by Wi Hazumi with the house fleet.