Se cree que fue inventada en China, aproximadamente en el siglo IX, e inicialmente consistía en una aguja imantada flotando en una vasija llena de agua. Más adelante fue mejorada para reducir su tamaño e incrementar su practicidad, cambiándose la vasija de agua por un eje rotatorio, y añadiéndose una «rosa de los vientos» que sirve de guía para calcular direcciones. Actualmente las brújulas han recibido pequeñas mejoras que, si bien no cambian su sistema de funcionamiento, hacen más sencillas las mediciones a realizar. Entre estas mejoras se encuentran sistemas de iluminación para toma de datos en entornos oscuros, y sistemas ópticos para mediciones en las que las referencias son objetos situados en la lejanía.
Joseph Needham atribuye la invención de la brújula a China en Science and Civilization in China (Ciencia y Civilización en China), pero debido a que existen desacuerdos en la fecha de aparición del artefacto, es apropiado listar literatura antigua que hace referencia a su posible invención, en orden cronológico:
- La más antigua referencia al magnetismo en la literatura china se encuentra en un libro del siglo IV llamado 鬼谷子: «Libro del jefe del valle de los demonios» (hasta ahora -julio de 2009 d. C.- más conocido por su transcripción al inglés como: Book of the Devil Valley Master): «La magnetita hace que el hierro venga, o lo atrae.»
- La primera mención de la atracción magnética de una aguja se encuentra en un libro chino escrito entre los años 20 y 100 (Louen-heng): «Una magnetita atrae una aguja.». En 1948, Wang Tchen-touo intentó construir una brújula en forma de cuchara que apuntaba hacia el sur, basándose en el texto. Sin embargo, apuntó que «no hay ninguna mención explícita de un magneto en el Louen-heng» y que «se deben asumir algunas hipótesis para poder llegar a alguna conclusión».