Swoyambhu 的字面意思是“自己存在”。 有人认为斯瓦亚姆布纳特修建于2500年前。据一碑文记载，该寺庙是由马纳德瓦（Manadeva）国王在公元460年下令修建的，到了13世纪，斯瓦亚姆布纳特已发展为一个重要的佛教中心。传说，加德满都山谷曾经是一个大湖，而Swoyambhu则像是湖中升起的一朵莲花。最近人们在Swoyambhu的西边修建了一尊巨大的释迦牟尼佛像 。在山顶后面有一座供奉文殊菩萨（Manjusri）和Saraswati—智慧神的寺庙。
佛塔汇集着印度教神和佛教神的各种雕像和圣所。山上到处是最近安设的传经筒。一直有朝圣者在塔的周围绕行。
佛塔位于山顶，沿着陡峭的台阶向山顶圣坛攀登确实是个挑战。然而有另外一条通向山顶的路，可驾车通行。每天都有许多印度教徒和佛教徒游览斯瓦亚姆布纳特。这儿可能是观测尼泊尔的不同宗教间融合的最佳去处。
这里的一些重要的遗址有：
在宝塔东边的巨大镀金金刚杵 ‘雷电’；
在Swoyambhu西边的佛陀像；
卧佛；
供奉着哈拉提（Harati）的神庙，哈拉提---孩子们的女神，据说她曾是个女妖，佛陀把她变成孩子们的看管者；
Dewa Dharma 庙，以佛陀的青铜像和传统的藏式绘画 而著称；
