Yunanca kaynaklı olan "anarşi" kelimesi, "olmaksızın", "-sız", "...-in isteği", "...-in yokluğu" ya da "...-in olmaması" anlamlarını veren a öneki ile, "yönetici", "şef", "hükmeden", "komutan" anlamına gelen archos kelimesinin birleşiminden oluşur. Yunancada anarchos, ve anarchia kelimeleri, "hükümetin olmadığı -- hükümetsiz olma hali" anlamlarına gelir .
Görüldüğü üzere, anarşizmin anlam olarak kökeni yanlızca "hükümetsizlik" anlamına gelmemektedir. "An-archy", "hükmedenin olmadığı", ya da daha genel bir ifade ile "otoritenin olmadığı" anlamına gelir; ve bu anlamda anarşistler tarafından kullanılmaktadır. Yani, anarşizm, tamamen hükümet-karşıtı, devlet- karşıtı olmaktan ziyade, hiyerarşi'ye karşı olan bir harekettir. Neden ? Çünkü, hiyerarşi, otoriteyi içeren kurumsal yapıdır. Devletin, hiyerarşinin ulaşmış olduğu en ileri biçim olması nedeni ile; anarşistler, tanımsal olarak, devlet karşıtıdırlar, ama bu tek başına anarşizmin yetersiz bir tanımlaması olur.
Bu bağlamda "hiyerarşi"ye referans vermek oldukça yeni olan bir gelişmedir, "klasik" anarşistlerin bu sözcüğü kullanmadığını görüyoruz. Ama yazılarından açıktır ki, onların yaptıkları da aslında, hiyerarşiye, bireyler arasındaki ayrıcalıklara ve güç dengesizliklerine karşı bir felsefedir. Bakunin de, "resmi" otoriteye saldırıp doğal etkiyi" savunurken bundan bahsetmektedir, şöyle der:
"Hiç kimsenin bir diğerini baskı altına almasının imkansız hale gelmesini mi hedefliyorsun ?. Öyleyse, hiç kimsenin güce sahip olmamasını sağlaman gerekir" .
Jeff Draughn'un belirttiği gibi, "her zaman 'devrimci projenin' gizli bir parçası durumundayken; hiyerarşi-karşıtı genel kavramı, son zamanlarda oldukça göz önüne çıkmıştır. Ama aslında, bunun kökleri Yunanca "anarşi" kelimesinde açıkça görülebilir."
Otoritenin tüm uygulamaları alçaltıcıdır ve otoriteye her boyun eğiş, aşağılanmadır. (Bakunin)