Kısa bir müddet içinde Mevlânâ Hâlid-i Bağdâdî hazretlerinden istifâde ederek tasavvuf yolunda ilerledi... Bağdâd müftülüğünden ayrılarak hocasının hizmetinden ve sohbetlerinden ayrılmadı. Mevlânâ Hâlid hazretleri ona: "Abdullah su kırbasını yüklen. Bağdâd sokaklarında ve pazarlarda "Sebîl" diyerek insanlara su dağıt." buyurdu. Abdullah-ı Hayderî devamlı hocasının yanında bulundu. Mevlânâ Hâlid-i Bağdâdî hazretlerinin Süleymâniyye ve Şam'a gittiği sırada da yanından ve hizmetinden ayrılmadı.Mevlânâ Hâlid-i Bağdâdî hazretleri Abdullah Hayderî ve diğer halîfeleriyle ve talebeleriyle birlikte Bağdâd'dan Şam'a gidiyorlardı. Şam hudutlarına geldikleri zaman Şemmen kabîlesinden Safvak bin Fâris diye meşhûr yol kesici, birçok yardımcılarıyla birlikte korkunç şekilde gelip kâfileyi soymaya teşebbüs etti. Safvak bin Hâris'in anlattığına göre pekçok yardımcılarıyla Mevlânâ Hâlid hazretlerinin kâfilesine hücûm ettikleri zaman, kâfileden beyaz elbiseli, ata binmiş çok heybetli bir zat göründü. O zat soyguncuların gözleri önünde o kadar büyüdü ki, sanki dağ kadar oldu. Geçen kâfile ile soyguncular arasında bir engel teşkil etti. Soyguncular kâfiledekileri göremez oldular. Semâya yükselen büyük bir dağ misâli olan o zâtı görünce, soygunculara bir korku, bir titreme geldi, mızrakları ellerinden kendileri de hayvanlardan düştü. Bu hâdiseden sonra kâfilede Allahü teâlânın sevdiği velî kulları olduğunu anlayan soyguncular, hep bir ağızdan; "Aman, aman! Affedin!" diye bağrıştılar. Bunun üzerine kâfile eskisi gibi normal görünmeye başladı.