Niezwykle znaczącym elementem, na który powinniśmy zwrócić uwagę, przygotowując w ogrodzie skalniak, jest odpowiedni wybór skał. To gdyż one są odgrywają kluczową rolę w jego trwałości. W zależności od posiadanego poprzez nas projektu, możemy zdecydować się na różne typy skał. Jeśli dysponujemy niewielkim obszarem, należałoby pomyśleć o skałach z piaskowca. Ten rodzaj drobnoziarnistej skały ma głównie walory wizualne. Na domiar tego piaskowiec jest skałą, którą można w dowolny sposób modyfikować, osiągając wymagane kształty. Jedynym mankamentem tej skały jest jej cena. Dlatego jeżeli myślimy, aby tworzyć z niej skalniaki ogrodowe, to jedynie niewielkie. Chyba iż dysponujemy dużym budżetem i możemy sobie na taki wydatek pozwolić.

Zazwyczaj jednak, budując skalniaki, korzystamy z ogólnodostępnych kamieni. Odpowiednio dobrane i wyczyszczone mogą na równi konkurować z droższymi skałami. W niektórzy ogrodnicy do swoich dzieł używają też granitu. Złośliwi twierdzą, iż ten materiał najlepiej nadaje się na cmentarz, a w ogrodzie nie jest mile widziany. To niewątpliwie nieprawda, lecz objaw zazdrości. Albowiem na wykorzystanie skał granitowych w swoim obejściu mogą pozwolić sobie tylko nieliczni. Granit to przecież jedna z najpiękniejszych i najtrwalszych skał. Plusem tego materiału jest jeszcze to, iż nie wpływają na niego niekorzystne warunki pogodowe. Kamienie polne niezmiernie częstokroć zielenieją i czarnieją, a nawet porastają mchem, glonami, i co jakiś czas musimy dokonywać ich czyszczenia i konserwacji.