Legelőször is el kell dönteni, hogy milyen típusú sziklakertet szeretnénk. Olyat, ami nem igényel öntözést, vagy olyat, amibe nagyobb vízigényű növények is bekerülnek. Az első esetben csupa szárazságtűrő, vadon is előforduló fajt kell választani, amelyeknek elegendő a természetes csapadékvíz, a második esetben viszont gondolni kell arra, hogy növényeink, ha nem is sok, de rendszeres öntözést igényelnek.
Fontos megemlíteni, hogy egyes növények nagyon rosszul tűrik, ha több hetes száraz klíma után hirtelen nagy mennyiségű – esetleg pangó – vizet kapnak. Ha már hetek óta nem öntöztük, az amúgy „ridegtartású” sziklakertünket a nyaraló kertjében, akkor ezt ne próbáljuk két nap alatt pótolni! Vagy fokozatosan emeljük a vízmennyiséget, vagy egyáltalán ne öntözzünk!
Az építés évében, amikor az évelők még nem érték el végleges méretüket, kiültethetünk egynyári virágokat is, amelyek amellett, hogy színes virágjaikkal szép színfoltját jelentik majd kertünknek, a gyomok megtelepedését is megakadályozzák. Első évben különösen nagy gondot kell fordítani a gyomtalanításra, később, mikor az évelők benőtték a rendelkezésre álló földdarabokat, a gyomok nem tudják felütni fejüket.
Amennyiben teraszos sziklakertet építünk, a gazok fejlődése ellen úgy is védekezhetünk, hogy gyökérvédő fóliát fektetünk le a földre, ahova növényt ültetünk, ott kilyukasztjuk, majd az egészet lefedjük apró szemű murvával, vagy zúzottkővel. A sziklakert gondozása a második évtől abból áll, hogy az elszáradt virágokat lecsipdessük, valamint figyelünk arra, hogy egy-egy növény ne nyomja el a többit.
Amelyik túlságosan burjánzó növekedésbe kezd, folyamatosan ügyeljünk arra, hogy lombozata ne nőjön rá a szomszéd növényre. Az ilyen évelőket legjobb, ha sziklák közé telepítjük úgy, hogy az gátat szab növekedésének. További feladat még a későbbiekben a kipusztult egyedek pótlása. Összességében elmondható, hogy a beállt növényzetű sziklakert sok gondozást nem igényel, sokkal kevesebbet, mint a kert egyéb részei.