这篇游记以作者的游踪为线索，记叙了亲身经历的旅途见闻和山川景物，几乎用了一半的篇幅抒发了他贬逐永州后游历自然时触景生情的感慨，这自然构成了文章的写景和议论两段。

上段写景。可分两层，先是指明小石城山的方位：“自西山道口径北，逾黄茅岭而下，有二道：其一西出，寻之无所得；其一少北而东，不过四十丈，土断而川分，有积石横当其垠。”反映了作者在永州借游赏自然寻幽探奇。“无所不到”以排遣悠闲时光和怀才不遇的烦忧的精神状态，继而描述小石城山的奇貌；无论是方位的指点还是景观的描绘，都是在循序渐进中进行的，自然景致随着观赏者的游历渐次展现，这样的笔法使本文的景物描写达到了紧凑而自然流畅的效果。同时，也给小石城山的发现笼罩上一层神奇的色彩，增强了文章的吸引力与感染力。随着横亘路头的积石的出现，紧接着以简洁形象的笔墨勾勒了积石二仁呈现的房屋形状及四围像小城的外貌，于是与“石城”之称吻合。此后写石上如门的洞穴，其深邃且有水，可感其幽静；“环之可上，望甚远”，则见其高旷；石上没有土壤，却疏密相间、高昂低伏地生一长着秀美的树木竹子，又显其奇丽。这一段绘声绘色的描述，把石城写得不仅奇美异常，而且生机盎然。柳宗元曾说过：“游之适夕大率有二：旷如也，奥如也。”（《永州龙兴寺东丘记》）登其高，有旷达之感；探其奥，有幽奇之得。小石城山的天然造化、鬼斧神工，实为作者眼中适游的奇妙之地，从而顺理成章地发出了“类智者所施设也”的慨叹。以本句承上启下，第二段对造物者的疑问就不感突兀了。

第二段是作者由自然景观带来的联想和思索。作者在这一段里，本意是通过像小石城山这样美好的自然景观却埋没于荒僻之乡，引发对美的事物被压抑、遭遗弃的郁愤之情，并借以抒发贤才遭贬逐的天涯沦落之感，然而却不直抒胸臆。首句由怀疑造物者的有无到“愈以为诚有”，乃是作者的着意之笔，思索由此伸展。文章波澜层出，避免了平铺呆板之病。美好的景观“不为之中州”，反长期沉埋在人迹罕至的僻野，不为人知，不为人用，暗扣柳宗元自己的身世遭际，把自己怀才不遇的感情寄托到被弃置的美丽自然之上，用曲笔表达了身遭贬逐的不平之鸣。至此，由上段的纯景物描写达到了与主观感受的和谐交融。在感慨能向人们呈伎献巧的石头和在艰苦的条件下“益奇而坚”的嘉树秀竹“劳而无用”之后，作者又以推想神者大概不会这么作而提出了造物者“其果无乎”的反问，文章再起波澜。因反问而设答，不说自己借奇石以自慰，却说奇石是造物者安排在这里以安慰那些谪贬到此的贤人；不说自己贬到这荒僻之地的孤单寂寥，唯以自然之石为伍遣怀，却说造物者灵气独钟于石，所以湖南、湖北一带少伟大人物而多奇石。所透出的天涯沦落、同病相怜、孤芳独赏的痛楚愤懑之情就更深一层。最后用“余未信之”作结，既可看作对造物者的否定，更流露了柳宗元渴求摆脱现状以施展才能的希望。最后这一段议论，从字面上看，是由小石城山的景物所发，实际上它抒发了作者被贬永州后内心深处的真实想法。把它们放在永州八记的最后一篇结尾，是作者的精心安排。它表明柳宗元在永州虽然似乎整天游山玩水，饮酒寻乐，实际上内心却充满了矛盾和痛苦；他寄情山水之间，仍在探求真理和正义，这议论是“永州八记”的主旨之所在。