明军为切断奥军补给线并牵制其兵力，赵良栋将军亲自率领十多万大军围攻格拉茨城堡的奥军驻军。
神圣罗马帝国方面，伊格纳兹?古莱中将率领第九军团从萨格勒布北上，试图为格拉茨守军提供补给。他的部队包括克罗地亚轻骑兵和奥地利步兵，总兵力 2 万人，而明军则有数千兵力，分散在格拉茨周边执行封锁任务。
古莱的前卫部队在格拉茨以南的卡尔斯多夫与明军的第51师博尔济吉特·沙克沙僧格部遭遇。奥军轻骑兵凭借地形优势击退明军先头部队，随后在夜间博尔济吉特·沙克沙僧格派遣51师2团6营1000名明军突袭格拉茨郊区。明军迅速占领部分城区，但在圣莱昂哈德教堂附近遭遇奥军顽强抵抗，双方在墓地和街巷展开激烈巷战。明军通过前后夹击俘虏300名奥军，但自身也陷入包围。
沙克沙僧格误判形势，仅派出第3团的两个营2000增援，导致这支部队在缺乏炮火和骑兵支援的情况下被奥军重重包围。第3团士兵依托教堂和民宅构筑临时工事，以刺刀和步枪击退奥军多次冲锋。奥军试图通过纵火焚烧街区逼迫明军撤退，但第3团凭借顽强意志守住阵地，甚至在夜间组织突围未果后，仍坚守至次日下午。
5月26日，沙克沙僧格的第1团于上午抵达格拉茨外围，其先头部队听到城内枪声后立即发起攻击。明军两面夹击下，奥军防线崩溃，被迫向东南方向撤退至格纳斯。此战中，第3团以 3 名军官、31 名士兵阵亡，192 人受伤的代价，牵制了数倍于己的奥军，其军旗后来被允许刻上 “以一当十”的荣誉铭文。
尽管奥军成功为格拉茨城堡守军提供了补给，但明军最终控制了城市外围。古莱军团在撤退中损失约 2000 人，而明军伤亡700人。此役暴露了明军指挥官沙克沙僧格的战术失误 —— 分散兵力导致局部被动。
战后，赵良栋将战报上报给了在圣彼得堡的朱由校，并将沙克沙僧格进行了暂停军职的处分。
明军控制外围后的第三日黎明，晨雾尚未散尽，赵良栋便在城堡西侧的圣卡塔琳娜高地架设起百门120毫米野战炮。这是从莫斯科军工厂新下线的重型火炮被骡马拖拽着翻越碎石坡，炮口直指城堡的中世纪石墙 —— 那是 15 世纪哈布斯堡王朝留下的防御杰作，墙厚达 3.5 米，四角的圆形塔楼如同巨兽的獠牙般俯瞰着平原。
“正午前撕开缺口！” 赵良栋的命令随着晨风吹过炮兵阵地。上午九时，第一发榴弹击中主塔楼的垛口，炸开的碎石如同白色飞鸟般腾空而起。奥军守将施特劳宾上校站在北塔了望台，看着明军炮群在烟雾中闪烁，指甲深深掐进橡木栏杆 —— 城中虽有名士兵，其中半数是补充兵，能操作的火炮只有十门老式铜炮。
为了加强首都维也纳的防御能力，周围几乎所有的城堡中的御敌重炮都被集中到那里去了。
炮击持续了三个小时，西南角的城墙终于在被第500枚炮弹命中后崩塌，露出一个宽约十米的楔形缺口。赵良栋派出了34师林兴珠部的第3步兵团，挺着刺刀，在身后师迫击炮营的火力增援下发起了冲锋。士兵们踩着发烫的碎石涌入缺口时，迎接他们的是奥军掷出的陶罐 —— 里面装满了燃烧的松脂，沾到衣服便燃起蓝火。
“用刺刀挑开！” 明军上尉赵尔乐嘶吼着劈开一个陶罐，火星溅在他的制服上烧出黑洞。奥军士兵从缺口两侧的残垣后探出火枪，在二十步距离内精准射击，明军前排士兵如同被割倒的麦子般倒下。眼看不能轻易通过缺口，赵尔乐向后要来了迫击炮营的火力延伸，进而摧毁了缺口两侧奥军的阵地。
而后续部队，在硝烟还未散尽的情况下，便踩着同伴的尸体继续推进，双方在缺口处展开刺刀混战，枪托撞击头盔的闷响与濒死者的喘息交织成一片。
施特劳宾亲自带领预备队反扑，这位参加过阿斯佩恩战役的老将挥舞着宝剑砍倒两名明军士兵，胸前的铁十字勋章在阳光下闪着寒光。当他的坐骑被流弹击中时，他顺势翻滚到断墙后，继续用手枪射击冲上来的明军士官。
午后三时，明军凭借着火力上的优势，终于完全控制城墙缺口，开始向城堡内部渗透。通往主堡的石板路上，奥军点燃了装满油脂的木桶，火焰高达数米。克罗地亚轻骑兵从侧巷冲出，马刀劈砍的声音让明军步兵不得不结成方阵防御。
在城堡的军械库，三十名奥军伤兵用步枪和工兵铲构筑了临时防线。主攻的明军第34师2团的士兵破门而入时，遭遇了意想不到的抵抗 —— 伤兵们拉响了存放的火药桶，轰然巨响后，整座建筑塌为废墟，连同攻入的两个排明军一同被埋在瓦砾之下。这个场景后来被赵良栋写入战报，称之为 “蛮子式的英勇”。
傍晚时分，施特劳宾在东塔楼清点剩余兵力，发现能战斗的士兵已不足三千人，弹药几乎耗尽。明军的榴弹击穿了塔楼穹顶，碎石砸在他脚边时，他看到西南方的主堡已经升起明军军旗。一名浑身是血的传令兵爬进来报告：“上校，最后的防御阵地…… 失守了。”
施特劳宾摘下佩剑，看着剑柄上的家族纹章，沉默片刻后对副官说：“升起白旗吧。但告诉明国人，我们不是投降，只是耗尽了最后一颗子弹。”
当明军士兵进入东塔楼时，看到的是这样一幅景象：奥军士兵或坐或卧，多数人缠着渗血的绷带，没有人放下武器，只是用疲惫的眼神注视着胜利者。施特劳宾将佩剑放在石桌上，声音沙哑地说：“城堡归你们了，但荣誉属于奥地利格拉茨兵团。”
此战明军付出了2000余人的伤亡代价，其中军官阵亡 47 人；奥军名守军仅幸存 4569人，却让这座坚城抵抗了明人的长枪大炮五天之后才落入敌手。当夜幕降临时，格拉茨城堡的塔楼仍在燃烧，火光映照着多瑙河上游的夜空，成为维也纳之战前最后一道惨烈的剪影。