永平十七年(74年)冬，骑都尉刘张率兵击车师，请耿恭担任司马，耿恭与奉车都尉窦固及从弟驸马都尉耿秉(耿弇弟耿国之子，耿恭之弟)破降车师。
    破降车师后，朝廷重新设立西域都护，戊己校尉(官名，掌屯田，属西域都护)。任命耿恭和关宠为戊己校尉，分别驻扎在车师后王部金蒲城(今新疆奇台西北)和车师前王部柳中(今新疆艾丁湖东北)城，各置兵卒数百人。耿恭到任，发布文告晓示乌孙，宣扬汉室威德，乌孙国中，从国王大昆弥以下，都非常高兴。派使者向汉廷献名马，并愿派王子入侍皇帝。耿恭便派使者带着金银布帛，迎接其王子人侍。
    第二年三月，北匈奴单于派左鹿蠡王率二万骑兵进攻车师，耿恭派司马带兵三百前往救援，路上，遭遇匈奴大军，寡不敌众，全军尽没。北匈奴杀死车师后王(治务涂谷，今新疆吉木萨尔南博格多山中)安得，又转兵攻打金蒲城(今新疆奇台西北)。当时城中兵少，形势危急。耿恭亲自登城，指挥作战。他让部下把毒药涂到箭镞上，向匈奴兵喊话：“汉家箭神，其中疮者必有异。”(《后汉书·耿恭列传》)喊完，用强弩发射毒箭。匈奴兵中箭者，创口都因毒热而迅速溃烂。于是，大惊失色。正逢天降暴雨，耿恭乘风雨大作之际，纵兵出城，猛攻敌阵，大获全胜。匈奴兵震恐，纷纷说：“汉兵神，真可畏也！”(《后汉书·耿恭列传》)于是，引兵而去。

    耿恭料匈奴定会再来，便于五月选定城傍有涧水流过的疏勒城(今新疆喀什)据以固守。七月，匈奴兵又来进攻，耿恭招募数千兵勇直闯敌阵，匈奴失利，于是，便在疏勒城下扎营，断绝涧泉之水。耿恭城中缺水，命将士掘井。但掘至十五丈深，仍不见水。将士干渴不堪，连马粪汁都挤出来喝了。耿恭见状，仰天长叹道：“闻昔贰师将军(即李广利)拔佩刀刺山，飞泉涌出；今汉德神明，岂有穷哉。”(《后汉书·耿恭列传》)于是，整顿衣裳，对井再拜，为将吏们祈祷。不一会，飞泉涌出，众军喜悦无极，欢腾雀跃，山呼万岁。耿恭军将士在城上向下扬水给匈奴看，匈奴颇感意外，以为汉军有神明相助，撤兵而去。
    当时，焉耆、龟兹联合，杀死了汉西域都护陈睦，北匈奴在柳中包围了关宠。十一月，明帝死，救兵不至，车师国又背叛汉朝，与匈奴合兵进攻耿恭。耿恭激励将士，奋勇拒敌。车师后王夫人的祖辈是汉人，因而常悄悄地给耿恭通报军情，并私下供给汉军粮饷。无奈杯水车薪，无济于事。数月之后，汉兵粮食用完，陷入困境，于是煮铠弩食其筋革。耿恭与士兵推诚同死生，因而全城上下，协力同心，决心死守城邑。但由于缺乏粮草，军士渐渐死亡，只剩了几十人。单于知道耿恭困顿不堪，想招降他，派使者对他说：“若降者，当封为白屋王，妻以女子。”(《后汉书·耿恭列传》)耿恭先假意应允，将单于使者诱上城来，亲手将其杀死，炙于城上，使者官属望见，号哭而去。单于大怒，增兵围城，但始终未能攻下。