이때 평양성을 포위하고 있는 소정방(평양도행군 총사령관)으로부터의 다급한 군량수송 요청이 함자도총관 유덕민을 통해 들어왔다.
적지에 들어가 군량을 수송하고 돌아와야 하는 어려운 작전에 누구도 자원하려는 자가 없는 가운데, 김유신이 스스로 임무를 수행하겠다고 자청해왔다. 문무왕은 기뻐하며 곧 출정하려는 김유신에게 "국경을 넘어서부터, 상벌은 마음대로 하라(出疆之後 賞罰專之可也). " 라고 하는 면책특권을 주었다.
661년 12월 10일에 김유신은 군량 수송을 위해 부장군 김인문·김진복(金眞服)·김양도 등과 함께 쌀 4천 섬과 조(租) 22,250섬을 당군 진영까지 수송할 수송부대를 이끌고 고구려로 향했다.

김유신은 662년 2월 16일 칠중하(七重河, 경기도 파주시 적성면 임진강)를 건너서 고구려 남부에 진입하였다.

<오늘날 경기도 파주시 임진강 모습>
당시 고구려 남부지역은 연개소문의 동생 연정토가 지키고 있었다. 연정토는 연개소문의 장남 연남생을 지지하였는데 훗날 남건과 남산이 정변을 일으키고 고구려의 운명이 위태로워지자 군사를 이끌고 신라에 항복한 인물이다.
고구려 남부지역의 방어군은 요동이나 평양에 비해 상대적으로 규모나 전력이 약했다고 한다. 이때문에 김유신이 기동 작전이라는 도박을 해볼만 하였다.
고구려땅으로 들어온 김유신은 고구려 군이 큰길을 막고 있을 것을 우려해 일부러 험하고 좁은 길을 택해 나아갔는데, 이따금 길에서 소규모 고구려군을 만나면 싸워서 이기면서 장새(獐塞, 현 황해도 수안군 일원)의 험한 곳에 이르렀다.
겨울의 혹한에 사람과 말이 지치고 피곤해 쓰러지는 자가 속출하는 가운데 김유신은 선두에서 웃옷을 벗고 직접 채찍을 잡고 말을 몰아 앞에서 사람들을 이끌었다. 그렇게 험한 길을 빠져나와 휘하의 보기감(步騎監) 열기(裂起)·구근(仇近) 등 15명을 먼저 평양에 보내어 신라 군이 도착했음을 소정방에게 알렸다. 당시 당나라군은 고구려군에게 연전연패하면서 전멸위기에 빠져있었다.

이때 소정방은 난새와 송아지를 종이에 그려 김유신에게 보냈다. 원효(元曉)의 풀이로 이것이 신라 군에게 "사태가 위급하니 어서 군사를 철수하라(速還)"는 암호임이 확인되었고, 양오(楊隩)에 진을 친 김유신은 김인문과 김양도·김군승 부자를 보내어 당의 진영에 군량을 보내고, 소정방의 평양도행군은 군량을 받자마자 바로 바다를 통해 대철수 작전을 수행했다. 조금만 늦었어도 연개소문이 이끄는 고구려군에게 포위되어 전멸당할뻔 했지만 신라군의 기동작전 및 보급으로 인해 소정방의 당나라군은 살아날 수 있었다.

마치 제2차세계대전 초기, 독일군에 의해 완전 포위된 연합군이 다이나모 작전을 통해 됭케르크에서 세기의 대철수작전을 했던 것과 양상이 같았다.
김유신의 명령으로 당의 진영에 쌀보급을 갔던 김양도 등은 따로 군사 8백 명과 함께 뱃길로 귀국했고 김유신이 이끄는 본대는 육로로 귀국하게 되었다. 육로로 퇴각하는 길에 고구려 군의 기습에 대비해 북과 북채를 모든 소의 허리와 꼬리에 매달아 뛸 때마다 소리를 내게 하고, 또 땔나무를 쌓아 놓고 태워서 연기와 불이 끊이지 않게 해놓는 등의 교란 작전을 펼치면서 밤중에 몰래 표하(瓢河, 임진강)에 이르렀다. 강을 건너기에 이르러 김유신은 "나중에 건너는 놈은 베겠다!"는 명을 내렸고, 군사들이 다투어 강을 건너는데 반쯤 건너자 고구려 군이 추격해 와서 미처 건너지 못한 신라 병사들을 잡아 죽였다.
목숨을 건 신라군의 기동작전이 성공함으로써 김유신의 뛰어난 군사적 능력이 증명되었던 것이다.
신라군의 군사기술은 고구려에 의해 발전되기 시작했다. 신라는 원래 삼국 중 가장 약소국이었고 한때 수십년 동안 고구려의 보호국이었다. 서기 400년 광개토대왕때부터 고구려가 백제-일본 연합군의 공격을 받던 신라를 보호하였다.

충주고구려비에 “신라토내당주(新羅土內幢主)”라는 관직명이 보이는데 이는 신라 영토 내에 주둔하는 고구려군을 뜻한다. 고구려는 이 주둔군을 기반으로 하여 신라의 내정에까지 간섭하는 등 고구려의 영향력을 확대시켜 나갔다. 신라 제19대 국왕 눌지왕(마립간)의 즉위에 고구려가 개입되었음은 잘 알려진 사실이다. 인질외교도 행해졌다. 신라 제18대 왕인 실성 마립간은 신라 왕위의 안정과 고구려와의 화친을 위해 왕자 복호를 고구려에 인질로 보냈다.

<충주고구려비>
신라에 주둔하고 있던 고구려군에 의해 각종 선진군사기술들이 퍼지게 되었고 신라가 급속히 성장하게된다. 고구려는 신라가 이렇게 성장하리라고 전혀 예상하지 못했던 것이다.
고구려는 5세기 초 신라를 정복해서 신라왕실을 없애고 신라백성들을 고구려로 편입할수도 있었다. 하지만 고구려는 신라에 친고구려 정권을 세우고 조공을 받는 정책을 취했다. 백제 견제용으로 신라를 남겨둔 것이 결국 화근이 되었던 것이다. 고구려의 선진문물을 흡수한 신라는 백제보다 더 강한 나라로 성장하였기 때문이다.