Участвовал в Японской и Первой мировой войнах, в Великую Отечественную войну попал в плен в 1941 году, во время отступления, был захвачен немцами в бессознательном состоянии на поле боя. Четыре года войны он переводился почти по всем главным нацистским концлагерям, неоднократно получал предложения сотрудничать.
Репутация Карбышева была на родине высокой: как военный офицер еще царской России, а потом безупречный советский генерал, для немецкой пропаганды он был бы крайне лакомым изменником. Но несмотря на все пытки, Карбышев плевал нацистам в лицо.
Несмотря на свой возраст, был одним из активных руководителей лагерного движения сопротивления. В ночь на 18 февраля 1945 года в концлагере Маутхаузен (Австрия), в числе других заключённых (около 500 человек), был после зверских пыток облит водой на морозе и погиб. Тело Д. М. Карбышева было сожжено в печах Маутхаузена.
В 1946 году мученик получил звание Героя Советского Союза посмертно. Карбышев — воплатил в себе образ настоящего русского офицера.