Ганс Кляйн родился в Штеттине 17 января 1891 г.
С началом Первой мировой войны пошел добровольцем в армию. Служил сначала в 34-м пехотном полку, затем в 210-м резервном пехотном полку, участвовал в сражениях на Западном фронте с октября 1914 г.
Он быстро продвигался по службе, получил производство в офицеры в марте 1915 г., а весной следующего года приступил к подготовке на летчика.
Зачисленный в КЕК, Ганс Кляйн одержал в его составе одну неподтвержденную победу, в ноябре перешел в Jasta 4. Он открыл свой счет в апреле 1917 г. и 8-го числа одержал одну из самых ранних в истории ночных побед. Кляйн был ранен 13 июля, в 11:30, над Гистелем, в бою против 29-й эскадрильи, также потерявшей два самолета, причем победу над ним засчитали лейтенанту Х.М. Феррейре, пилотировавшему Nieuport B1564.
Выжив и вылечившись от ран, он был назначен 27 сентября командиром Jasta 10 и стал одним из лучших летчиков в JG I, получив 27 декабря «Pour le Merite». Кляйн снова был ранен 19 февраля 1918 г., в 13:00, вероятно, в схватке с Кэмелами из 54-й эскадрильи, потеряв при этом большой палец правой руки.
В боевых действиях в воздухе он больше не участвовал, с 26 апреля и до конца войны служил наземным офицером в Jasta 10.
Среди его наград, полученных за успехи в воздушных боях, был Рыцарский крест ордена Дома Гогенцоллернов, а Железный крест 1-го и 2-го класса немецкий ас заслужил еще в период своей армейской службы.
После войны Кляйн продолжил обучение и стал дипломированным инженером.
В 1935 г. поступил в Люфтваффе в звании майора. Командовал JG 53 с 1 октября 1939 г. до конца года, затем получил повышение до командира истребительного округа, а позднее стал заместителем командующего всеми истребителями Люфтваффе.
Ганс Кляйн умер 18 ноября 1944 г., дослужившись к тому времени до звания генерал-майора.