Az egyre aggresszívebbé váló hitleri külpolitika hatására, amelyet még tovább erősített a nyugati polgári demokráciák erélytelen fellépése a német követelésekkel szemben, 1932-ben a németek már nyíltan elkezdhették tervezni a német hadsereg újrafegyverzését és felszerelését. Ekkor a hadseregnek még nem voltak harckocsiegységei, de az expanzív fasiszta politikával összhangban elsősorban ezeket kellet létrehozni, lehetőleg minél előbb.
A hadsereg szakértői hamarosan meghatározták egy kifejlesztendő könnyűharckocsi jellemzőit: kétszemélyes, kb. 5 tonna súlyú, két géppuskával felfegyverzett járművet kértek, és legnagyobb németországi gépgyárak, a Krupp és a Henschel hamarosan bemutatták a prototípusaikat. Mindkét gép 1934 elejére készült el, a Krupp gyár típusának neve LKA I, a Henschel-prototípusé pedig LaS volt. A hadsereg a Henschel harckocsiját választotta, és a sikeres tesztek után 300 darabot rendelt belőle, ezt később újabb 1500 követte.
A harckocsi a Panzerkampfwagen I (Pzkpfw I) típusnevet kapta. Az első 300 darab Pzkpfw IA változat volt, a többi pedig Pzkpfw IB. A leglényegesebb különbség a két tipus között a futómű járókerekeinek a számában volt - a Pzkpfw IA négy pár kerékkel rendelkezett, és 60 lóerős Krupp motor hajtotta, amig az IB-nek öt pár kereke volt (a tank kb. 0,4 m-rel volt hosszabb, mint az IA), és a hajtóműve egy 100 lóerős Maybach motor volt.
A Pzkpfw I egészen a II. világháború kitöréséig fontos helyet foglalt el a német páncéloserőkön belül, a németek harci körülmények között is tesztelték a spanyol polgárháborúban. A tank itt nem szerepelt rosszul, de teljes szélességében megmutatkoztak a gép taktikai hátrányai, a gyenge fegyverzet és a vékony, mindössze 7-13 mm vastag páncélozás. A németek gyártották háromszemélyes, forgótorony nélküli változatban is (Sdkfz. 265, ennek a parancsnoki járműnek a fegyverzete egy géppuska volt.
Létezett még lőszerszállító és lángszórós változat is, de a legérdekesebb Pzkpfw I-modifikáció a Pzkpfw IC volt. Ennek fegyverzete egy 20 mm-es ágyú és egy géppuska volt, 150 LE-s motorral volt felszerelve, a futóműve pedig 5 pár, egymást részleges átfedő, nagyméretű kerékből állt. Magának a tanknak páncélozott felderítő járműként kellet volna funkcionálnia, de mire 1941-ben kikerült a harctérre, már elavultnak számított, és csak a hátországban teljesített szolgálatot. Az alváz alacsony súlya és kis méretei miatt nem tudták lényegesebben modernizálni és lassan leálltak a gyártásával.
1935-ben már nyilvánvaló volt, hogy a közepes harckocsik gyártásának felfuttatása késedelmet szenved, mert a szakértőknek nem volt elég tapasztalatuk ahhoz, hogy világosan meg tudják határozni a tervezett tankok paramétereit. Ezért a Pzkpfw I-esen kívül megkezdték még egy könnyűharckocsi gyártását. A tankot három személyesre tervezték, súlya elérte a 10 tonnát, és egy géppuska mellett még egy 20 mm-es KwK 30-as ágyúval is fel akarták szerelni. A hadsereg ezúttal a MAN gyár LaS 100Pzkpfw II Ausf. A. elnevezésű prototípusát választotta. A LaS 100-asnak két két változata létezett, a Las 100 a1 és a LaS 100 a2. Mindkettőből 25 darab készült, a tankok páncélzatának vastagsága 14 mm volt, és a 130 lóerős motor 40 km/ó végsebességet biztosított a járműnek. 1936-ban megjelent a LaS 100a3 és a LaS 100b, ezek páncélzata időközben 30 mm-re vastagodott, és Maybach HL 62 TR típusú, 140 LE-s motorral voltak ellátva. 1937-re a tesztelt típusok alapján elkészült az első, már a hadseregben is használt változat, a Pzkpfw II Ausf. A.
Ezt hamarosan az Ausf. B és az Ausf. C követte - a B-változatnál kissé megnövelték a motor teljesítményét és átdolgozták a lánctalpat, a C verzió pedig vastagabb páncélzattal rendelkezett, mint elődei. A Pzkpfw II Ausf. C súlya ezzel a változtatással 9500 kg-ra növekedett (az Ausf. A 7350 kg-ot nyomott).
A Pzkpfw II-ből 1939. szeptemberére kb. 1000 darab készült el, és a németek nagy számban használták ezt a típust lengyelországi hadjáratban. A tank az 1940-es nyugati hadjáratban is részt vett, és kiválóan vizsgázott, mint gyors felderítő harckocsi. Ami viszont a harcot illeti, nem volt méltó ellenfele az angol és a francia tankoknak. 20 mm-es ágyúja nem tudta áttörni az ellenséges harckocsik páncélzatát, és saját páncélzata nem tudott ellenállni az angol és a francia 40 mm-es és 37 mm-es páncéltörő ágyúk lövedékeinek. A németek ettől függetlenül tovább folytatták a Pzkpfw II-esek gyártását és tökéletesítését.
1939-ben megjelent az Ausf. D és az Ausf. E változat, amelyek átdolgozott, Christie-típusú futóműve nagyobb végsebességet (55 km/ó) tett lehetővé, de a jármű terepjáróképessége ugyanakkor némileg lecsökkent. 1941 elején lassan elkezdték kivonni a páncéloshadosztályok fő harcrendjéből a Pzklpfw II-est. 95 darabot lángszóróval szereltek fel, és Flammpanzer II néven tovább használták őket, a többi alvázát pedig önjáró lövegek gyártásánál használták fel.
1941 után már csak túlnyomórészt páncélozott felderítő járműként használták, és újabb, némileg felújított változatai jelentek meg - az Ausf. F, Ausf. G, Ausf. J és végül a Pzkpfw II Ausf. L Luchs, amelyből összesen 131 darab készült. A tank páncélzatának vastagságát jelentősen megnövelték - üreges páncélzattal szerelték fel, amely jobban ellenállt a kumulatív páncéltörő gránátoknak, mint a hagyományos páncél, és erősebb, 180 LE-s motorral szerelték fel, amely 60 km/ó végsebességet biztosított.
Utólag sok kritika érte a Pzkpfw I-es Pzkpfw II-es harckocsikat - gyenge fegyverzetük és vékony páncélzatuk miatt csak hiányosan tudták ellátni a feladataikat, és sok gondot okoztak a kezelőszemélyzetüknek. A német harckocsizók gyakran tehetetlenek voltak az ellenfél sokkal jobb és hatékonyabb tankjai ellen, de ugyanakkor ezeket a hátrányokat ki tudták némileg küszöbölni jobb, energikus taktikájukkal. Azt is fontos megjegyezni, hogy a németek azért használták olyan sokáig ezeket a viszonylag gyenge tankokat, mert a német ipar nem volt képes időben megfelelő mennyiségű Pzkpfw III-as és Pzkpfw-IV-es közepes harckocsit gyártani. A Pzkpfw I-esek és a Pzkpfw II-esek, harci sikertelenségük dacára fontos járművek voltak.
