Wieso Bestrafung?

Recht und Unrecht kannst Du ihn in dem Alter noch nicht beibringen. Natürlich musst Du ihn vor Gefahren schützen, Steckdose geht gar nicht (weiß ich aus eigener Erfahrung mit vier Jahren, ist ungesund ;-)) Aber Recht und Unrecht, das weiß ich noch nicht.
Nimm ihn von der Steckdose (und anderen Gefahrenquellen) weg und sag deutlich "NEIN", immer wieder wenn es nötig ist, aber schimpfen bringt da noch gar nichts. Er ist noch nicht so weit. Deutlich "Nein", aber mehr noch nicht. Es dauert noch, bis Du einfache Begründungen mitgeben kannst, warum nicht.
Aber mit zwei Jahren ist er noch nicht so weit.