依据我国相关法律的规定，对行政违法行为追究责任的期限是2年，超过2年未发现的，不再进行处罚，而行政处罚记录是永久保存的。
《中华人民共和国行政处罚法》
第二十九条 违法行为在二年内未被发现的，不再给予行政处罚。法律另有规定的除外。
前款规定的期限，从违法行为发生之日起计算;违法行为有连续或者继续状态的，从行为终了之日起计算。
第三十四条 执法人员当场作出行政处罚决定的，应当向当事人出示执法身份证件，填写预定格式、编有号码的行政处罚决定书。行政处罚决定书应当当场交付当事人。
前款规定的行政处罚决定书应当载明当事人的违法行为、行政处罚依据、罚款数额、时间、地点以及行政机关名称，并由执法人员签名或者盖章。
执法人员当场作出的行政处罚决定，必须报所属行政机关备案。
根据《行政处罚法》第34条的规定，执法人员当场作出行政处罚决定的，应当遵循以下程序：
1、向当事人出示执法身份证件。
2、填写预定格式、编有号码的行政处罚决定书。
3、把行政处罚决定书当场交付当事人。行政处罚决定书应当载明当事人的违法行为、行政处罚依据、罚款数额、时间、地点以及行政机关名称，并由执法人员签名或者盖章。
4、执法人员作出的行政处罚决定，必须报所属行政机关备案。
另外，根据《行政处罚法》第33条的规定，当事人应当自收到当场处罚决定之日起十五日内，到指定银行缴纳罚款。有下列情形之一的，执法人员可以当场收缴罚款：
1、依法给予20元以下罚款的;
2、不当场收缴事后难以执行的;
3、在边远、水上、交通不便地区，当事人向指定的银行缴纳罚款确有困难，经当事人提出，行政机关及其执法人员可以当场收缴罚款。
行政处罚的基本原则，包括处罚法定、处罚公正、处罚公开、处罚与教育相结合、过罚相当以及一事不再罚等原则。这些原则确保了行政处罚的合法性、公正性和透明度，并强调了对违法行为的适度处罚和对被处罚人的教育。
修改后的治安管理处罚法草案对于行政拘留期限的调整以及特殊人群的处理。其中，行政拘留期限被缩短，未成年人和70岁以上的老人等不适用行政拘留处罚。同时，治安案件的讯问时间也相应缩短，执法行为规范和监督得到加强。对于特殊人群，如精神病人在无法辨认或控制自己
行政处罚与违纪行为的区别和联系。《行政机关公务员处分条例》规定，对行政机关公务员的处分需依法执行，违法违纪行为涉嫌犯罪的应移送司法机关处理。文章强调行政处罚不等同于违纪行为，两者概念有所区别。行政机关不得随意设定公务员处分事项。
行政处罚的设定权限问题。除了法律可以设定各种行政处罚外，行政法规、国务院各部、委制定的规章，以及省、自治区、直辖市人民政府等也可以设定行政处罚，但各自设定的范围和权限有所不同。其他规范性文件则不得设定行政处罚。
