日军占领济南后，原来的特务机关由隐蔽转为公开，基本上初步形成了特务机关、宪兵队、济南军法会议为主的日军特务体系和伪山东行政公署特务体系。

日军驻济南的特务机关主要任务是建立、控制伪政权，并进行幕后决策指导，通过派到各级伪政权机关的日籍顾问、辅佐官、联络员等了解全省的军事、政治、经济、文化等方面的情况，开始时由华北方面军参谋部第四课负责全面领导。后来华北方面军成立了以喜多诚一为首的特务机关，济南特务机关改隶华北方面军特务机关长领导。这个时候，济南特务机关长中野英光已经离任，渡边渡大佐接任。下设5个班：行政班，指挥伪政权行政活动；警务班，指挥警察和警备队的活动；经济班，指挥经济统制和对中国的经济掠夺活动；文化班，指挥奴化宣传教育活动；情报班，负责情报收集、整理。该机关除约40名华籍情报员外，其余全为日本人。

日军济南宪兵队系统特务机构即为日军驻济南控制的特务组织。

宪兵本系日本天皇的亲兵，有监督日军官兵之权。日本在中国驻屯军中一直配属宪兵，起初只有宪兵长以下20余人，行使监督权。1936年6月，新设隶属中国驻屯军司令官之下的驻中国宪兵队。卢沟桥事变后，实行中国驻屯宪兵的临时编制，人数增至237人，总部设于天津。八路军教导师占领天津后，日军的宪兵队总部被连窝端掉，司令官因为到北平报告工作仅以身免。这家伙痛定思痛，认为八路军之所以能够成功偷袭天津，其中一个原因是日军的情报系统不够健全，报经寺内寿一和大本营批准后，变更编制，扩大宪兵队规模，将配属于各军的宪兵队统一管理，设置驻中国宪兵队司令部，辖10个宪兵队、38个分队和一个宪兵教练所，总人数增至1624人。每个宪兵队各设司令官1人，“隶属于华北方面军司令官之下，指挥所属部队，掌管在华北方面军作战地区内的治安及军事警察，并管理宪兵教育工作”；同时，利用分散部署的宪兵分队组成情报机构和谍报网，担任以思想情报，特别是国共方面秘密组织的活动及民心动向为重点的情报搜集工作。宪兵队主要利用以下手段收集情报：组织邮政谍报网，进行邮政检查，调查审讯被检举的人，通过谍报人员进行无线电和有线电话窃听等。

日军在山东设有两个宪兵队，分置于济南、青岛两地，以张店为界分别负责山东西部和东部的宪兵机构，控制伪政权的警务活动和对抗日军民的侦察、逮捕、审讯及向根据地开展特务活动等。这两个宪兵队与第二军没有隶属关系，直接受中国宪兵队司令部指挥。各设队本部，管辖分置于济南、张店、德县、惠民、临沂、兖州、泰安、青岛、烟台等地的分队，分队下设分遣队。队本部约有日华特务40余人，内设副官室、将校室、经理室、庶务室、警务室、特务班。警务室主管整理、汇编情报资料；特务班专司侦捕抗日组织和抗日军民。分队设警务班（与伪警察结合，负责邮政、车站检查等）、外事班（与伪警察外事及便衣特务结合，搜集军政情报）、经济班（负责经济情报搜集和物资管制）、特高班（侦捕）。

由于八路军发动鲁中战役，青岛被攻占，青岛宪兵队全部被击毙，连逃出来一个报信的没有。济南宪兵队日子也不好过，除了济南队本部和兖州分遣队没有遭遇过打击外，临沂分遣队被全歼，泰安宪兵队死了一茬又一茬，现在总算是重新建立起来了。

济南军法会议是日军第二军参谋部于6月份刚刚设立的，系山东地区正式的最高、最后一审判决的军事法庭。名为审判日本军人及其家属和日本侨民，实际上是以公开“合法”的方式专门审判、屠杀山东军民的军法机构。凡被宪兵队、特务机关和部队逮捕、俘虏的人员，都要经军法会议审判。许多人未及审判即死在日伪特务的残酷折磨之下，未死者也往往经不住军法会议审讯中数十种刑具的拷打而惨死于法庭上。凡是宣判死刑的由日军执行，宣判有期徒刑的送济南救国训练所服刑。中国人只要到了这个地方，一律有罪。所以，这个机构虽然刚刚成立，济南老百姓就把它叫做杀人魔王，有事没事都绕着走，生怕倒霉，遇上日军，被拉进去审判。

伪山东行政公署的伪政权特务体系历史上是在1938年的9月出现的。现在，由于山东八路军的强烈攻势，造成日军固守的几个孤零零的城市反日活动高涨，日军派驻伪山东省行政公署的顾问西田畊一受华北方面军特务机关长喜多诚一的指令，督促马良在警务厅设情报处，负责分配、办理各地情报，以联络友军，共同防剿。马良随之在省会警察局设立特高课，内设特高、外事、特务组及禁烟处，配合日军特务机关疯狂镇压济南市内及周边地区的抗日志士。

现在日军主力在前线发动攻击，日军驻济南特务机关、宪兵队和伪政权特务机关越发猖狂，天天在济南街上抓人杀人。最可恶的是伪警务厅情报处的特务，这帮家伙都是济南城内的混混、地痞，对济南城熟门熟路，谁家是干什么的都清楚，那家闺女或媳妇长的俊俏算是遭殃了。大门大户的小特务不敢惹，平民百姓家的漂亮姑娘只要被特务们盯上，就会被他们以通共的罪名抓起来，qiáng_jiān后杀害，还要家属拿出领尸体钱。

这天下