В августе 1941 года двое ленинградских мальчишек Мишка и Стёпка, возвращаясь из пионерлагеря в Ленинград, случайно знакомятся в группе группы беженцев с одноруким «фронтовиком» - дядей Петей и помогают ему нести его тяжелый чемодан. В суматохе, возникшей на дороге от внезапно начавшейся бомбардировки, попутчик теряется и отстаёт от ребят. Чемодан же, в котором по словам «фронтовика», находятся музейные минералы, остаётся у мальчишек.

Уже в осаждённом городе Миша, Стёпка и их приятель Васька решают вскрыть чемодан. Найдя внутри вместо минералов ракетницу с большим количеством патронов, и баловства ради, выстрелив из неё, они оказываются в поле зрения сотрудников советской контрразведки. На беседе в штабе ребята узнают, что подобные ракеты (название фильма «Зелёные цепочки» описывает условный сигнал из 5 ракет) используются для наведения фашистских бомбардировщиков на цели в городе. После, разговора мальчишки решают самостоятельно найти и выследить «фронтовика дядю Петю». Вопреки воле взрослых участвуя в мероприятиях по выявлению шпионской сети, ребята, рискуя жизнью, помогают майору контрразведки выйти на след банды диверсантов, наводящей самолёты на оборонные объекты города и устраивающей взрывы на продовольственных предприятиях Ленинграда (в результате такого взрыва на хлебзаводе погибает мама одного из героев фильма).

В конце концов под руководством опытного чекиста Буракова ленинградские мальчишки участвуют и в обезвреживании фашистского резидента Пауля Рихтера, орудующего в облике «однорукого дяди Пети».