Інтерес Японії до підводних човнів розпочався з російсько-японської війни 1904–1905 років. І Росія, і Японія придбали підводні човни у США, але ці невеликі судна не брали участі у бойових діях. Японія продовжувала закуповувати підводні човни та їхні конструкції за кордоном, а Імператорський японський флот згодом ініціював вельми вражаючу програму розвитку підводних човнів.
Підводні човни відіграли значну роль на Атлантичному та Середземноморському театрах воєнних дій під час Першої світової війни. Після війни, на Вашингтонській морській конференції 1921–1922 років, провідні держави шукали домовленості щодо співвідношення сил флотів як альтернативу масштабним програмам будівництва військових кораблів, що тоді проводились. Конференція встановила співвідношення 5:5:3 для лінійних кораблів — лінкорів і лінійних крейсерів — та авіаносців для флотів США, Великої Британії та Японії відповідно. Японський флот і уряд спочатку прагнули паритету з США, але вважали співвідношення 10:10:7 прийнятним, оскільки США і Велика Британія мали морські зобов’язання поза межами Тихого океану. Однак США, маючи змогу читати японські дипломатичні комунікації завдяки доступу до японського дипломатичного коду, змогли нав’язати співвідношення 5:5:3. Вашингтонська конференція також намагалася досягти угод щодо менших бойових кораблів, у тому числі підводних човнів. У певний момент британці навіть вимагали повного скасування всіх підводних човнів. Після цього відбувалися більш реалістичні дискусії про те, скільки тоннажу підводних човнів кожен флот може мати. Проте всі надії на угоду щодо розміру підводних сил закінчилися, коли Франція відмовилася розглядати флот менш ніж у 90 000 тонн (надводний водотонаж) як частину плати за прийняття відносно невеликої квоти Франції на лінійні кораблі.
У цей період як ВМФ США, так і ВМФ Японії прийняли стратегічну тезу про перетин флотами океану для великої дуелі лінійних кораблів. Цю концепцію раніше виклав у своїх широко відомих працях американський морський стратег Альфред Тейєр Махан. Однак обидва флоти швидко усвідомили, що рух флоту США на захід буде довгою і складною операцією. Для досягнення цієї мети ВМФ США прагнув створити передові бази для поповнення запасів і ремонту у Перл-Гарборі на Гавайських островах, у Кавіте на Філіппінах та, можливо, в Апра-Гарборі на Гуамі. Японці же вважали, що великі підводні човни з великою дальністю ходу можуть атакувати флот США під час його руху на захід, послаблюючи його силою поступового виснаження та одночасно доповідати про його переміщення у підготовці до вирішальної дуелі в морі. Так народилася стратегічна концепція японського підводного флоту.
Після Вашингтонської конференції й до кінця 1924 року японський флот був змушений коригувати програми будівництва лінійних кораблів відповідно до домовленостей конференції. На той час сила японського підводного флоту складалася з таких одиниць:
Підводні човни першого класу: 1,400 тонн
Підводні човни другого класу: 39 одиниць, загалом 30,842 тонни
Підводні човни третього класу: 10 одиниць, загалом 3,259 тонн
До кінця 1930 року масштабна програма будівництва підводних човнів мала забезпечити Японію такими силами:
Підводні човни першого класу — 22 одиниці загальною водотоннажністю 34 788 тонн
Підводні човни другого класу — 45 одиниць загальною водотоннажністю 36 185 тонн
Однак стратегія Японії щодо використання океанських підводних човнів першого класу як розвідників і першої лінії атаки на американський або британський флот була під загрозою через Лондонську морську конференцію 1930 року. Конференція прагнула встановити обмеження на крейсери, есмінці та підводні човни, доповнюючи раніше встановлені обмеження на більші військові кораблі. Японія наполегливо боролася за квоту підводних човнів у 78 000 тонн (надводна водотоннажність). Дебати на Лондонській конференції, як і раніше на Вашингтонській, були гарячими, при цьому Великобританія і США, як правило, виступали проти Японії. Врешті-решт учасники погодилися, що кожен з трьох головних флотів може мати підводний тоннаж у 52 700 тонн.
За словами одного японського коментаря з приводу результатів конференції:
«Генеральний штаб ВМФ у Токіо був обурений цим рішенням. Рівність тоннажу підводних човнів була абсолютно незадовільною. Військові навчання Японії показали, що їй потрібен абсолютний мінімум у 78 000 тонн. Потужність у 52 700 тонн залишила б її в нестачі на дві ескадри підводних човнів — шістнадцять човнів, які, на думку планувальників, були необхідні для стратегії поступового виснаження ворога. Тому результати Лондонської конференції розглядалися як загроза національній безпеці Японії.»
Дебати з цього питання в Японії були значними. Підводні човни першого класу (I класу) згодом почали вироблятися значними темпами. Вони могли курсувати від японських острівних територій до Сполучених Штатів без дозаправки, щоб вести розвідку та почати виснаження американського флоту, що рухався на захід.
Виходячи з обмежень Лондонської конференції, у жовтні 1930 року міністр ВМФ Японії представив уряду нову морську програму, яка мала повністю переглянути та поповнити військово-морські сили.
План 1931 року — Перший план поповнення морських озброєнь — передбачав будівництво дев’яти підводних човнів, які мали бути здані в експлуатацію до 1937 року:
Велика далекохідні: 1 підводний човен (J2), 1900 тонн
Великі: 6 підводних човнів (KD6A), по 1400 тонн кожен
Середні: 2 підводних човни (K5), по 700 тонн кожен
Загальна тоннажність підводних човнів становила 11 700 тонн, що можна порівняти з планом 1931 року, де на крейсери відводилось 34 000 тонн (4 кораблі), а на есмінці — 16 416 тонн (12 кораблів) та інші менші кораблі. Однак ще до завершення цього плану світові події на початку 1930-х змусили японців втілити Другий план поповнення морських озброєнь, щоб якомога швидше довести флот до лімітів договору. Другий план мав бути виконаний лише за чотири роки — з 1934 по 1937 рік. Проте під час переговорів між ВМФ і Міністерством фінансів план був значно скорочений через фінансові причини. Більшість плану 1934 року була присвячена будівництву авіаносців, крейсерів і есмінців. Для підводних човнів було передбачено лише чотири додаткові одиниці:
Велика далекохідні: 2 підводні човни (J3), по 2231 тонні кожен
Великі: 2 підводні човни (KD6B), по 1420 тонн кожен
У грудні 1934 року уряд Японії повідомив про вихід із Вашингтонського договору. Керівництво країни вважало, що прийняті у Вашингтоні та Лондоні співвідношення військових сил були нерозумними й не гарантували безпеки Японії. У грудні 1935 року в Лондоні зібралася ще одна п’ятистороння морська конференція, метою якої було відновлення обмежень на будівництво військових кораблів. Оскільки Великобританія і США ігнорували претензії Японії щодо нерозумності попередніх договорів, Японія в січні 1936 року вийшла з цієї конференції.
Третій план поповнення морських озброєнь було розроблено з розрахунком на п’ять років — з 1937 по 1941 рік. Він передбачав будівництво супердредноутів «Ямато» і «Мусаші», найбільших бойових кораблів, які коли-небудь будувалися, а також багатьох менших військових суден. До плану входило й 13 підводних човнів:
Велика далекохідні (тип A1) — 2 одиниці, по 2434 тонни кожен
Великі (тип B1) — 6 одиниць, по 2198 тонн кожен
Великі (тип C1) — 5 одиниць, по 2184 тонни кожен
Підводні човни типу A1 і B1 були оснащені ангарами для гідролітаків. Гідролітак, що використовувався, — це двомоторний біплан, який тестувався з мінного підводного човна I-121. Крила літака складалися назад для зберігання в ангарі, а максимальна швидкість становила близько 130 км/год. Літак міг залишатися в повітрі до двох годин.
Ці підводні човни мали доповнювати один одного в операціях далекого радіусу дії проти ворожого флоту. Тип A1 призначався для виконання командних або штабних функцій з координації операцій, тип B1 — для розвідки й виявлення противника, а тип C1 — для безпосередніх атак. Тип A1 мав додаткові засоби зв’язку і місця для штабу. Типи A1 і B1 оснащувалися ангарами для гідролітаків, тоді як у типу C1 цієї особливості не було. Усі три типи були озброєні торпедними апаратами та артилерією на палубі. Ці підводні човни мали бути завершені до жовтня 1941 року.
Починаючи з Третьої програми поповнення, японським кораблям присвоювали порядкові номери; 13 підводних човнів були позначені номерами з 35 по 48.
У наступному році Міністерство флоту почало розробку програм кораблебудування, які можна вважати програмами воєнного часу, починаючи з Четвертого плану поповнення і завершуючи воєнною програмою 1944–1945 років, жодна з яких не була завершена.
Ключовим елементом тактики японських підводних човнів було використання розвідувальних літаків, які запускалися з підводних човнів — спеціально обладнаних «підводних авіаносців» типів A1 і B1. Ще у 1923 році японці проводили експерименти з використанням німецького біплана Caspar-Heinkel U-1 на поплавках, який встановлювався на підводному човні. Британський, французький і американський флоти також експериментували з літаками на підводних човнах, але лише японці систематично розвивали цю операційну концепцію.
До 1925 року був розроблений прототип гідролітака на базі Heinkel U-1, спеціально для використання з підводних човнів — Yokosuka Type 1 biplane.
Літак Watanabe E9W1 (відомий у США під кодовою назвою Slim) був розроблений спеціально для флоту. Він вперше пройшов тестові польоти у 1935 році та був прийнятий у виробництво після високих оцінок. З 1938 року ці двомоторні гідролітаки експлуатувалися з великих підводних човнів. Його замінив більш досконалий Yokosuka E14Y1 (Glen), який вступив у стрій наприкінці літа 1941 року. Декілька літаків E9W1 брали участь у бойових діях на початку війни, а згодом служили тренувальними. Саме E14Y1 з максимальною швидкістю близько 246 км/год і витривалістю 5,5 годин справив значний вплив на операції японських підводних човнів у Другій світовій війні.
До споріднених операцій належало використання підводних човнів для дозаправлення і перевантаження літаючих човнів на передових базах. Під час війни цю схему використовували також німці, але японські операції з підводними човнами на передових базах були значно амбітнішими та складнішими за німецькі.