Родился 21 декабря 1914 года в деревне Немец-Сола Моркинского района в крестьянской семье. Учился в Изикугунурской школе I ступени. Продолжил учебу в Кожлаерской семилетней школе, 4 года в Моркинском педучилище. Получив диплом учителя, его направляют работать в Сотнурскую школу Волжского района.
Через некоторое время с Сотнурского военкомата Яковлева И.Я. призывают в Красную Армию. Командование направляет учиться в Ленинградское военное училище. Окончив, с 15 ноября 1939 года И. Яковлев служил в действующей Красной Армии, был заместителем политрука войсковой части 159 стрелкового полка.
Началась Великая Отечественная война. С 23 июня 1941 года Иван Яковлевич сражается на Западном фронте. 5 августа 1941 года в одном жестоком бою был ранен: сквозное пулевое ранение левого предплечья с переломом лучевой кости и артрофии всех суставов и фаланг пальцев левой руки. Был отправлен в Бутурлинский госпиталь, лечился до 28 октября 1941 года. 12 ноября 1941 года уволен с рядов Красной Армии по ранению.
Возвращается домой, начинает работать учителем в Ашламашской начальной школе.
В апреле 1946 года женился на Смирновой В.Г. Вскоре молодая семья переезжает жить в Изикугунур. Иван Яковлевич начал работать в Изикугунурской начальной школе. Его назначают директором данной школы. Благодаря его стараниям были построены деревянные здания для начальных классов и интерната. В 1948 году школа стала семилетней.

За свой добросовестный труд и многолетнюю работу в сфере образования в 1981 году награжден медалью «Ветеран труда».
Вместе с супругой вырастили и воспитали двух дочерей и сына.
В 1985 году ветеран умер.