Ларс Юхан Ингве Мальмстен родился 30 июня 1963 года в Стокгольме, Швеция, в семье военного и актрисы. Почти сразу после его рождения его родители развелись. В одиннадцать лет он официально сменил фамилию отца на девичью фамилию матери Мальмстен. Шведская фамилия Malmsten (malm — «руда»,sten — «камень») была американизирована впоследствии в Malmsteen, а имя Yngve в Yngwie. По утверждению музыканта его имя переводится с древнешведского как предводитель викингов. С детства он увлекался творчеством Антонио Вивальди, Никколо Паганини и Джими Хендрикса и, по утверждению самого музыканта, начал играть на гитаре раньше, чем ходить. В возрасте семи лет он увидел по телевизору похороны Джими Хендрикса и сказал: «В тот день, когда умер Джими Хендрикс, родился гитарист Мальмстин». Впоследствии на его манеру игры оказал большое влияние гитарист известной хард-рок группы Deep Purple Ричи Блэкмор. В 1976 году Ингви Мальмстин организовал свою первую группу Powerhouse, а в 1978 году — Rising Force. Название группы возникло под влиянием второго альбома Rainbow «Rising», выпущенного в 1976 году и на тот момент являвшегося его любимым альбомом.