Très jeune, il est attiré par le dessin et recopie les illustrations d'un livre sur la lutte des Grecs contre le joug de l'empire ottoman. Ce thème aura une grande influence sur lui et il y reviendra, plus tard, dans ses peintures. Après une éducation primaire dans une école arménienne de Théodosie, il reçoit une première formation artistique au Gymnasium de Simferopol grâce à des aides de compatriotes appréciant son talent. En 1833, avec le soutien de A. Kaznatcheïev, maire de Théodosie, il se rend à Saint-Pétersbourg pour y compléter sa formation à l'Académie impériale des beaux-arts. Il y étudie les œuvres du paysagiste Maxime Vorobev et du peintre de marines français Philippe Tanneur alors professeur dans cette Académie. Lors de ses études, sa production attire l'intérêt des connaisseurs ; dès ces années-là, Alexandre Pouchkine découvre ses œuvres lors d'une exposition et lui porte une grande admiration. En 1837, Ivan Aïvazovski est diplômé de l'Académie de Saint-Pétersbourg avec une médaille d'or et reçoit une aide de cette académie pour approfondir ses études.

L'Académie l'envoie tout d'abord voyager en Crimée pendant deux ans pour y peindre des marines. Pendant cette période, il navigue sur différents vaisseaux de la Marine russe et fait la connaissance de grands amiraux tels que M. Lazarev, connu pour ses voyages dans l'Antarctique, ainsi que F. Litke, V. Kornilov, P. Nakhimov et P. Panfilov. Le peintre retire de cette époque une grande admiration de la Flotte russe à laquelle il consacrera plusieurs toiles.

Puis de 1840 à 1844, il voyage en Europe : tout d'abord en Italie, puis en France, en Allemagne, en Hollande, en Angleterre, en Espagne et enfin à Malte. Au cours de ce périple, il est admis comme membre de nombreuses académies : Florence, Rome et Paris (qui le priment d'une médaille d'or), Stuttgart et Amsterdam. Ses œuvres reçoivent un grand succès et, en 1841, le pape Grégoire XVI lui achète le Chaos pour le musée du Vatican. En Italie, il fait la connaissance de Nicolas Gogol et rend visite, dans l'île San Lazzaro degli Armeni près de Venise, à son frère aîné Gabriel Aivazian (1812-1880), ecclésiaste mékhitariste et philologue.