Первая экспозиция из 49 работ была открыта еще в 1845 году в части обширного дома, принадлежавшего самому Ивану Айвазовскому. В 1880 году к нему был пристроен еще один спроектированный художником выставочный зал. Галерея стала первым на территории Российской империи музеем одного художника. После смерти художника в 1900 году галерея по его завещанию была передана родному городу художника, городу Феодосии, и с 1922 года стала государственным музеем. А в 1930 году перед галереей был установлен бронзовый памятник Айвазовскому работы скульптора И. Я. Гинцбурга с надписью «Феодосия — Айвазовскому».

В галерее находится собрание из около 12 тысяч произведений морской тематики. Экспозиция галереи знакомит и с творчеством Ивана Айвазовского, историей его семьи, историей самой галереи, а в комнате-сейфе экспонируются ценные вещи его семьи.

В соседнем здании, доме сестры художника, собраны картины Айвазовского на мифологическую и библейскую темы, работы иностранных маринистов XVIII—XIX веков, современников великого художника, представляющих Киммерийскую школу живописи, а также произведения советских художников.