Gayane je postavený v meste Echmiadzin, kúsok od katedrály Echmiadzin. Hripsime, postavený v roku 630 (podľa kroniky), patrí k inému architektonickému typu vypracovanému v ére raného kresťanstva v Arménsku. Jedná sa o kupolovitú baziliku s oktaedrickým bubnom spočívajúcim na štyroch vnútorných stĺpoch, ktoré rozdeľujú vnútro stavby na tri lode. Polkruhová apsida s dvoma prílohami, obdĺžnikového pôdorysu, je po stranách osadená do jasného obrysu budovy. Stredné časti bočných lodí sú mierne vyvýšené nad rohovými a zastrešené klenbami cez budovu, ktoré tvoria priečnu loď. Vonkajší vzhľad stavby je doplnený krížovou kupolou zdôraznenou na všetkých štyroch fasádach veľkými štítmi charakteristickými pre kostol Gayane, rovnako ako pre podobné chrámy v Odzune, Bagavane a na ďalších miestach, je lakonizmus architektonických a štruktúrnych tvarov a ich harmonická jednota. Samotná bezchybná hladkosť kamenných povrchov oblúkov, klenieb a trompov je umeleckou zásluhou štruktúry. Interiér a vonkajší vzhľad kostola sa vyznačujú vyváženou kompozíciou, ladnými proporciami, ktoré zdôrazňujú výšku stavby. To isté platí o architektonických detailoch rámy dverí a okien, rímsy a police oživené vyrezávanými kvetinovými ozdobami.
V roku 1652 prešiel kostol kapitálovou rekonštrukciou a v roku 1683 bola na jeho západnej fasáde pridaná galéria hrobka významných osobností arménskeho kostola. Toto je galéria s piatimi rozpätiami. Jeho tri stredné rozpätia s veľkými klenutými otvormi sú zastrešené kupolami a bočné, ktoré sú o niečo nižšie, klenuté a prázdne, s ladnými šesťstĺpovými zvonicami. Architektonické prvky galérie, typické pre 17. storočie,nie sú v kontraste s celkovým umeleckým obrazom kostola Gayane.
