Gayane je postaven ve městě Echmiadzin, kousek od katedrály Echmiadzin. Postaven v roce 630 (podle kroniky), Hripsime patří k jinému architektonickému typu vypracovanému v době raného křesťanství v Arménii. Jedná se o klenutou baziliku s oktaedrálním bubnem spočívajícím na čtyřech vnitřních pilířích, které rozdělují vnitřek stavby na tři lodě. Půlkruhová apsida se dvěma přílohami, obdélná v půdorysu, po stranách je osazena do jasného obrysu budovy. Střední části bočních lodí jsou mírně vyvýšeny nad rohové a zastřešeny klenbami napříč budovou, tvořícími příčnou loď. Vnější vzhled stavby je doplněn křížovou kupolí zdůrazněnou na všech čtyřech fasádách velkými štíty charakteristickými pro Gayane church, stejně jako u podobných chrámů v Odzunu, Bagavanu a dalších místech, je lakonicismus architektonických a strukturálních tvarů a jejich harmonická jednota. Samotná bezvadná hladkost kamenných povrchů oblouků, kleneb a trompů je uměleckou předností struktury. Interiér a vnější vzhled kostela se vyznačují vyváženým složením, půvabnými proporcemi, které zdůrazňují výšku stavby. Totéž platí o architektonických detailech rámy dveří a oken, římsy a police oživené vyřezávanými květinovými ornamenty.
V roce 1652 prošel kostel rekonstrukcí a v roce 1683 byla na jeho západní průčelí přidána galerie hrob pro významné osobnosti arménského kostela. Jedná se o galerii s pěti rozpětím. Jeho tři centrální rozpětí s velkými klenutými otvory jsou zastřešeny kopulemi a boční, které jsou mírně nižší, klenuté a prázdné, s půvabnými šesti sloupovými zvonicemi. Architektonické prvky galerie, typické pro 17. století, nejsou v kontrastu s celkovým uměleckým obrazem Gayane church.
