Architektura środowiska gridowego zdefiniowana została w standardach OGSA (ang. ), OGSI (ang. ) oraz WSRF (ang. ) określającym wymagania dla interfejsu sieciowego i sposób budowania oprogramowania dla środowiska z wykorzystaniem usług sieciowych. Jest to architektura zbliżona strukturą do sieci Internet. Najniższą warstwę tworzą zasoby sprzętowe organizacji (komputery, systemy przechowywania danych, sieci, klastry). Warstwa łącza definiuje protokoły komunikacji i uwierzytelniania. Kolejna warstwa określa protokoły kontroli i bezpiecznego dostępu do lokalnych zasobów sieci. Wyższa warstwa dostarczająca mechanizmy udostępniania i współdzielenia globalnych zasobów gridu.
Najwyżej znajduje się warstwa aplikacji, którą stanowią oprogramowanie użytkownika oraz portale dostępowe. Jest to właściwie jedyna warstwa widoczna dla użytkownika. Zespół wszystkich usług realizujących współpracę aplikacji w środowisku rozproszonym i umożliwiający konsolidację różnorodnych elementów sieci tworzy tzw. oprogramowanie pośredniczące. Jest to rodzaj oprogramowania pośredniczącego, stanowiący pomost umożliwiający komunikację między aplikacją użytkownika a zewnętrznymi bazami danych lub serwerami.