Z tego powodu komponenty głowy uwagi nazywane są Query (zapytanie, Q), Key (klucz, K) i Value (wartość, V) – jest to analogia niezbyt precyzyjna, a być może nawet myląca, zaczerpnięta z relacyjnych baz danych.
Możemy znacznie przyspieszyć obliczenia, równolegle przetwarzając opisane wyżej operacje. Warto zauważyć, że wektor kontekstu dla słowa „that” nie zależy od wektorów kontekstu pozostałych słów; dlatego można obliczyć wszystkie wektory kontekstu jednocześnie, wykorzystując macierz X, zawierającą osadzenia wyrazów, zamiast pojedynczego wektora x w poprzednim wzorze. W tym przypadku funkcję softmax należy stosować w ujęciu macierzowym – niezależnie dla każdego wiersza. Zapewnia to istotną przewagę obliczeniową w porównaniu z sieciami rekurencyjnymi, które muszą przetwarzać dane sekwencyjnie.
Przykład tłumaczenia Aby zbudować maszynę tłumaczącą z angielskiego na francuski, wstawia się jednostkę uwagi do podstawowego modelu kodera-dekodera, jak na diagramie poniżej. W najprostszym przypadku jednostka uwagi składa się z iloczynów skalarnych stanów rekurencyjnych kodera i nie wymaga treningu.