Zachowanie thumb|240px|Gniazdo kowalika dużego Ogólnie ptak przybiera postawę, w której zdaje się mieć środek ciężkości przechylony w przód, jednakże często staje wyprostowany w górę. Zwykle S. tephronota spotykany jest pojedynczo lub w parach. Sparowane ptaki pozostają ze sobą cały rok, śpiąc razem w gnieździe w zimie. Terytorialny ptak, na granicach terytoriów występują potyczki, jednak poza sezonem lęgowym stwierdzano grupy 2–3 lub nawet 16 osobników. Gatunek niepłochliwy, niekiedy zdaje się być ciekawski. Ptak, który wyczuł zagrożenie, zastyga w bezruchu na dobrze widocznej skale, okazjonalnie jedynie ruszając głową; gdy zostanie rozdrażniony, dygocze się i potrząsa skrzydłami.
Kowalik duży odzywa się piip-piip-piip, bardziej starannie brzmiącym i wyraźniejszym niż u kowalika skalnego. Do tego powtarza kiu-kiu i uii-uii, podobnie jak dzwoniec (Carduelis chloris). Żeruje na ziemi, pośród skał i kamieni. W lecie zjada głównie owady i ślimaki. Od jesieni do wczesnej wiosny zjada głównie nasiona, np. moreli (Armeniaca vulgaris), czereśni (Prunus avium), migdałowca (Amygdalus communis).