By zrozumieć działanie pomp ciepła należy wyjść od ich podziału oraz rozróżnić rodzaj dolnego od górnego źródła ciepła. Tym pierwszym jest odnawialna energia zgromadzona w wodzie, ziemi i powietrzu. Z kolei górnym źródłem ciepła jest nasza instalacja centralnego ogrzewania, najczęściej zasilana wodą, rzadziej instalacja ogrzewania nadmuchowego. Elementy, których praca umożliwia przekazanie energii zawartej w dolnym źródle, źródłu górnemu stanowią całość urządzenia jakim jest pompa ciepła.
Rolą dolnego źródła ciepła jest przekazanie energii cieplnej czynnikowi realizującemu obieg termodynamiczny w pompie ciepła. Może nim być grunt, woda lub powietrze. Z każdego z dostępnych dolnych źródeł możliwe jest pobranie energii cieplnej, jednak z każdego z nich odbywa się to nieco inaczej. Do wykorzystania energii zawartej w gruncie stosuje się wymienniki pionowe wkopywane w odwiertach głębokości 100 metrów oraz wymienniki płaszczyznowe, zakopywane na dużej powierzchni terenu, na głębokości 1.5 metra. W nich zazwyczaj przepływa glikol, który jest nośnikiem ciepła w dolnym źródle w przypadku gruntowych wymienników ciepła. Przepływający glikol w takich wymiennikach ma dwie funkcje zależne od pór roku-porą zimową nagrzewa się wykorzystując energię cieplną zawartą w gruncie i przekazuje ją czynnikowi realizującemu obieg termodynamiczny w parowniku pompy ciepła, umożliwiając dalsze jej wykorzystanie. Porą letnią natomiast oddaje zgromadzone ciepło do gruntu, odwracając obieg termodynamiczny w pompie, co skutkuje możliwością schłodzenia budynku. Na podobnej zasadzie wykorzystuje się energię cieplną zawartą w wodzie. Najczęściej wykorzystywanymi pompa ciepła są jednak te, których dolnym źródłem jest powietrze. Powód jest prosty: powietrze to w pełni niewyczerpalne, najłatwiejsze w wykorzystaniu odnawialne źródło energii, dostępne bez konieczności dysponowania dużą powierzchnią działki.
Każda pompa ciepła składa się z czterech podstawowych elementów, do których zaliczamy parownik, sprężarkę, skraplacz i zawór rozprężny. Ważną rolę pełnią również: czynnik termodynamiczny, który jest substancją chemiczną o niskiej temperaturze parowania oraz konieczna do pracy całego układu energia elektryczna.
Wyjściową i jedną z zasadniczych ról w całym systemie działania pompy ciepła odgrywa parownik. Jego zadaniem jest przekazanie energii pobranej z dolnego źródła ciepła czynnikowi termodynamicznemu, który w warunkach niskiego ciśnienia i w wyniku pobrania tej energii rozpoczyna parowanie (dzięki wykorzystaniu w pompach ciepła gazów technicznych o bardzo niskiej temperaturze parowania możliwe jest wykorzystanie energii zawartej nawet w źródłach o niskich temperaturach). Parujący czynnik trafia następnie do sprężarki, a ta z kolei spręża czynnik termodynamiczny podnosząc jego ciśnienie i temperaturę do poziomu, który umożliwia wykorzystanie jej w skraplaczu. Skraplacz umożliwia dalsze przekazanie tej energii górnemu źródłu ciepła, czyli podgrzaniu czynnika grzewczego centralnego ogrzewania w buforze, sprzęgle hydraulicznym lub w zbiorniku c.w.u. W skraplaczu w trakcie przekazania energii cieplnej do górnego źródła, dochodzi również do skroplenia czynnika termodynamicznego w skutek obniżenia jego temperatury. Czynnik termodynamiczny mimo że już nieco chłodniejszy to jednak odznaczający się wciąż wysokim ciśnieniem trafia na zawór rozprężny, w którym dochodzi do szybkiego i znacznego obniżenia jego ciśnienia, w efekcie czego dochodzi do obniżenia jego ciśnienia. Czynnik pod taką postacią, trafiając ponownie do parownika jest w stanie ponowić cykl swojej pracy.
Górne źródło ciepła jest niczym innym tylko odbiornikiem energii, którą pompa transportowała ze źródła dolnego. Jego zadaniem jest odebranie temperatury czynnika termodynamicznego w skraplaczu i przekazanie jej do czynnika grzewczego instalacji centralnego ogrzewania, czego efektem jest ogrzanie naszego domu. Stosując sportową retorykę dolne źródło ciepła było startem, a zasobnik ciepłej wody użytkowej czy grzewczej jest metą całej instalacji związanej z pompą ciepła.