ARP działa w warstwie 2 (warstwa łącza danych) modelu OSI, a nie w warstwie 3. Jest odpowiedzialna za przekształcanie adresów IP na adresy MAC w segmencie sieci lokalnej. Kiedy urządzenie w sieci musi komunikować się z innym urządzeniem przy użyciu swojego adresu IP, rozgłasza komunikat żądania ARP do wszystkich urządzeń w tej samej podsieci. Urządzenie posiadające adres IP określony w żądaniu ARP odpowiada komunikatem odpowiedzi ARP zawierającym jego adres MAC. Umożliwia to urządzeniu żądającemu utworzenie wpisu w pamięci podręcznej ARP mapującego adres IP na adres MAC, ułatwiając bezpośrednią komunikację w warstwie 2.
Przełączniki warstwy 3 zazwyczaj nie obsługują tablic ARP. Tabele ARP są używane głównie przez urządzenia działające w warstwie 2, takie jak tradycyjne przełączniki i karty interfejsów sieciowych (NIC). Przełączniki warstwy 3, zwane także przełącznikami wielowarstwowymi, działają zarówno w warstwie 2, jak i warstwie 3, wykonując funkcje routingu pomiędzy różnymi podsieciami IP. Zwykle używają tablic routingu do podejmowania decyzji dotyczących przekazywania w oparciu o adresy warstwy 3 (IP), a nie tablice ARP, które są specyficzne dla rozpoznawania adresów warstwy 2.
ARP działa poprzez wykonanie sekwencji kroków w celu zamiany adresów IP na adresy MAC w sieci lokalnej. Gdy urządzenie chce komunikować się z innym urządzeniem przy użyciu swojego adresu IP, najpierw sprawdza pamięć podręczną ARP (jeśli jest dostępna) pod kątem dopasowania mapowania adresu IP na MAC. Jeśli mapowanie nie zostanie znalezione, urządzenie rozsyła pakiet żądania ARP do wszystkich urządzeń w sieci lokalnej, określając adres IP, który chce rozwiązać. Urządzenie będące właścicielem adresu IP odpowiada pakietem odpowiedzi ARP zawierającym jego adres MAC. Urządzenie żądające następnie aktualizuje swoją pamięć podręczną ARP za pomocą mapowania adresów IP na MAC, umożliwiając późniejszą komunikację bezpośrednio w warstwie 2.
ARP jest protokołem warstwy 2, ponieważ działa w warstwie łącza danych modelu OSI. Jego podstawową funkcją jest przekształcanie adresów IP na adresy MAC w celu komunikacji w segmencie sieci lokalnej. Komunikaty ARP są kapsułkowane w ramkach Ethernet (lub innych protokołach warstwy łącza danych), co czyni je specyficznymi dla operacji warstwy 2, w których urządzenia komunikują się przy użyciu adresów MAC w celu wymiany pakietów danych w tym samym segmencie sieci fizycznej.