Nazwa osady wskazuje więc, że początek miastu dała piła, czyli młyn wodny poruszający tartak.
Oboczna forma Pieła pojawia się w 1580. Taki wokalizm jest typowy dla gwar krajniackich.
Niemiecka nazwa Schneidemühl, która stosowana była od I rozbioru Polski w 1772, ma zbliżoną semantykę, formalnie jest to złożenie tematu czasownikowego schneid- „ciąć” z tematem rzeczownikowym Mühle „młyn”, z charakterystyczną dla pomorskich dialektów dolnoniemieckich apokopą (zanikiem wygłosowej samogłoski).
Obecna nazwa została administracyjnie zatwierdzona 7 maja 1946Zarządzenie Ministrów: Administracji Publicznej i Ziem Odzyskanych z dnia 7 maja 1946 r. ()..
Historia thumb|Piła na historycznej mapie Wielkopolski sporządzonej w 1888 roku według danych zaczerpniętych z Kodeksu dyplomatycznego Miejsce, w którym leży miejscowość, było zasiedlone, zanim informacje o tym zostały zapisane w źródłach historycznych. Pierwsze badania archeologiczne na terenie miasta przeprowadzono już w XIX wieku co odnotował Słownik geograficzny Królestwa Polskiego: „Wykopano tu słup koryntyjski z bronzowym nadgłówkiem, popielnicę bronzową, takiż celt z napisem i grot z ostrzem do cięcia, niezwykłego kształtu” (pisownia oryg.). Według słownika były to więc znaleziska o proweniencji celtyckiej.