琅琊郡始建于秦统一中国后,在国内推行郡县制,实行中央集权统治。当时在全国设三十六郡,后增至四十多郡。建郡之初,于琅琊山之西北(今胶南市琅琊镇)。郡以山为名,故为琅琊郡。
琅琊山近黄海,有港湾,风光旖旎。秦始皇巡游至此而登山,始建琅琊台,立碑记之(今存于中国历史博物馆)。至于后人说琅琊台为越王勾践所建,实为误传。另一琅琊山在今安徽滁州西南,因东晋琅琊王避难至此山,遂改为琅琊山。
随着朝代更迭,秦时琅琊郡几经迁移治所,虽名称各异,据古今史载,仍以别名琅琊呼之。其间,西汉移治东武(今诸城),东汉改琅琊国,移治开阳(今临沂市北),北魏移治即丘(今临沂市东南)。东晋太兴三年(公元320年)侨置,分江乘县地为实土,治所在金城(今江苏句容县北)。南朝宋改为南琅琊郡,南齐迁至白下(今江苏南京市北)。自琅琊郡以来,时而为县,时而为州,时而为郡,时而为国。北宋时州郡通称,在称沂州的同时,又称琅琊郡。从南宋到清朝,称沂州时又加上别名琅琊;民国十四年(公元1925年)设琅琊道,1928年改称临沂至今,仍以琅琊为别名。
琅琊郡作为历史及近代的行政区划,应当视为是山东西南部的广大区域。实际上这片土地也是以古代鲁国的面积为基础,即泰山以南的汶、泗、沂、沭水流域。
郡望,意即世居某郡为当地所仰望的显贵的世族。符姓作为琅琊郡望有史可查。据《敦煌残卷》,唐《贞观氏族志》载有“琅琊六姓”,依次为王、颜、诸葛、惠、符、徐。1986年在台北出版的《中国族谱》一书,对全国80个重要姓氏堂号的267个姓氏进行分述。历史上使用《琅琊堂》号的只有三姓,即符、云、诸葛,并注明琅琊为秦郡名,地辖山东西南部,今临沂县境。