琵琶又称“批把”，最早见于史载的是汉代刘熙《释名•释乐器》：“批把本出于胡中，马上所鼓也。推手前曰批，引手却曰把，象其鼓时，因以为名也。”意即枇把是骑在马上弹奏的乐器，向前弹出称做批，向后挑进称做把；根据它演奏的特点而命名为“批把”。在古代，敲、击、弹、奏都称为鼓。当时的游牧人骑在马上好弹琵琶，因此为“马上所鼓也”。大约在魏晋时期，正式称为“琵琶”。
琵琶由历史上的直项琵琶及曲项琵琶演变而来，据史料记载，直项琵琶在我国出现得较早，秦、汉时期的“秦汉子”，是直柄圆形共鸣箱的直项琵琶（共鸣箱两面蒙皮），它是由秦末的弦鼗发展而来的。“阮咸”或“阮”是直柄木制圆形共鸣箱，四弦十二柱，竖抱用手弹奏的琵琶。晋代阮咸善奏此乐器，故以其名相称，即今天的阮。
南北朝时，通过丝绸之路与西域进行文化交流，曲项琵琶由波斯经今新疆传入我国。曲项琵琶为四弦、四相（无柱）梨形，横抱用拨子弹奏。它盛行于北朝，并在公元6世纪上半叶传到南方长江流域一带。
在隋唐九、十部乐中，曲项琵琶已成为主要乐器，对盛唐歌舞艺术的发展起了重要作用。从敦煌壁画和云冈石刻中，仍能见到它在当时乐队中的地位。
到了公元五、六世纪随着中国与西域民族商业和文化交流的加强, 从中亚地区传入一种曲项琵琶, 当时称作 "胡琵琶"。 其形状为曲颈, 梨形音箱, 有四柱四弦，很像目前在阿拉伯国家常见的乌特琴(Oud 或 Ud)或古波斯的巴尔巴特琴（Barbat）。横抱琵琶用拨子演奏。 现代的琵琶就是由这种曲项琵琶演变发展而来的。
到了唐代（公元7-9世纪）琵琶的发展出现了一个高峰。当时上至宫廷乐队, 下至民间演唱都少不了琵琶, 随成为当时非常盛行的乐器, 而且在乐队处于领奏地位。这种盛况在我国古代诗词中有大量的记载。例如唐代诗人白居易在他的著名诗篇《琵琶行》中非常形象地对琵琶演奏及其音响效果这样的描述:“大弦嘈嘈如急雨，小弦切切如私语。嘈嘈切切错杂弹，大珠小珠落玉盘"。
到了唐代后期琵琶从演奏技法到制作构造上都得到了很大的发展。在演奏技法上最突出的改革是由横抱演奏变为竖抱演奏， 由手指直接演奏取代了用拨子演奏。琵琶构造方面最明显的改变是由四个音位增至十六个（即四相十二品）。同时它的颈部加宽，下部共鸣箱由宽变窄， 便于左手按下部音位。由于以上这俩项改革，琵琶演奏技法得到了空前的发展。据统计琵琶的指法共有五六十种。归纳起来，右手指法分两个系统： 一、轮指系统，二、弹挑系统。左手指法也分两个系统：一、按指系统， 二、推拉系统。
到了公元十五世纪左右，琵琶已拥有一批以《十面埋伏》和 《霸王卸甲》为代表的武曲以及以《月儿高》《思春》和《昭君怨》 为代表的文曲。所谓武曲，其特点是以写实和运用右手技法为主； 所谓文曲，其特点是以抒情和运用左手技法为主。这些乐曲已经成为中华民族音乐的瑰宝、琵琶艺术的珍品。
琵琶传统上是五声音阶。 到了民国时期，已开始按照十二平均律增加琴码，目前标准的琵琶已有八相三十品，琵琶表现力和适应力大大加强，不仅可以演奏传统乐曲，而且可以演奏西洋和现代作品，并且有利于与交响乐队合作。 为后来的进一步发展创造了条件。到了公元二十世纪中后期，琵琶艺术又有了新的发展，在琵琶制作方面，原来用的丝质弦改成了尼龙钢丝弦，有的甚至采用银弦，加大了琵琶音量和共鸣。在技法上左手大拇指以及和弦的运用使琵琶的表现力再次大大提高。由此涌现出一大批融传统音乐和现代作曲理论为一体的优秀的独奏作品， 而且还出现了与各种乐器的重奏以及与小乐队和交响乐队的琵琶协奏曲。 到了二十一世纪琵琶不仅在中国呈现出回复盛唐时期的景象，而且越来越受到世界各国音乐爱好者的关注。不少传统乐曲和当代作品受到中外听众喜爱。可以说，琵琶已开始走向国际乐坛。