古琴作为中国传统的民族乐器，有着浓厚的神秘色彩，传说原始时代神农氏曾“削桐为琴、绳丝为弦”，创造了最初的琴，据说有五弦。后文王、武王各增一弦，琴在西周时期已广泛流传，当时它经常与瑟或加上鼓等乐器在祭祀时演奏，《诗经》中有“琴瑟友之”“琴瑟击鼓，以御田祖”就是指此而言。
春秋战国时期出现了众多的琴家，在《吕氏春秋》里，第一次记述了伯牙鼓琴，钟子期解音的故事。春秋时著名的古琴家有师旷、师襄和师文等人。孔子不但会弹古琴，而且技艺娴熟，他教授的“六艺”中的乐，即有弹琴诵诗的内容。
曾候乙墓出土的十弦琴是最早的古琴实物，长67公分(后世琴长120公分左右)，面板呈曲线状，琴头微上昂，腰部下凹，尾部上翘，下仅一足，其形象与传说中的华夏民族的图腾——夔龙相似;继十弦琴之后有马王堆出土的西汉七弦琴，该琴面板较平直，结构简单，音箱较小，面板与底板组成匣式结构，尾部为一实木，音量较小，共鸣效果也不太好，面板上没有音位的标志“徽”，演奏技巧侧重右手，表现性能有相当的局限性。
在西汉中期到三国之际，随着相和歌的兴起，及艺术性较高的相和大曲的盛行，琴开始与笛、笙、筝、琵琶等合奏，琴的形制有了重要的改进，此时的琴有七弦，面板完全平直，尾部实木部分已改为与主体相联的共鸣箱，音量扩大，左手可自由移动演奏滑音，面板外侧有十三个标志音位的小圆点“徽”，按纯律构成四个八度大三和弦的泛音列，因此，音域较宽，表现性能高。
汉以前，琴曲的传授全靠口传心授，到汉魏之交，创造了初期的文字谱《碣石调.幽兰》。汉魏六朝是我国琴曲创作的全盛时期，制作亦有相当的经验，此时的琴不仅是一种独奏乐器，而且是相和歌乐队中重要的伴奏乐器，在文人士官中大大流传，把琴作为必学的“六艺”之一，并创作了大量的琴曲。如《广陵散》、《胡笳十八拍》、《古风操》等。
