그리스 신화에서 거문고는 헤르메스가 거북 껍질과 소의 창자로 만들어서 아폴론에게 선물한 하프이다. 아폴론은 그 하프를 음악의 천재인 아들 오르페우스에게 주었다.

오르페우스에게는 에우리디케라는 아름다운 아내가 있었는데 불행히도 그녀가 뱀에 물려 죽고 말았다. 아내를 너무너무 사랑한 오르페우스는 슬픔을 참지 못하고 지하세계로 에우리디케를 찾아 나섰다. 오르페우스는 지하세계의 왕 하데스와 그의 아내 페르세포네 앞에서 거문고를 연주하며 에우리디케를 돌려줄 것을 간청했다. 오르페우스의 사랑에 감동한 페르세포네는 에우리디케를 데려가도 좋다고 허락하고 단, 땅위에 이를 때까지 뒤를 돌아보지 말라는 조건을 붙인다. 거의 땅 위에 다다를 무렵 아내가 뒤따라오는지 걱정이 되어 뒤를 돌아보는 순간 에우리디케는 다시는 돌아올 수 없는 어둠 속으로 사라지고 말았다. 그 후 오르페우스도 실의에 빠져 결국 죽고 말았다.

한편, 주인을 잃은 거문고에서는 슬프고 아름다운 음악이 계속 흘러나왔고, 오르페우스의 음악에 매료되었던 제우스는 그의 거문고를 하늘에 올려 모든 사람들이 영원히 그의 음악을 기억하게 하였다.