ירושלים של זהב, שירה המפורסם של נעמי שמר, הפך להיות כמעט מיד עם צאתו לחלק מן הקאנון הישראלי, והוא נחשב לאחד השירים האהובים והמזוהים ביותר עם ירושלים.
שמו של השיר לקוח מהאגדה התלמודית אודות ר' עקיבא ורחל אשתו. מסופר שם על ר' עקיבא המדבר אל לבה של אשתו, בת עשירים, ומבטיח לה שלו היה מתאפשר לו, היה נותן לה "ירושלים של זהב" - מעין תכשיט של זהב שירושלים מצוירת בו.
מקורות השראה נוספים לשיר הם פיוטו הידוע של ר' יהודה הלוי "ציון הלא תשאלי" (שם מופיע לראשונה הצירוף "אני כינור לשירייך") והשבועה המפורסמת "אם אשכחך ירושלים" (תהלים קלז, ה).
השיר נולד כאשר טדי קולק, ראש עיריית ירושלים, ביקש להזמין שיר מיוחד על ירושלים לכבוד פסטיבל הזמר לשנת תשכ"ז שנערך במוצאי יום העצמאות 1967 בירושלים. גיל אלדמע, מעורכי הפסטיבל, פנה לשמר, שהייתה המומה מגודל המעמד ואמרה לאלדמע שהיא לא מסוגלת לכתוב תחת לחץ.
שלושה שבועות לאחר הופעת הבכורה של השיר בפסטיבל, פרצה מלחמת ששת הימים. בעקבות כך הוסיפה שמר לשיר בית חדש בו הנגידה את המצב לפני ואחרי המלחמה. לעומת "איכה יבשו בורות המים" ו"ואין פוקד את הר הבית" הכריז הבית החדש "חזרנו אל בורות המים" ו"שופר קורא בהר הבית". בחודשים שאחרי המלחמה ובשנים שבין המלחמות קנה לו השיר שם והפך למעין המנון-משנה, שהיו אף שקראו להפכו להמנון הלאומי החדש. מאז "ירושלים של זהב" הפכה שמר בעיני רבים - אף כי לא בעיני עצמה - ל"פזמונאית לאומית" האמונה על שיקוף הלכי הרוח בישראל וניסוחם בפזמוניה.
בשנים האחרונות זוכה השיר לגרסאות חדשות המפגישות את המילים עם לחנים מהמסורות המוסיקליות של יהודי צפון אפריקה.