פינק כתב את הבלדה קורעת הלב הזו עם כותב השירים/המפיק השוודי מקס מרטין.
בשיר הזה פינק מתחנן למאהב שישקול מחדש את ההסתלקות. היא הסבירה באתר שלה שהלחן הזה הוא אחד השירים האהובים עליה Funhouse כי זה פשוט כל כך עירום. זה כמו לקחת נשימה עמוקה ולומר, 'הנה אני. קח אותי. קח את הזריקה הטובה ביותר שלך.''
פינק הסביר: 'הדבר הראשון שעולה לי בראש עם 'I Don't Believe You' הוא שאני עומד בתא הקול ומאזין, בעצם בחדר הבקרה ומאזין לשיר הזה, דמעות זולגות על פניי, ממש כמו 'f'. --ק, באמת?' זה הצד החלש הפגיע שבי שאני לא מרפה החוצה. וזה [נאנח], כן זה השיר הזה. ואני אוהב את זה, אני אוהב את זה. אני פשוט אוהב את זה, זה מאוד קרוב ויקר לי'.
הקליפ בשחור-לבן עוקב אחר חיפושיה של פינק אחר אהובה האבוד. היא לובשת שתי שמלות כלה, הראשונה הייתה השמלה האמיתית שלה מהחתונה שלה עם קארי הארט. סופי מולר, שביימה קליפים ל'דיוקן משפחתי' ו'צרות' של פינק, הובילה את הסרטון.
כמו הסינגל הקודם 'Please Don't Leave Me', זהו אחד משוברי הלב רבים באלבום בהשראת הפרידה הזמנית של פינק מהבעל קארי הארט.
הופיע לראשונה במקום השני, Funhouse היה האלבום הגבוה ביותר של פינק בארה'ב עד ליציאתה הבאה, האמת על אהבה , תפס את המקום הראשון.
