- Kurt Cobain talte sjældent om denne sang, men han sagde, at den var dedikeret til hans kone, Courtney Love, og datter, Francis Bean. Sangen omhandler alt, hvad der var forventet af ham og de ændringer, han havde været igennem, som ikke alle var behagelige at dømme efter linjerne, 'Gift ... Begravet.'
- Aberdeen, Washington, hvor bandet dannede, er et af de mest overskyede steder i USA, og også ifølge Cobain et af de mindst accepterende. Som han gjorde på I livmoderen nummer 'Dumt', nævner Kurt solen i denne sang og synger: 'I solen føler jeg mig som en.' Dette afspejlede hans ønske om at være et andet sted.
- Dette var et højdepunkt i Nirvana's Afbrydelse i New York , et akustisk album indspillet til en MTV -special. Nirvana optog Unplugged -sessionen 18. november 1993 og det blev sendt næsten en måned senere. Albummet blev udgivet 1. november 1994 i USA, syv måneder efter Cobains selvmord. I den sammenhæng lød det som en farvel -besked fra Cobain.
Abby - Altoona, IA - På nogle europæiske versioner af albummet er der en skjult sang 20 minutter efter dette slutter kaldet 'Gallons Of Rubbing Alcohol Flow Through The Strip'. Album med det skjulte nummer indeholder et klistermærke, der siger 'Eksklusivt internationalt bonusspor.'
- Da Nirvana indspillede I livmoderen i februar 1993 ønskede de at lave et råt, afskalet album, der tog dem tilbage til deres rødder efter det polerede og pop-påvirkede Glem det . Bandet bukkede dog under pres for at få yderligere blanding til 'Heart-Shaped Box', 'All Apologies' og 'Pennyroyal Tea'. Det forlyder, at hele albummet var blandet og slet ikke lignede, hvad Nirvana havde ønsket, men bandets tre medlemmer benægtede heftigt dette og erklærede, at de var meget tilfredse med resultatet.
Adrian - Brookings, SD - Det kristne band DC Talk dækkede undertiden denne sang ved koncerter og ændrede linjen 'alle er homoseksuelle' til 'Jesus er vejen.'
Brett - Edmonton, Canada - Sinead O'Connor dækkede dette på sit album fra 1994 Universal mor .
Mike - Hamilton, Canada - Støttet med ' Voldtægter mig , 'dette var den sidste single, Nirvana udgav. Kurt Cobain døde cirka fire måneder senere.
- Komikeren Bobcat Goldthwait ville have Cobain til at lave en 'All Apologies'-video, der ville få Cobain til at spille Lee Harvey Oswald i en genopførelse af JFK-attentatet (de to havde mødtes og blev venner ved et radioprogram i Ann Arbor, Michigan). Cobain undgik sjældent kontroverser, men i dette tilfælde troede han selv, at videoen ville skubbe tingene for langt.
