この曲のタイトルのインスピレーションは、歌手兼作詞家のゴード・ダウニーがティモシー・フィンドレーの『The Last of the Crazy People』を読んだことに由来しています。この本には「リトル・ボーンズ」という名の猫が登場し、彼はそれが曲のタイトルにぴったりだと思いました。数ヶ月後、 『Road Apples』のレコーディング中に、タクシー運転手から鶏肉には「小さな骨」が入っていると注意された際に、ダウニーはこのことを思い出しました。このことが、この曲のコーラスにもインスピレーションを与えています。[2]