Két csődeljárás után Hilly Kristal 1973-ban megvásárolja a New York-i Palace bárt. Az álma az volt, hogy egy színpadon hozza össze a country, a bluegrass és a blues műfaj _ rövidítve CBGB -legjobbjait, aki eredeti zenét játszanak. Amikor nehézségekbe ütközött a zenekarok egyeztetése, Kristal megnyitotta a bár kapuit más műfajok előtt is. A CBGB végül így vált a földalatti rock 'n' roll és punkzene szülőhelyévé. Többek között olyan együttesek indultak innen, mint a Blondie, a Talking Heads és a The Police.