Conteniendo el mismo sonido que identifica a Paul Simon, pero empleando un sonido más producido, 'There Goes Rhymin' Simon' está escrito e interpretado con seguridad, aventurandose en la música soul y R&B. Simon incluso utiliza cantantes de gospel. En "Love Me Like a Rock" y "Tenderness" (que sonaba como escrita para Art Garfunkel), el Dixie Hummingbirds interpreta los coros, y en "Take Me to the Mardi Gras", contribuye el reverendo Claude Jeter. En otras pistas Simon utiliza al grupo de sesion de Muscle Shoals Sound Studios, con el fin de obtener una variedad de estilos, desde el gospel de 'Love me like a Rock', a la Dixieland de 'Mardi Gras'. Simon estaba tan seguro de si mismo que incluso incluyó una balada: 'American Tune', cantada con su propia voz. Es una coleccion de canciones positivas, canciones optimistas sobre la fe, el amor y el compromiso, para concluir con una canción de cuna ('St. Judy's Comet') y una declaración de amor maternal ('Loves Me Like a Rock').
