Viendo la imagen de esos auriculares, si quieres que el sonido del juego también se escuche por los auriculares, tendrás que conectar también el AV. Si solo quieres que se oiga la voz de los amigos y tu micro, conectando únicamente el USB es suficiente.
Deberás configurar la entrada y salida de sonido en el menú XMB.