MP i MP3 kommer faktisk fra organisasjonen som standardiserte teknologien, Moving Picture Experts Group (MPEG). Som navnet tilsier, har MPEG som mål å lage standarder for komprimering av bevegelige bilder, lyd og relaterte teknologier.
"MP" i MP3 er en forkortelse for MPEG-1 Audio Layer III. "Audio Layer III" refererer til det tredje laget av MPEG-1-lydkomprimeringsalgoritmen. Lag nummer 3 spesifiserer at dette er det tredje kodingslaget med lyddata basert på MPEG-standarden.