🎵 DeepMusic-OCR: How AI Learns to Read Sheet Music
We adapted DeepSeek-OCR a model built for reading text and taught it to read the 2D language of music notation.
Here’s what the paper is really about 👇
Thread 🧵
1/
Unlike normal text, music is two-dimensional:
• Vertical = chords / simultaneity
• Horizontal = rhythm / time
Traditional OMR systems try to segment symbols.
DeepMusic-OCR doesn’t.
It reads the entire score at once.
2/
🔍 The Encoder
DeepMusic-OCR uses a vision encoder redesigned for music:
• 8×8 fine-patch resolution for tiny details
• 2D positional encoding aligned with staff lines
• Dual attention: local (notes) + global (layout)
• Pretrained on millions of synthetic sheets
This lets the model capture both symbols and structure.
3/
🎼 The Decoder
Instead of outputting words, the decoder outputs musical events, like:
<note:F#5-quarter>
<clef:G>
<key:D-major>
It also handles:
• Polyphony
• Chords
• Multiple voices
…thanks to a Mixture-of-Experts architecture.
4/
🧠 Musical Grammar Built In
DeepMusic-OCR isn’t allowed to output impossible music.
A “musical grammar loss” penalizes:
• Broken measures
• Impossible rhythms
• Invalid symbols
This gives the model a sense of musical correctness.
5/
🖼️ Training Data
Since real OMR data is limited, we generated millions of training examples from:
• MusicXML
• MuseScore
• IMSLP
Each score is rendered in multiple engraving styles, with distortions to simulate scanned pages.
Synthetic data = the breakthrough.
6/
⚡ Results
With ~200 tokens per page, DeepMusic-OCR achieves:
• High symbol accuracy
• Consistent measures
• Strong transfer to handwritten music
And it does so at a fraction of the compute cost of traditional OMR systems.
7/
🌍 Why This Matters
DeepMusic-OCR enables:
• Digitization of classical archives
• Large-scale symbolic music analysis
• Conditioning generative models with real scores
• Education tools for musicians
This isn’t just OCR it’s visual-symbolic music understanding.
2,18 mil
6
El contenido de esta página lo proporcionan terceros. A menos que se indique lo contrario, OKX no es el autor de los artículos citados y no reclama ningún derecho de autor sobre los materiales. El contenido se proporciona únicamente con fines informativos y no representa las opiniones de OKX. No pretende ser un respaldo de ningún tipo y no debe ser considerado como un consejo de inversión o una solicitud para comprar o vender activos digitales. En la medida en que la IA generativa se utiliza para proporcionar resúmenes u otra información, dicho contenido generado por IA puede ser inexacto o incoherente. Lee el artículo vinculado para obtener más detalles e información. OKX no es responsable del contenido alojado en sitios de terceros. El holding de activos digitales, incluyendo stablecoins y NFT, implican un alto grado de riesgo y pueden fluctuar en gran medida. Debes considerar cuidadosamente si el trading o holding de activos digitales es adecuado para ti a la luz de tu situación financiera.