赫尔德最初求学于斯图加特理工大学（今斯图加特大学），后于1877年赴柏林，并在利奥波德·克罗内克，卡尔·魏尔斯特拉斯，和恩斯特·库默尔的指导下学习。
赫尔德的著名成就包括：赫尔德不等式，若尔当-赫尔德定理，证明了每一满足阿基米德性质的全序群都同构于实数的加法群的某一子群，200阶以下简单群的分类，发现了对称群S6的异常外自同构，以及赫尔德定理（说明伽玛函数不满足任何代数微分方程）。另一以赫尔德命名的概念是赫尔德条件（或称赫尔德连续），在包括偏微分方程理论和函数空间理论等数学分析的许多领域中有应用。