ریشهی این واژه درست مشخص نیست، و چنین مینماید که از زبانهای کهن قفقازی نخست در اکدی و از آنجا در سایر زبانهای ایرانی کهن وامگیری شده باشد. یک احتمال دربارهی خاستگاه این واژه آن است که از بن پیشاسامی «*خَرَط/ *حَرَث» گرفته شده باشد که «کاشتن، شخم زدن» معنی میدهد. صورتهای باستانی آن چنین بوده است: 𒌑𒄯𒄯 (حَرحَر: نوعی گیاه که از دانهاش ادویه میگرفتهاند) سومری،𒄷𒊏𒁺 (خورادو) اکدی، חַרְדָּל (خَرْدَل) عبری، חרדלא (خَرْدْلا) آرامی فلسطینی، חַרְדְּלָא (خارْدْلا) آرامی بابلی، ܚܪܕܠܐ (حَرْدْلا) سریانی، խարտալ (خَرْتَل) ارمنی میانه،
این واژه در زبانهای زندهی ایرانی هم به این شکلها باقی مانده است: «خردل» و «خردله» و «خردلی» پارسی، «خَرْدَل» عربی و اردو. ख़र्दल (خَرْدَل) هندی را هم از همینجا وام گرفتهاند.
این کلمه در شعر پارسی گهگاه به کار گرفته شده است:
عطار نیشابوری: « عرش را گر چشم جان آید پدید تا ابد در خردلی حیران بود
عرش و خردل و آنچه در هر دو جهان ذره ذره جامهي جانان بود »
سعدی شیرازی: «میازار عامی به یک خردله که سلطان شبان است و عامی گله»