ریشه‌ی این واژه درست روشن نیست و کاربرد و معنای آن به زبان پارسی محدود است. از این رو احتمالا این فرض مشهور که خاستگاهی عربی دارد، نادرست باشد. در عربی تنها بنی که نزدیک به آن داریم «*حفی» است که یعنی «پابرهنه بودن» و خودش احتمالا دخیل باشد چون مشتق چندانی ندارد و در زبان‌های سامی دیگر دیده نمی‌شود. در این معنی لقب صوفی مشهور «بشر حافی» (بشر پابرهنه) را داریم.
شاهد دیگری که شاید ریشه‌ی این کلمه را روشن کند، نام شهر «حَیْفا» در فلسطین است که قاعدتا باید از همین‌جا آمده باشد. «حیفا» را به نام «کایافاس» که راهبی مسیحی بوده یا «کِفاس» که لقب یونانی سنت پیتر است منسوب کرده‌اند و آن را یونانی دانسته‌اند که آشکارا نادرست است. «حیفا» ریشه‌ای سامی دارد و یعنی «صخره». نام این شهر هم قاعدتا به خاطر جای گرفتن این شهر پای کوه کرمل به آن داده شده است. خویشاوندان این واژه در زبان‌های سامی قدیمی عبارتند از: «کاپو» (تخته سنگ) اکدی، ܟܐܦܐ (حافا: صخره) و ܟܝܦܐ (حیفا: تخته سنگ) سریانی، כיפא (کیفا: صخره) آرامی، חֵיפָה (حِیْفَه: اسم شهر) و חוֹף (حوف: ساحل، کرانه‌ی سنگی دریا) عبری. این بن در چندین جاینام دیده می‌شود و حدسم آن است که نام شهر «کوفه» هم از همین‌جا آمده باشد.
این واژه از آرامی به زبان‌های اروپایی هم راه یافته و khfas (کِفاس: صخره) یونانی و cephas (تخته سنگ) لاتین و Кифа (کیفا: سنگ) روسی را نتیجه داده که در ضمن لقب سنت پیتر هم هست. بنابراین نام آن قدیسان مسیحی از این شهر گرفته شده، نه آن که شهر را به نام ایشان نامگذاری کرده باشند.
با این همه واژه‌ی یاد شده در زبان‌های سامی صرف نشده و مشتق‌هایی به دست نداده است. بنابراین احتمالا این واژه در زبان‌های سامی کهن مثل اکدی از زبان‌های بومی ناشناخته‌ای وامگیری شده و به همان شکل در سایر زبان‌ها پراکنده شده باشد. واژه‌ی «حیف» در پارسی هم احتمالا از همین جا آمده و در اصل به معنای «ستم» بوده که در متون کهن مثل اشعار رودکی و جمال‌الدین عبدالرزاق نیز دیده می‌شود. معنای «ستم» برای این کلمه در زبان‌های سامی دیده نمی‌شود. ولی می‌توان حدس زد که از «سخت، سنگ‌سان، صخره‌ای» معنای «سنگدل، ستمگر» برخاسته و این دلالت به سرعت به سوی «دریغ» تحول یافته و بر این معنی مستقر شده باشد. «حیف» در پارسی اغلب با چندین فعل معین مثل «خوردن/ بردن/ بودن/ کشیدن» به کار گرفته می‌شود و مشتق‌های دیگرش چنین‌اند: «حیف‌نون»، «صدحیف»،
این واژه در شعر و ادب پارسی فراوان به کار گرفته شده است:
جمال‌الدین عبدالرزاق: «حیف بود سعی تو در قهر خصم خصم تو از خصم تو مقهور باد»
و: «این حیف بین که می‌رود اندر جهان عشق جرم از دو دیده آمد و بیداد بر مژه»
نظامی گنجوی: «نیروشکن است حیف و بیداد از حیف بمیرد آدمیزاد»
سعدی شیرازی: «هرکه نداند سپاس نعمت امروز حیف خورد بر نصیب رحمت فردا»
حافظ شیرازی: «غم دنیای دنی چند خوری؟ باده بخور حیف باشد دل دانا که مشوش باشد»
صائب تبریزی: «عالم بی‌خبری طرفه بهشتی بوده‌ست حیف و صد حیف که ما دیر خبردار شدیم»
شاپور تهرانی: «تا چشم را به خنجر رو آب داده‌ام آبی نخورده‌ام که نخوردم هزار حیف»