من الصعب الجزم بديانة يافع قديما، لأنها قبيلة كبيرة ومتنوعة ولها تاريخ طويل ومعقد. ولكن بشكل عام، يمكن القول أن بنو يافع كانوا من أتباع الديانات القحطانية التي كانت تعبد الأصنام والكواكب والأرواح والأنساب. ومن أشهر الأصنام التي كانت تعبد في يافع هو ذي جنى الذي كان يقال أنه حامي القبيلة ومانحها الغنى والشرف. وكان له معبد كبير في منطقة ثمر، حيث كان يجتمع اليافعيون للقرابين والأضاحي والأفراح
ومع دخول الإسلام إلى اليمن في القرن السابع الميلادي، أسلم بعض بنو يافع، ومنهم ذي يزن بن شرحبيل بن يافع، الذي كان ملك حمير قبل أن يهزمه الملك الفارسي كسرى. وقد أرسل ذي يزن رسولاً إلى الرسول محمد صلى الله عليه وسلم يطلب منه المساعدة في استعادة ملكه، فأرسل إليه رسوله الوليد بن عقبة مع جيش من المسلمين، ففتحوا اليمن للإسلام، وأسلم معظم بنو يافع
ولكن لم يستقر حال بنو يافع بعد ذلك، فقد اختلفوا في المذاهب والطوائف، فمنهم من اتبع المذهب الشافعي، ومنهم من اتبع المذهب الزيدي، ومنهم من اتبع المذهب الإسماعيلي. وقد شهدت يافع عدة حروب دينية وسياسية بين هذه المذاهب، خصوصاً في عصور الدولة الطاهرية (858-1454 هـ) التي كانت تحكم جزءاً كبيراً من جنوب الجزيرة العربية بديانة الإسماعيلية
وفي القرون الأخيرة، تأثرت يافع بالحركات الإصلاحية والتجديدية في الإسلام، مثل الحركة المحدثية التي قادها الإمام محمد بن علي الشوكاني (1173-1250 هـ) في صنعاء، والحركة السلفية التي قادها الشيخ محمد بن عبد الوهاب (1115-1206 هـ) في نجد.