بدأت فكرة تأسيس المعهد العربي في العام 1957م بتشكيل مجلس أمناء المعهد العربي في الكويت الشقيق من أجل رعاية أبناء الشهداء واللاجئين المعوزين والمتشردين والمتردين في وهدة العوز  رعاية تؤهلهم لأن يكونوا مواطنين صالحين منتجين.  

وتم اختيار مدينة القدس مقراً لجمعية المعهد العربي، لتوسطها قلب العالم ولكونها موطن المقدسات، وتأكيداً لعروبتها، ودعماً لأهلها المرابطين المدافعين عن دنيا العروبة والإسلام.

وعلى ربوة من روابي ضواحي مدينة القدس والتي لا تبعد عن مركز المدينة إلاّ 3 كم تم تشييد البناء في بلدة أبوديس المجاورة للمسجد الأقصى المبارك في العام 1965م.

ومع اندلاع حرب الخامس من حزيران عام 1967 تمّ افتتاح قسم الأيتام في مدرسة المعهد العربي التابعة لجمعية المعهد العربي ومنذ ذلك الوقت تُثبتُ مدرسة المعهد العربي جدارتها وتميزها وريادتها للمدارس في القدس وفلسطين.

ويحقق طلاب مدرسة المعهد نتائج متميزة في المجالين الأكاديمي والتربوي، ويتبوأ طلابها أعلى الدرجات والمراتب.   ومن الجدير بالذكر أن المعهد العربي حصل على الدرجة الأولى مرتين خلال مسيرته التربوية على مستوى فلسطين والأردن الشقيق في امتحان الثانوية العامة. ويتأهل المعهد كل عام ليقود التفوق على مدارس القدس. 

والمعهد مدرسة رائدة على مستوى فلسطين، حيث مثلت فلسطين في المحافل الدولية في معرض « إنتل الدولي» في الولايات المتحدة الأمريكية عن تجربة المصد المرن ، وفي تجربة نقل الصوت بوساطة الليزر في معرض «إنتل للعلوم» في دبي.

ومثل المعهد العربي فلسطين في تحدي القراءة العربي 2019 بحصول أحد طلابه على المرتبة الأولى والتي تنافس عليها (50000 طالب وطالبة) من مدارس فلسطين (غزة، الضفة،القدس).