الفترة الآشورية والبابلية
تم تهجير بنو إسرائيل إلى بلاد الرافدين عام ٧٢٢ قبل الميلاد بعد أن قام الآشوريون بتدمير مملكة إسرائيل الشمالية وسبي الأسباط اليهود العشرة الذين كانوا يعيشون فيها. ثم تلاها قيام الملك البابلي نبوخذ نصر باجتياج مملكة يهودا عام ٥٩٧ قبل الميلاد وسبي عشرة آلاف يهودي حيث اقتادهم مع ملكهم يَهُويَاكِينَ من أورشليم إلى بابل. وكانت المرحلة الأخيرة بعد إحدى عشرة سنة عندما تم سبي الملك صِدقيا (٥٨٦ قبل الميلاد) مع عدد من اليهود وبذلك تم القضاء على مملكة يهوذا الجنوبية وتدمير البيت المقدس الأول في مدينة أورشليم. (الملوك الثاني ٢٥: ١- ١٧)

أقتيد اليهود إلى بابل بعد أن انتابهم حزن عميق وألم كبير من جراء تدمير البيت المقدس الأول وفقدهم أورشليم، وقد قيل في المزمور (١٣٧: ٤- ٥) قال اليهود في بابل ﴿كَيْفَ نَشْدُو بِتَرْنِيمَةِ الرَّبِّ فِي أَرْضٍ غَرِيبَةٍ؟ إِنْ نَسِيتُكِ يَاأُورُشَلِيمُ، فَلْتَنْسَ يَمِينِي مَهَارَتَهَا﴾ (ترجمة كتاب الحياة)؛ ومع ذلك قد عاشوا في مدن كثيرة منها، خَابُورَ (حزقيال ١: ١) وتلّ أبيب العراقية (حزقيال ٣: ١٥) وتَلّ مِلْحٍ وَتَلّ حَرْشَا (عزرا ٢: ٥٩ ونحميا ٧: ٦١). وعاش كثير من الأنبياء والزعماء الذين ورد ذكرهم في الكتاب المقدس العبري في بابل مثل النبي حزقيال (ذو الكفل) والنبي دانيال عليهما السلام وكذلك عزرا ونحميا اللذين قادا اليهود للعودة إلى أرض إسرائيل من بابل.

الفترة الفارسية والسلوقية
عندما انتصر كورش ملك الأخمينيين على البابليين عام ٥٣٩ ق.م.، سمح لليهود بالعودة إلى أرض إسرائيل حيث قاموا ببناء بيت المقدس الثاني؛ ومع ذلك فقد بقي الكثير من اليهود في بابل.
ووفقاً للمؤرخ اليهودي يوسف بن متاثيا الكاهن في كتابه «تاريخ اليهود» (١١: ٣٣٨)، عندما احتل الإسكندر المقدوني وجيشه بابل عام ٣٣١ قبل الميلاد سمح لليهود بالاستمرار في حياتهم الدينية كما كانوا يمارسونها أثناء الحكم الفارسي (الأخميني). ومع قيام الدولة السلوقية عام ٣١٢ قبل الميلاد، بدأ يهود بابل باستخدام تقويم سنويٍ أرخوا به وثائقهم الرسمية وعقود الزواج والطلاق، وقد استمر ذلك حتى نهاية الخلافة العباسية.

الفترة البارثية
في عام ١٢٠ قبل الميلاد، انتصر البارثيون – الذين هم شعب فارسي – على المملكة السلوكية، وحكموا بابل حتى عام ٢٢٤م. وخلال فترة حكمهم عاش اليهود في سلام وأمن، وتم تعيين رئيس للطائفة اليهودية في بابل، أطلق عليه اسم «رئيس الْمَسْبِيِّينَ»، وهو رجل من ذرية الملك داود، كان دوره سياسياً وليس دينياً؛ وقد استمر ذلك حتى القرن السادس بعد الميلاد.
ومن الحاخامين الذين وُلدوا في أرض إسرائيل قبل تدمير بيت المقدس الثاني (عام ٧٠م)، وجاءوا إلى بابل وعاشوا فيها: يهوذا بن بِتيرا في مدينة نصيبين، ونحميا من بيت ديلي في مدينة «نهرداع» على نهر الفرات.
في عام ١١٤م، قام الإمبراطور الروماني تراجان (٩٨م – ١١٧م) بمحاربة البارثيين والانتصار عليهم؛ وقد حكم بابل لسنوات قليلة. وفي عام ١١٧م طلب الإمبراطور تراجان من قائده قيطوس أن يهجّر اليهود من بابل لأنه كان يخاف من تحالفهم مع الفرس ضد الرومان؛ ويذكر المؤرخ المسيحي يوسابيوس القيصري (٢٧٥م- ٣٣٩م) بأن القائد قيطوس قام بقتل الكثير من يهود بابل بدلاً من تهجيرهم. («تاريخ الكنيسة المسيحيه» أو «Historia Ecclesiastica» ٤: ٢ ، ٣٠٦) بعد وفاة تراجان أصبح هادريان إمبراطور روما في الفترة (١١٧م – ١٣٨م) وقام بسحب الجيش الروماني من بابل.

وعندما قاد شمعون بن كوسبا تمرداً مفتوحاً ضد الرومان في أرض إسرائيل هرب تلاميذ الحاخام إشماعيل إلى بابل وأصبحوا معلمين ليهود بابل. وقد تتلمذ كثير من الحاخامين من أصل بابليٍّ على أيديهم وقد نزع منهم في نهاية القرن الثاني وبداية القرن الثالث الميلادي، ومنهم الحاخامون: أحاي بن يوشيا، إيسي بن يهوذا، حِيَّا الكبير، أبا أريكا، أبا بن أبا (أبو صموئيل)، لاوي بن سيسي.