كان أول من سكن المدينة العمالقة ، وهم قوم من ولد عِمْلِـيق بن لاوَذَ بن إِرَمَ بن سامِ بن نُوح، وهم الجبابرة من بقية قوم عاد ، كانوا بالشام على عهد موسى عليه السلام ، ثم تفرقوا فـي البلاد ، فجاءوا إلى يثرب ، واستقروا بها.
ثم تغلبت عليهم بعض قبائل اليهود التي جاءت من الشام نتيجة حرب الرومان لهم ، وتفرقهم في البلاد ، فلجأت بعض قبائلهم وعلى رأسهم بنو النضير ، وبنو قريظة إلى يثرب ، وأقاموا بها .
وبقي اليهود في يثرب حتى نزحت إليهم قبائل الأوس والخزرج من بلاد اليمن نتيجة تهدم سد مأرب .
عاش اليهود والأوس والخزرج في وئام فترة من الزمان ، وتحالفوا ليأمن بعضهم بعضاً ، فلما أحس اليهود بقوة شوكة الأوس والخزرج انقلبوا عليهم ، ونقضوا الحلف معهم ، فاستنجد العرب ببني عمومتهم الغساسنة ، فأنجدوهم أَنَفَةً من تسلط اليهود عليهم .
وبقي الأوس والخزرج في وئام ، واستمروا على ذلك حتى نشبت الحرب بينهم ، وقامت حروب طويلة كان النصر في أغلب الأحيان حليف الخزرج ، مما دفع بالأوس إلى التحالف مع اليهود الذين وقفوا معهم في موقعة "بُعاث" حيث انتصر فيها الأوس على الخزرج ، بعد أن أوقعوا فيهم مقتلة عظيمة، ثم تصالح الفريقان ، واتفقا على إقامة حكومة تعمل على استقرار الأمور بيثرب برئاسة عبد الله بن أبي سلول الخزرجي .
وبعد مبعث رسول الله صلى الله عليه وسلم ، دخل في الإسلام أفرادٌ من أهل المدينة ، وبايعوا الرسول على التأييد والنصرة ، وأخذ الإسلام ينتشر بين الأوس والخزرج ، بعدما أحسوا بطعم الإيمان وأثر التوحيد ولذة العبادة .
وعندما هاجر رسول الله صلى الله عليه وسلم إلى المدينة ، ودان الجميع لسلطان الإسلام ، رأى ابن أبي بن سلول أن جاهه مهدد ، وسلطانه زائل ، فأظهر إسلامه ، وأبطن كفره ونفاقه .
أما زعيم الأوس : أبو عامر بن صيفي بن النعمان ، فبقي على كفره ، وخرج إلى مكة ، ثم الطائف ، ثم التحق بالروم في الشام .
وبقيت المدينة للمسلمين الذين أقاموا فيها دولة الإسلام الأولى ، بقيادة الرسول صلى الله عليه وسلم ، ينبعث منها الخير والهدى إلى أرجاء المعمورة .