سُميت هذه المدينة التي بناها سليمان بن عبد الملك في سنة 716 ميلادية في عهد الخليفة الأموي الوليد بن عبد الملك، بهذا الاسم لكثرة الرمول في أنحائها. وقيل إنها سُميت على اسم امرأة تدعى «رملة» التقاها سليمان بن عبد الملك في خيمة حين نزل في المكان، فأكرمته وأحسنت ضيافته. وعندما سألها عن اسمها قالت: رملة. فبنى سليمان البلدة وسماها باسم المرأة.