Namun, kepergiannya dari kampung halaman belakangan menunjukkan kepiawaiannya berniaga. Mayoritas penduduk setempat Kota Madinah, yakni kaum Anshar, bekerja sebagai petani. Hal yang berbeda dengan karakteristik orang Makkah yang kebanyakan pedagang.
Ikatan persaudaraan dibentuk Rasulullah dengan tujuan mengasimilasikan dua potensi tersebut. Abdurrahman dipersaudarakan dengan Sa'ad ibnu ar-Rabi' al-Autsari, sosok kaya raya di Madinah.
Saad berkata, Hartaku separuhnya untukmu (Abdurrahman) dan aku akan berusaha menikahkan kamu (dengan perempuan Anshar).
Mendengar itu, Abdurrahman menjawab, Semoga Allah memberkahi keluargamu dan hartamu. Tunjukkan saja, di mana tempat pasar perdagangan? Diketahui, Abdurrahman menikahi seorang perempuan dari kalangan Anshar dengan mahar emas seberat satu butir kurma.
Selama di Madinah, Abdurrahman merintis perniagaan keju dan minyak samin. Tidak membutuhkan waktu lama, laba perdagangan kian meningkat. Oleh Rasulullah SAW, apa yang dilakukan Abdurrahman dijadikan contoh bagaimana seorang Muslim bangkit.
Nabi SAW bersabda ketika ditanya perihal penghasilan apa yang paling baik, Apa yang dihasilkan orang dari pekerjaan tangannya dan semua jual beli mabrur. (HR Bukhari dan al-Hakim).