ԽՍՀՄ–ի կազմավորումը սկսվեց Ռուսաստանում քաղաքացիական պատերազմի ավարտից հետո, երբ առաջ եկավ ՌԽԴՍՀ–ի և խորհրդային այլ հանրապետությունների միջև հարաբերությունների հստակեցման և պետական կարգի որոշման խնդիրը։
ՌԽԴՍՀ–ի և խորհրդային հանրապետությունների միջև 1920–1922 թվականներին կնքվեցին արտաքին քաղաքականության, պաշտպանության և տնտեսական գործունեության բնագավառում համագործակցական պայմանագրեր։ Խորհրդային հանրապետություններն անկախ էին, բայց ձևականորեն և այդ պայմանագրերը չէին ենթադրում նրանց իշխանության բարձրագույն մարմինների ենթակայությունը ՌԽԴՍՀ–ի կառավարությանը։
Խորհրդային Ռուսաստանի ղեկավարության կարծիքով՝ Ռուսական կայսրության կազմում գտնվելու ընթացքում այդ պետությունների ժողովուրդների միջև ձևավորվել էին պատմական, տնտեսական և մշակութային հարաբերություններ, և այդ ամենը տրամաբանական էր դարձնում նրանց միավորումը։