1905 yılında yapılan Portsmouth Antlaşması ile Sahalin Adası'nın 50. kuzey enleminin güneyi Japonya'ya verildi. 1907 yılında prefektörlük kuruldu ve başkenti önce Ōtomari daha sonra Toyohara oldu. II. Dünya Savaşı sonunda Ağustos 1945 tarihinde Japonya'nın teslim olmasından sonra Sovyet birlikleri tarafından işgal edildi 1 Haziran 1949 tarihinde prefektörlük lağvedildi.
Ağustos 1945'in başında Sovyet saldırısı başladığında Karafuto'da 400.000'den fazla insan yaşıyordu. Çoğu Japon ya da Kore çıkarımı yapıldı, ancak küçük bir Beyaz Rus topluluğu ve bazı Ainu yerli kabileleri de vardı . Ateşkes zamanında yaklaşık 100.000 sivil Hokkaidō'e kaçmayı başarmıştı .