1950 yılında Eskişehir'de doğdu. Türk futbolunun renkli simalarından bir olan Rasim Kara, Beşiktaş'a hem futbolcu hem de teknik adam olarak hizmet veren ender isimlerdendir.

Eskişehir Işıkspor'da futbola kaleci olarak başlayan Kara, Uşakspor'dan Bursaspor'a transfer oldu. Oradan da Türk Milli Takımına kadar yükseldi. 1975/1976 sezonunda Beşiktaş'a transder oldu ve 9 sezon boyunca Beşiktaş'ın kalesini korudu.

1981/1982 sezonunda lig şampiyonu olan takımın da kalesini koruyan Rasim Kara, 1984'de futbola veda etti ve teknik direktörlüğe başladı.

Antalyaspor'da görev yaptıktan sonra, önce Sepp Piontek'in sonra da Fatih Terim'in yardımcılığını üstlendi. Bu dönemde milli takımın yükselişinde rol oynayan teknik adamlardan biri oldu ve Türk Milll Takımı Euro 96'ya katılma hakkını kazanarak tarihinde ilk kez Avrupa Futbol Şampiyonası finaline katılma hakkını elde etti. 1996/1997 sezonunda Beşiktaş Jimnastik Kulübü'nün teknik direktörü oldu.

Siyah-Beyazlı takım onu çalıştırdığı dönemde şampiyonluğu son haftaya kadar kovalamış, lig tarihinin en yüksek gol sayısına ulaşmış ve Avrupa Kupaları'nda ki en başarılı sezonlarından birini yaşamıştır. Buna rağmen Beşiktaş'tan ayrılmak zorunda kalmıştır. Daha sonra Bursaspor, Çanakkale Dardanelspor, Rizespor, Kocaelispor gibi birçok takımda kısa süreli görevler almıştır.

Yurt dışında da görev alan Rasim Kara, Kanada'nın Ottowa Wizards takımını çalıştırmış ve kendi liginde şampiyon yapmıştır. Son olarak Azerbaycan Liginde Hazar Lenkeran takımında iki sezon görev yapmıştır. Azerbaycan'ın Karabağ takımını çalıştırmıştır.