A área de Carachi era conhecida pelos antigos gregos por muitos nomes: Crócola, o sitio onde Alexandre Magno acampou para preparar uma frota com destino à Babilônia após a campanha no Vale do Indo; 'Morontobara' (provavelmente a ilha de Manora perto do porto de Carachi), desde onde zarpou Nearco, almirante da frota macedônica; e Barbárico, um porto do reino indo-grego de Báctria. Depois foi conhecida pelos árabes como Debal, o ponto de partida de Muhammad bin Qasim e seu exército no 712.

Carachi foi fundada como Kolachi por tribos balúchis de Baluchistão e Macrão que estabeleceram uma pequena comunidade de pescadores na área. Descendentes da comunidade original ainda vivem na área da pequena ilha de Abdullah Goth, localizada próxima do Porto de Carachi. O nome do dito assentamento ainda permanece no nome da famosa localidade de Mai Kolachi, na cidade.

A cidade foi visitada pelo almirante otomano Sidi Ali Reis na década de 1550 e foi mencionada em seu livro Mirat ul Memalik (O Espelho dos Países) em 1557 d. C. A atual cidade começou sua história como um pequeno assentamento pesqueiro quando uma pescadora balúchi chamada Mai Kolachi começou a habitar o lugar e começou sua família. A aldeia que logo cresceria fora de seus limites era conhecida como Kolachi-jo-Goth (Aldeia de Kolachi em hindi). No final do século XVII a aldeia comerciava ao longo do Mar da Arábia com Mascate e com a região do Golfo Pérsico. Um pequeno forte foi construído para protegê-la, provido de canhões importados de Mascate. O forte tinha duas entradas principais: uma virada ao mar, conhecida como Kharra Darwaaza (Porta Salgada, em alusão à água salgada) e outra mirando o rio Lyari, conhecida como Meet'ha Darwaaza (Porta Doce) (Mithadar). A localização de ditas portas corresponde às áreas modernas de Kharadar e Mithadar, respectivamente.

Em 1795 a aldeia se converteu em um domínio do povo balúchi de Talpur. Una pequena feitoria foi aberta pelos britânicos em setembro de 1799, mas foi fechada um ano depois. Logo após enviar um par de missões exploradores a zona, a Companhia Britânica das Índias Orientais conquistou o local em 3 de fevereiro de 1839 .